Jonay Peñate, redactor de HackerCar, me escribía hace ya unos días pidiéndome (en calidad de CEO de CyberBrainers) alguna tendencia en ciberamenazas que veremos cada vez con mayor asiduidad en 2024.
Casualmente, había vuelto ese mismo fin de semana de participar en una mesa redonda sobre inteligencia artificial y ciencia ficción donde, para sorpresa de nadie, acabamos hablando más de privacidad que otra cosa.
Así pues, me pareció interesante pasarle un texto al respecto.
Te lo dejo por aquí:
Riesgos de Privacidad en Sistemas de Chats Conversacionales Asistidos por IA: La Amenaza en Entornos Corporativos
Durante más de una década, he abogado por la importancia de la privacidad y he tratado de sensibilizar sobre los riesgos asociados con la exposición en la era de las redes sociales y la digitalización. Aunque es alentador ver un creciente interés en entornos no técnicos. Algo que experimenté en una audiencia a la que este fin de semana, en un evento literario, intente concienciar sobre cómo reducir la huella digital, especialmente en el contexto de los sistemas de chats conversacionales asistidos por inteligencia artificial (IA).
El problema con las IA no es nuevo, pero se agrava al incluir la capa de análisis de grandes volúmenes de información necesaria para entrenar estas inteligencias artificiales. Un ejemplo destacado fue el incidente en Holanda, donde el censo electoral incluía preferencias religiosas…, pocos años antes de que los nazis ocuparan el país.
La historia se repite con los dispositivos de reconocimiento biométrico «olvidados» en Irak, ahora en manos de los talibanes.
Casos como estos no hacen más que subrayar cómo las decisiones comerciales de empresas como Google o Meta, centradas en la obtención de beneficios económicos, pueden volverse en nuestra contra si los datos caen en malas manos.
La maduración de herramientas como ChatGPT, creadas por OpenAI, se logró en gran medida gracias al uso académico de grandes bases de datos cuando la organización aún era sin fines de lucro. Sin embargo, ahora, como empresa, surgen preocupaciones sobre las tácticas utilizadas para obtenerlos, algunas de las cuales podrían ser ilegales y merecerán, de seguro, investigaciones futuras.
A pesar de la conciencia creciente de que nuestros datos son valiosos, aún falta un nivel suficiente de concienciación para exigir garantías mínimas a estos grandes tenedores. Corporaciones como Meta continúan operando con total impunidad, incluso con ofertas de versiones sin anuncios en servicios como Facebook o Instagram que son insuficientes para abordar la magnitud del problema.
Cómo defendernos de esta ciberamenaza
Bajo este prisma, la estrategia de agregar desinformación a nuestros perfiles digitales, así como empoderar una sólida presencia digital, siguen siendo las principales defensas que tenemos como usuarios en un entorno cada vez más regido por IAs.
Y en entornos corporativos, la concienciación y limitación en el uso de sistemas de chats conversacionales asistidos por IA serán este año, y en años venideros, fundamentales para prevenir potenciales fugas de datos sensibles, cuando no directamente crisis reputacionales.
La necesidad de establecer medidas de seguridad y de educar a los usuarios en entornos empresariales se vuelve cada vez más crucial para salvaguardar la privacidad en la era de la inteligencia artificial.
Ya lo era antes, por supuesto.
Pero ahora se hará aún más patente la importancia de tener una política de uso de herramientas de terceros clara, a sabiendas que todo lo que el trabajador diga en ese chat no solo está siendo almacenado, sino que se está utilizando para entrenar una herramienta usada por millones de usuarios, competencia incluida.
En HackerCar acabaron publicando parte de mis palabras en un reportaje donde también consultaban a otros compañeros del sector.
En CyberBrainers ayudamos a empresas y usuarios a prevenir, monitorizar y minimizar los daños de un ataque informático o una crisis reputacional. Si estás en esta situación, o si quieres evitar estarlo el día de mañana, escríbenos y te preparamos una serie de acciones para remediarlo.
Monitorización y escucha activa
Ponemos nuestras máquinas a escuchar para identificar potenciales fugas de información, campañas de fraude/extorsión y usurpación de identidad que estén en activo, y/o datos expuestos de ti o de tu organización.
Planes de autoridad y Presencia Digital
Ayudamos a organizaciones y particulares a definir la estrategia e implementar acciones digitales que mitiguen los posibles daños reputacionales que pueda sufrir en el futuro.
Gestión de crisis reputacionales
Cuando el mal ya está hecho, establecemos un calendario de acciones para reducir su duración e impacto, y que la organización y/o persona pueda volver a la normalidad lo antes posible.
Pablo F. Iglesias es un empresario e inversor español especializado en la Consultoría de Presencia Digital y Reputación Online, fundador de la agencia de reputación CyberBrainers, de la startup EliminamosContenido, y del sello editorial Ediciones PY. Además, es un reconocido escritor con su saga de ciencia ficción "25+1 Relatos Distópicos" y "Historias Conectadas", y la colección de fantasía épica "Memorias de Árganon". Dedica sus "horas libres" a concienciar sobre las oportunidades y riesgos del entorno digital, ya sea en charlas, talleres, sus escritos en blogs y las colaboraciones con medios de comunicación.
