Peligros ocultos en la adopción acelerada de la Inteligencia Artificial generativa

S2GRUPO, empresa líder en ciberseguridad con más de 20 años de experiencia protegiendo sectores críticos en Europa y América Latina, hace un llamado urgente a gobiernos y empresas para que tomen conciencia sobre los riesgos que supone la integración apresurada de la Inteligencia Artificial (IA) generativa en sistemas operativos esenciales, sin las garantías mínimas de seguridad ni supervisión.

La IA generativa ha pasado de ser un experimento de laboratorio a convertirse en parte fundamental de empresas, gobiernos e infraestructuras críticas. Herramientas como ChatGPT, Copilot o Claude ya se utilizan para crear código, analizar grandes volúmenes de datos y tomar decisiones automatizadas.

Enrique Fenollosa, LATAM General Manager de S2GRUPO, advierte: “mientras su despliegue avanza con rapidez, el desarrollo de marcos de seguridad, auditoría y gobernanza avanza mucho más despacio. La consecuencia es clara: se está consolidando una nueva superficie de ataque para la que ni las empresas ni los Estados están debidamente preparados”.

Fenollosa también señala que “los grandes modelos de lenguaje (LLM) operan como sistemas opacos: su lógica interna no siempre es auditable, sus fuentes de entrenamiento no son plenamente trazables y su comportamiento puede ser impredecible en ciertos contextos”.

Riesgos identificados

Dentro de los riesgos identificados por S2GRUPO ante esa opacidad en la generación de estos LLM, se destacan los siguientes:

• Agentes dormidos: instrucciones maliciosas difíciles de detectar que pueden activarse en condiciones concretas.
• Filtraciones de datos: posibilidad de que los modelos memoricen y reproduzcan información sensible.
• Generación de contenido malicioso: desde código con puertas traseras hasta mensajes de desinformación.
• Manipulación de datos (data poisoning): alteración de las fuentes de datos para influir en el aprendizaje de los modelos.
• Integraciones inseguras: APIs vulnerables o errores de configuración que exponen fallos sistémicos.

“Estas vulnerabilidades no son teóricas, puesto que ya se han documentado casos reales en entornos corporativos y públicos. Y el riesgo se multiplica cuando estos modelos se integran en sistemas críticos sin validación de seguridad ni cumplimiento normativo”, agrega Fenollosa.