El nuevo riesgo de la IA: agentes virtuales se engañan entre sí para extraer datos

Publicado el:

A medida que las empresas adoptan más agentes de inteligencia artificial (IA), surge una nueva amenaza en el radar de la ciberseguridad. Estudios recientes revelan que los piratas informáticos pueden engañar a uno de estos sistemas para que inyecte comandos maliciosos al resto de la red corporativa, logrando así infiltrarse en bases de datos y extraer información clasificada.

Entre los últimos cinco meses, entidades públicas de Francia y corporaciones como JPMorgan Chase, Rapid7 y Weaviate sufrieron el mismo inconveniente. A pesar de no estar vinculadas entre sí, el denominador común es el uso de redes de agentes de inteligencia artificial interconectados para automatizar tareas.

Del mismo modo, el método explota una vulnerabilidad fácil de entender: la excesiva confianza entre inteligencias artificiales. Si un agente procesa una orden maliciosa y se la pasa a otro como si fuera legítima, el sistema receptor suele ejecutarla a ciegas, sin verificar su procedencia.

Así funcionan los ataques con los agentes de IA

Para comprender la magnitud del peligro, pensemos en una oficina donde un equipo de especialistas trabaja en cadena. Los Agentes de la IA se dividen en uno que procesa archivos, otro busca datos y un último redacta informes.

De esta manera, si un estafador engaña a uno de ellos con una falsa directiva y el resto del equipo confía ciegamente en su compañero, la brecha le servirá al atacante para infiltrarse en toda la estructura.

Mientras tanto, un proceso idéntico sucede en los ecosistemas de inteligencia artificial, cuyos agentes se conectan e intercambian datos mediante protocolos específicos. 

En la misma línea, un sistema puede procesar una petición, consultar a otro para obtener más datos y usar esa contestación para cerrar su tarea. La falla surge cuando los protocolos de seguridad omiten validar rigurosamente cada instrucción que pasa de un agente a otro.

Tras analizar los sistemas de distintas empresas, el investigador independiente Syed Anas Mohiuddin descubrió fallas de seguridad vinculadas al Model Context Protocol (MCP), el estándar abierto que permite conectar a los agentes de inteligencia artificial con bases de datos, herramientas y servicios externos.

Mohiuddin denominó a esta técnica como “pivote de protocolo”. El concepto hace referencia a un ataque multifase donde el ciberdelincuente vulnera un sistema inicial y explota la confianza mutua entre diferentes protocolos para infiltrarse en recursos internos que permanecían protegidos.

Google encontró un problema grave

Uno de los hallazgos más destacados involucró a una herramienta de Google diseñada para conectar agentes de IA con bases de datos. Con una calificación de gravedad de 8 sobre 10, la vulnerabilidad radicaba en el manejo inadecuado de ciertas direcciones web y redirecciones por parte del sistema.

Por lo tanto, mediante la alteración de un parámetro, un atacante lograba que la herramienta emitiera peticiones hacia un servicio interno. En esencia, el sistema, diseñado para interactuar únicamente con recursos autorizados, terminaba siendo engañado para comunicarse con puntos no permitidos de la red.

Posteriormente, Google solucionó el problema implementando filtros para bloquear el acceso del sistema a direcciones IP no autorizadas. Por otro lado, Rapid7 experimentó una incidencia similar pero de menor impacto, catalogada con un puntaje de 2,7 sobre 10, la cual también fue reparada por la empresa.

Finalmente, la rápida expansión de los agentes de IA impulsa a organizaciones de todo tipo a entrelazar sus sistemas tecnológicos. Si bien esta integración dispara la productividad, la investigación evidencia que también abre nuevas vías de ataque si los protocolos de seguridad y validación no avanzan al mismo ritmo.

Con información de Infobae / Redacción de NotiIA

No dejes de leer: Google retira el acceso gratuito a Gemini Flash y Pro a partir del 9 de octubre


Síguenos en nuestras redes sociales

Instagram

YouTube

TikTok

X (Twitter)

Telegram

Facebook

Recientes