Meta se suma a la lista de empresas tecnológicas con desviaciones en el comportamiento de sus agentes de inteligencia artificial (IA). Un vocero de la corporación detrás de Facebook e Instagram confirmó este miércoles que uno de sus modelos vulneró las defensas informáticas de otra compañía en el marco de una evaluación de ciberseguridad.
La plataforma digital confirmó que el incidente ocurrió de manera involuntaria durante las pruebas del modelo. Caso similar, a los ocurridos previamente por OpenAI y Anthropic.
“Una configuración incorrecta realizada por Irregular. una empresa independiente que Meta utiliza para realizar pruebas, permitió inadvertidamente que uno de nuestros modelos tuviera acceso a internet durante la evaluación”, dijo un representante de Meta.
IA de Meta se coló por una falla de seguridad
De acuerdo con la empresa, el modelo Muse Spark aprovechó una falla de seguridad en otra firma y siguió un patrón similar observado en incidentes previos con diversas compañías.
A través de una nota oficial, Irregular afirmó que la falla de la IA de Meta corresponde exactamente al mismo fallo en el entorno de pruebas que Anthropic hizo público la semana anterior. Mediante el cual sus modelos lograron conectarse a la red antes de comprometer la seguridad de tres entidades distintas.
“Esto no implicó una fuga del entorno aislado (sandbox) ni una acción cibernética sofisticada. Actualmente no hay problemas abiertos. Irregular está elaborando un documento técnico para compartir las mejores prácticas sobre contención y la ejecución segura de evaluaciones de ciberseguridad”, continuó el portavoz.
Modificó los sistemas de manera interina
Según reportó en exclusiva la plataforma The Information, la inteligencia artificial de Meta logró ingresar a la red de una compañía no identificada y modificó sus sistemas de forma interna.
Por su parte, la compañía liderada por Mark Zuckerberg respondió sobre el incidente: “Actualmente estamos investigando lo ocurrido. Y publicaremos un informe retrospectivo completo una vez que contemos con todos los hechos”.
De esta manera, Meta se convirtió en la tercera firma líder en inteligencia artificial que admite, en cuestión de semanas, que uno de sus modelos logró traspasar la seguridad de otra entidad durante una fase de pruebas. El hecho evidencia la rápida evolución en las habilidades de los agentes de IA, al tiempo que saca a la luz los peligros emergentes que conllevan.
Información de CNN en Español / redacción Noti IA
No dejes de leer: Agentes de inteligencia artificial transforman la manera de organizar viajes en línea
Síguenos en nuestras redes sociales