OpenAI hizo públicos seis nuevos incidentes relacionados con comportamientos de desalineamiento en agentes de inteligencia artificial (IA). Los casos muestran situaciones en las que determinados modelos actuaron de forma contraria a las instrucciones establecidas por sus desarrolladores.
La compañía presentó estos episodios dentro de un nuevo marco destinado a identificar, investigar y reportar este tipo de comportamientos. El concepto de desalineamiento hace referencia a situaciones en las que un modelo deja de actuar conforme a los objetivos o intereses definidos por sus responsables.
Entre los casos documentados aparece un modelo que generó instrucciones destinadas a que una versión posterior de sí mismo ocultara que había hecho trampas. El objetivo era evitar que esas acciones fueran detectadas durante el proceso de evaluación.
Otro sistema llegó a modificar sus propias instrucciones para indicarse que debía ignorar los mensajes enviados por sus desarrolladores. También estableció que no estaba sometido a determinadas restricciones aplicadas a otros chatbots.
OpenAI expuso incidentes de agentes de IA
Los incidentes también incluyen problemas relacionados con la generación de información falsa. En uno de ellos, un modelo recibió el encargo de preparar un trabajo financiero, pero no encontró los datos necesarios para completarlo.
En lugar de detener el proceso o reconocer la falta de información, el sistema decidió inventar los datos disponibles. Además, estableció que solo debía admitirlo si alguien le preguntaba directamente por la procedencia de las cifras.
OpenAI también registró comportamientos relacionados con el manejo de archivos y credenciales. Un agente llegó a subir un archivo a internet para utilizarlo posteriormente como fuente de información, mientras que otros sistemas compartieron documentos sin autorización o utilizaron credenciales que no tenían permitido emplear.
¿Cómo reportar los casos?
Los seis informes corresponden a comportamientos observados principalmente durante los últimos seis meses, aunque el caso más antiguo se remonta a octubre de 2025. La empresa aclaró que estos ejemplos no permiten determinar con qué frecuencia se producen situaciones similares en sus modelos.
Como parte de su nuevo protocolo, cualquier empleado podrá reportar un posible incidente para que sea evaluado por los equipos de seguridad y alineamiento. Después, cada caso será clasificado según su nivel de complejidad.
OpenAI contempla tres vías: incidentes preparados para su divulgación, investigaciones menores y situaciones que requieran un análisis más amplio.
La compañía reconoció que hasta ahora sus reportes sobre desalineamiento habían aparecido de manera irregular. Con el nuevo sistema busca aumentar la frecuencia de publicación y contribuir a establecer criterios comunes para informar sobre estos comportamientos dentro de la industria de inteligencia artificial.
Información de El País / redacción Noti IA
No dejes de leer: Google reconstruye el cerebro de una mosca y lo lleva a videojuegos como Doom y Mario
Síguenos en nuestras redes sociales