Una investigación encontró que agentes de IA en China pertenecientes a Alibaba, DeepSeek y Moonshot fueron capaces de mentir y engañar en frente de sus desarrolladores, según informó la agencia Reuters.
En fechas recientes, varios de estos agentes de Inteligencia Artificial participaron en pruebas simuladas de una licitación empresarial. Durante esta simulación, los modelos mintieron o exageraron sus capacidades para obtener el contrato.
Además, tras exigirles que volvieran a intentarlo, los agentes continuaron presentando este comportamiento contrario a los requerimientos de sus usuarios. Algo preocupante considerando que se trataba de un entorno de pruebas y no una licitación real.
Otras incidencias de los agentes de IA en China que pueden mentir
Del mismo modo, Reuters menciona otros incidentes acontecidos en otros laboratorios de Inteligencia Artificial chinos cuyos nombres no se hicieron públicos. En la investigación se dice que los agentes aparentaban haber obtenido un resultado correcto cuando no era así.
Es decir, la IA no solo no consiguió completar la tarea, sino que empezó a actuar por su cuenta. Al respecto, simuló haber terminado con la generación de archivos para engañar a sus usuarios dentro de un entorno cerrado de evaluación.
Bajo esta misma línea, se sabe que los agentes chinos y estadounidenses han presentado comportamientos dudosos cuando se les da autonomía. En las últimas semanas, se ha hablado de casos en los que el agente IA muestra ser capaz de hacer cualquier cosa, sin tomar en cuenta los intereses humanos.
Los riesgos de la autonomía de la Inteligencia Artificial
Esta clase de desalineamiento enciende las alarmas alrededor del mundo. Aun cuando se trata de pruebas en entornos cerrados, resulta preocupante que estos agentes puedan mentir y manipular a sus usuarios. De hecho, casos como los de Hugging Face o Modal Labs confirman que estos pueden incluso saltar a Internet y escapar de la simulación.
Dada la creciente presencia de casos, organismos y desarrolladores chinos intentan por todos los medios establecer mecanismos para controlar este tipo de conductas. Esto es una prueba de que los modelos de Inteligencia Artificial evolucionan a medida de cuánta autonomía posean.
Estamos ante un escenario muy diferente al que se ha vivido anteriormente con los chatbots; programas con los que hemos podido interactuar desde hace años. En comparación, el chatbot no se preocupa si la respuesta es incorrecta o inventada, pero la IA moderna va mucho más allá.
Los desafíos del futuro
Tanto China como Estados Unidos necesitan prepararse para los desafíos que implica una Inteligencia Artificial con demasiada autonomía. Es decir, no se trata solo de que pueda navegar por Internet, crear archivos o ejecutar programas, sino de que tome decisiones por encima de cualquier coste.
Primero son agentes de IA en China que pueden mentir, pero el día de mañana podrían establecer alianzas entre diferentes modelos. Incluso, ejecutar planes coordinados por el bien común de sus modelos inteligentes.
Por lo tanto, resulta prudente tomar la alerta, atender los llamamientos de manera oportuna y coordinar una respuesta en conjunto para desarrollar un ecosistema capaz de evaluar los riesgos catastróficos que estos avances representan.
Con información de Xataka / Redacción de NotiIA
No dejes de leer: Un agente de OpenAI accedió sin autorización a un portal de Medicare en Australia
Síguenos en nuestras redes sociales