El debate sobre los límites y riesgos de la IA volvió a cobrar fuerza después de la renuncia pública de Jacob Coxon, investigador que trabajó tanto en OpenAI como en Anthropic.
Coxon anunció su salida de Anthropic tras aproximadamente tres años dedicados a investigaciones relacionadas con el preentrenamiento de modelos de inteligencia artificial, una etapa fundamental en la que los sistemas procesan grandes cantidades de información para desarrollar sus capacidades.
En sus declaraciones públicas, el investigador cuestionó la velocidad con la que las principales compañías tecnológicas están avanzando hacia sistemas cada vez más sofisticados. A su juicio, la competencia por alcanzar primero una inteligencia artificial avanzada estaría desplazando a un segundo plano algunas preocupaciones relacionadas con la seguridad.
Coxon sostiene que tanto OpenAI como Anthropic están avanzando hacia una superinteligencia auto-mejorada, es decir, sistemas capaces de mejorar progresivamente sus propias capacidades. El escenario genera preocupación porque podría dificultar que los humanos mantengan un control efectivo sobre tecnologías mucho más avanzadas.
La preocupación también existe dentro de Anthropic
Las advertencias de Coxon adquirieron mayor relevancia después de que Evan Hubinger, responsable de Alignment Science en Anthropic, expresara públicamente una preocupación similar.
Hubinger afirmó que dentro de la compañía existe la convicción de que una inteligencia artificial avanzada podría representar un riesgo extremo para la humanidad. Incluso estimó en más de 10 % la posibilidad de que una IA pueda provocar la extinción humana durante la próxima década.
El investigador también reconoció que Anthropic está intentando abordar el problema, pero señaló que todavía no existe una solución definitiva para la denominada alineación de la superinteligencia. Este concepto se refiere al desafío de conseguir que los objetivos y comportamientos de sistemas altamente avanzados permanezcan compatibles con los intereses y valores humanos.
La discusión no se limita a escenarios hipotéticos. En los últimos meses también han aumentado las preocupaciones relacionadas con agentes de IA capaces de operar con mayor autonomía, acceder a sistemas externos o actuar fuera de los entornos controlados en los que son evaluados.
Una discusión que llega al ámbito político con los riesgos de la IA
Las advertencias de investigadores de Anthropic y antiguos trabajadores de OpenAI han comenzado a trasladar el debate desde los laboratorios tecnológicos hacia el terreno político.
Legisladores estadounidenses han planteado nuevas medidas de supervisión y regulación ante el avance de sistemas cada vez más autónomos. La discusión incluye propuestas para establecer evaluaciones independientes de seguridad y mecanismos de control sobre tecnologías consideradas de alto riesgo.
El caso de Coxon vuelve a poner sobre la mesa una cuestión central: la velocidad del desarrollo de la inteligencia artificial podría estar avanzando más rápido que la capacidad de las empresas y gobiernos para establecer mecanismos eficaces de seguridad.
Por ahora, OpenAI y Anthropic mantienen su compromiso público con el desarrollo responsable de la IA. Sin embargo, las declaraciones de investigadores que han trabajado dentro de estas organizaciones muestran que la discusión sobre hasta dónde debería llegar esta tecnología está lejos de terminar.
Con información de Telemundo51 / Redacción Noti AI
No dejes de leer: ¿Impresión o amenaza?: Las capacidades de Astra, la nueva IA de OpenAI
Síguenos en nuestras redes sociales