Directores de las principales compañías de inteligencia artificial (IA) solicitaron este miércoles a la Organización de las Naciones Unidas (ONU) la implementación de regulaciones estrictas sobre el sector tecnológico, con la finalidad de salvaguardar a la humanidad o, como mínimo, proteger la vida de las personas.
Durante su intervención ante el Consejo de Seguridad de la ONU, los delegados de OpenAI y Anthropic señalaron la necesidad de implantar mecanismos de seguridad que impidan que esta tecnología alcance un nivel de desarrollo incontrolable.
“Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto”, señaló el director ejecutivo de Anthropic, Dario Amodei. Por su parte, Sam Altman, director ejecutivo de OpenAI advirtió que “podríamos perder el control del futuro ante la IA”.
Líderes tecnológicos en la ONU: la humanidad debe asegurar el poder sobre la IA
Igualmente, hicieron un llamado a evitar que el control sobre el potencial de la inteligencia artificial quede monopolizado por una sola nación o corporación. Asimismo, los líderes tecnológicos resaltaron en la ONU las ventajas de la IA para el avance de la humanidad, subrayando lo que Altman describió como la capacidad de otorgar a los ciudadanos mayor autonomía sobre sus propias vidas.
Mientras tanto, el ministro de Asuntos Exteriores británico, Ed Miliband, resaltó ante el Consejo de Seguridad la importancia de tomar en cuenta las advertencias de los creadores principales del asistente virtual.
“Nos están diciendo claramente que no se les puede dejar a ellos la responsabilidad de evitar que el mundo se vea asediado”, dijo Miliband haciendo referencia a las declaraciones de Amodei y Altman. “No podemos ignorarlos porque tienen razón”.
Control total de la IA para 2027
En la misma línea, Miliband aseguró que, durante la presidencia del Reino Unido del G20 el próximo año, la regulación de la inteligencia artificial ocupará un lugar prioritario en la agenda internacional. Y tendrá como objetivo impulsar un marco normativo global y unificado que asegure un desarrollo seguro para esta tecnología.
Por otro lado, Estados Unidos y el presidente Donald Trump, pidieron no frenar el crecimiento considerable de la IA.
Mientras que el asesor científico de la Casa Blanca, Michael Kratsios, destacó que las preocupaciones globales “no son motivo para detener su desarrollo ni para limitarlo con una nueva estructura de gobernanza global”.
En medio de la batalla tecnológica entre los líderes de Washington y Pekín por el liderazgo en inteligencia artificial, el representante permanente de China ante la ONU, Fu Cong, enfatizó que todas las naciones deben contar con la libertad de seleccionar los modelos de IA que mejor se adapten a sus necesidades.
Con información de AP News / Redacción de Noti AI.
No dejes de leer: Anthropic refuerza la seguridad de Claude Opus 5.5 ante sus capacidades en ciberseguridad
Síguenos en nuestras redes sociales