La Comisión Federal de Comercio (FTC, por sus siglas en inglés) de Estados Unidos solicitó a algunas empresas de inteligencia artificial proporcionar información sobre el impacto que causan los chatbots en menores de edad.
La FTC aclaró que no se trata de una medida legal, sino que la petición está orientada a una investigación. En este sentido, la institución quiere conocer cómo las tecnologías evalúan la seguridad de los usuarios de chatbots.
Al respecto, se espera que las siete empresas citadas faciliten información sobre la manera en la que miden los efectos que ejercen estos compañeros virtuales en los niños y adolescentes.
Las empresas que deberán compartir información sobre el impacto de los chatbots en los menores
La Comisión Federal de Comercio de Estados Unidos le hizo esta solicitud a OpenAI, Meta, su filial Instagram, Snap, xAI. Se suma la empresa matriz de Google, Alphabet; y el fabricante de Character.AI.
En los meses recientes, muchas personas están recurriendo a los chatbots de inteligencia artificial para consultar asuntos emocionales y psicológicos. Ante esto, expertos en salud mental han advertido que este fenómeno trae consecuencias negativas.
Aunque personas de todas las edades están siguiendo esta tendencia, muchos niños y adolescentes han convertido esto en un hábito diario. Una de las razones es que los chatbots pueden adoptar un lenguaje como si se tratase de un humano.
Esto ha sido objeto de debate en la sociedad y padres, ya que la seguridad de los menores podría estar en riesgo. Un ejemplo de ello son los casos de psicosis por IA que han presentado algunos usuarios.
«A pesar de su asombrosa capacidad para simular la cognición humana, estos chatbots son productos como los demás. Y quienes los ponen a disposición tienen la responsabilidad de cumplir las leyes de protección de los consumidores», declaró en un comunicado, Mark Meador, comisionado de la FTC.
Asimismo, el presidente de la Comisión Federal de Comercio, Andrew Ferguson, reiteró la necesidad de conocer los efectos que los chatbots puedan ocasionar en los menores de edad.
Otras peticiones
La Comisión Federal de Comercio también pidió a las empresas compartir información sobre su estrategia para mitigar los posibles daños a los usuarios. Además de la forma en la que ganan dinero con los compañeros virtuales y la manera en la que piensan mantener su base de usuarios.
FTC aclaró que a pesar de que las órdenes a las siete empresas no constituyen una acción coercitiva, la institución podría abrir una investigación si lo considera pertinente después de leer los datos.
«Si los hechos -desarrollados a través de investigaciones policiales posteriores y debidamente orientadas- indican que se ha violado la ley, la Comisión no debe dudar en actuar para proteger a los más vulnerables entre nosotros», dijo el comisionado Meador.
La decisión de la FTC de solicitar información a empresas tecnológicas sobre el impacto de sus chatbots de IA en menores de edad llega en medio de las denuncias sobre daños en la salud mental tras el uso de los compañeros virtuales.
Información de The Verge / redacción Noti AI
No dejes de leer: OpenAI reveló un estudio sobre cómo las personas usan ChatGPT (+detalles)
Sigue nuestras redes sociales y se parte de nuestra comunidad