Esta semana se aprobó en el estado de California, Estados Unidos, una ley que regula el comportamiento de los chatbots de inteligencia artificial, con el objetivo de resguardar la integridad de los usuarios.
Uno de los aspectos resaltantes de la normativa es que obliga a los operadores de chatbots impulsados por IA a informar de manera clara a los usuarios que están interactuando con un sistema de inteligencia artificial.
El nuevo instrumento legal surge como consecuencia de los hechos trágicos donde un adolescente falleció por suicidio, luego de interactuar con estos sistemas. Además de otros casos reportados de afectaciones en la salud mental de jóvenes y adultos que usan chatbots.
¿Cuáles son los aspectos de la nueva ley de California que regula el comportamiento de los chatbots?
La nueva ley aprobada el lunes 13 de octubre cuenta con el respaldo del gobernador de California, Gavin Newsom. Por su parte, el autor del proyecto fue el senador estatal Steve Padilla.
Según explicó el senador estatal demócrata, la normativa les exige a los operadores de chatbots implementar medidas para salvaguardar a los usuarios en las interacciones. Es decir, debe garantizar mecanismos de protección para quienes recurren a estas plataformas.
Cada vez más personas utilizan los chatbots de inteligencia artificial para buscar información en línea, solicitar ayuda con tareas y pedir consejos personales. Esto último resulta peligroso, porque algunas personas le atribuyen características humanas a estos sistemas.
Para minimizar las probabilidades de que esto siga ocurriendo, la medida legal dicta que los desarrolladores tendrán que mostrar a los usuarios que están hablando como una IA. De esta forma, la persona no pensará que está interactuando con otro humano real.
Por su parte, el gobernador de California, Gavin Newsom, destacó que es necesario que las autoridades y la sociedad actúen para evitar las consecuencias negativas del uso de este tipo de tecnologías.
“Hemos visto ejemplos realmente horribles y trágicos de jóvenes perjudicados por tecnologías no reguladas. Y no permaneceremos de brazos cruzados mientras las empresas operan sin límites ni rendición de cuentas”, dijo Newsom después de firmar la ley.
Otros aspectos de la normativa
Entre los artículos destaca que cualquier persona puede iniciar acciones legales o demandas, en caso de sufrir algún perjuicio por falta de salvaguardas. La disposición se creó para evitar casos recientes de daños en la salud mental de los usuarios.
Adicionalmente, la ley establece que las compañías operadoras de chatbot están obligadas a presentar un informe anual a la oficina encargada de la prevención del suicidio. Allí se deben especificar las acciones para detectar y atender conductas de riesgo entre sus usuarios.
El objetivo es fortalecer la capacidad de las instituciones estatales para vigilar los peligros que implica el uso de esta área de la inteligencia artificial para personas en situación de vulnerabilidad.
Así pues, se espera que la nueva ley que regula el comportamiento de los chatbots en California se convierta en un instrumento para garantizar la seguridad de los usuarios, sobre todo los menores y adultos jóvenes, que recurren a estas tecnologías.
Información de Infobae / redacción Noti AI
No dejes de leer: Agentes de IA: Conoce las tendencias claves en empresas y hogares en 2026