La compañía OpenAI anunció el lanzamiento de una nueva función de controles parentales para ChatGPT, con el objetivo de que los padres y representantes supervisen el uso que le dan los menores a esta plataforma.
Al respecto, este lunes 29 de septiembre la empresa tecnológica puso a disposición de los adultos las nuevas herramientas para gestionar el chatbot. La intención es aumentar la seguridad de los adolescentes que usan ChatGPT.
Es importante destacar que esta nueva medida llega, luego de que en los meses recientes una pareja de padres denunció a OpenAI por la muerte de su hijo adolescente. Los demandantes aseguraron que el joven se suicidó tras meses de interacción con ChatGPT.
¿En qué consisten los nuevos controles parentales que lanzó OpenAI para ChatGPT?
Las nuevas herramientas de control de OpenAI para su chatbot le permitirán a los padres gestionar la manera en la que los adolescentes utilizarán ChatGPT. En este sentido, los adultos a cargo podrán hacer diversas configuraciones para minimizar los riesgos a los que se exponen los jóvenes.
Así pues, con estas medidas los padres y tutores tienen la facultad para controlar el tiempo que pasan los menores en la plataforma. En este caso, pueden configurar las horas en las que sus hijos no tendrán acceso al chatbot.
Asimismo, a través de los ajustes, los padres pueden autorizar o no a los adolescentes para que acceda al modo de voz de ChatGPT o utilice la capacidad de generar imágenes. También pueden decidir si se permite que el chatbot les muestre conversaciones pasadas.
Otra de las funciones de control parental que ofrece OpenAI es que los adultos a cargo tienen la opción de escoger si los adolescentes utilizarán una versión restringida del chatbot.
Esta versión ayuda a reducir la exposición a contenido sensible, tales como temas relacionados con las dietas, el sexo y la incitación al odio. Por otra parte, los padres pueden escoger si las conversaciones con el chat se usarán para entrenar modelos de OpenAI.
¿Qué hay de la salud mental?
En cuanto al cuidado de la salud mental, las nuevas herramientas de ChatGPT se diseñaron para que identifiquen cuándo un adolescente puede estar en riesgo. Inmediatamente, el sistema le notificará a los adultos a cargo.
Por ejemplo, en el caso de que ChatGPT considere que un menor tiene problemas psicológicos que lo ponen en riesgo, entrará en acción un revisor humano. Esta persona será la encargada de decidir si envía una alerta de emergencia a uno de los padres.
Las alertas pueden llegar vía correo electrónico, mensajes de texto y notificaciones de la aplicación del chatbot. Dichas alertas servirán para que los padres se hagan cargo de la seguridad de sus hijos.
Cabe destacar que OpenAI le indicará a los adultos si su hijo está padeciendo con algún tema emocional o psicológico. Sin embargo, la empresa no compartirá exactamente las conversaciones del adolescente con ChatGPT, con la intención de no vulnerar su privacidad.
Finalmente, para activar las funciones de controles parentales de OpenAI en ChatGPT, un usuario adulto debe enviar la solicitud por correo electrónico al adolescente usuario del chatbot. Seguidamente, el menor debe aceptar la invitación para que los padres hagan la configuración.
Información de Bloomberg Línea / redacción Noti AI
No dejes de leer: Accenture capacita a 700 mil empleados en sistemas de IA agéntica (+detalles)