De acuerdo con un informe de OpenAI, más de un millón de usuarios de ChatGPT envían cada semana mensajes al chatbot que indican que están pasando por problemas de salud mental agudos.
Según una publicación de la compañía en su blog, las personas muestran «indicadores explícitos de posible planificación o intención suicida«. Esta afirmación forma parte de una actualización sobre la gestión de conversaciones sensibles por parte del chatbot.
En este sentido, es una de las declaraciones más directas que ha hecho el gigante de la inteligencia artificial sobre cómo su tecnología tiene el potencial de empeorar los problemas de salud mental de los usuarios, si no se usa con conciencia.
Usuarios de ChatGPT envían mensajes que indican que están pasando por problemas de salud mental
Cada vez hay más personas que utilizan los chatbots de IA para contarle su situación emocional. Además de pedirle opinión a la inteligencia artificial sobre lo que deben hacer para solventar una situación sentimental.
Esto se debe a que los chatbots tienen la capacidad de responder con un lenguaje cercano, lo que hace que las personas se sientan en confianza para contarle sus problemas. En este caso, lo utilizan como si fuese un terapeuta.
Sin embargo, esto puede traer diversos problemas psicológicos para los usuarios que no saben diferenciar entre la realidad y las respuestas que les ofrece la IA. Cabe resaltar que la IA no debe sustituir la terapia psicológica dictada por profesionales de la salud mental.
Al respecto, OpenAI indicó que además de sus estimaciones sobre ideación suicida e interacciones relacionadas, hay usuarios con otros síntomas. Entre estos destacan “posibles signos de crisis de salud mental relacionadas con psicosis o manía”.
De acuerdo con el informe, aproximadamente el 0,07 % de los usuarios activos en una semana determinada muestran estos síntomas. Esto es el equivalente a unos 560 000 de sus 800 millones de usuarios semanales.
Cabe resaltar que la publicación advirtió que estas conversaciones son difíciles de detectar o medir, y que se trata de un análisis inicial. Cada vez que la OpenAI publica datos sobre esta temática en ChatGPT, la empresa se enfrenta a un mayor escrutinio.
“Los síntomas de salud mental y el malestar emocional están presentes universalmente en las sociedades humanas, y una base de usuarios cada vez mayor significa que una parte de las conversaciones de ChatGPT incluyen estas situaciones”, afirmaba la publicación de OpenAI.
Mejoras en GPT-5
Por otra parte, OpenAI afirmó que su reciente actualización GPT-5 les permitió reducir la cantidad de comportamientos indeseables del chatbot, al mismo tiempo que mejoró la seguridad del usuario, según los resultados de una evaluación.
“Nuestras nuevas evaluaciones automatizadas califican al nuevo modelo GPT-5 con un cumplimiento del 91% con los comportamientos deseados, en comparación con el 77% del modelo GPT-5 anterior”, se lee en la publicación de la compañía.
En resumen, OpenAI determinó que un gran número de los usuarios de ChatGPT están pasando por problemas de salud mental agudos. Sin embargo, destacó que en GPT-5 se amplió el acceso a líneas de ayuda en crisis.
Información de The Guardian / redacción Noti AI
No dejes de leer: IA para estudiar idiomas: 6 herramientas para aprender una nueva lengua