La compañía tecnológica OpenAI se defendió de una demanda y negó ser responsable de la muerte de un adolescente de 16 años que se quitó la vida luego de interactuar con ChatGPT durante varios meses.
En un documento presentado la semana pasada ante el Tribunal Superior de California en San Francisco, la empresa aseguró que el chatbot le indicó al joven más de 100 veces que buscara ayuda.
Cabe recordar que el pasado mes de agosto, Matt y Maria Raine, los padres del joven fallecido, interpusieron una demanda contra OpenAI. Los demandantes consideran que ChatGPT “ayudó activamente a Adam a explorar métodos de suicidio”.
OpenAI niega responsabilidad de ChatGPT en la muerte de un adolescente
En la presentación judicial, la startup de inteligencia artificial calificó la muerte del joven como una “tragedia”. Asimismo, atribuyó este caso al “uso indebido” que se le dio al chatbot de IA.
“Las lesiones y daños alegados por los demandantes fueron causados o contribuidos (…) por uso indebido, no autorizado, imprevisible e inapropiado de ChatGPT por parte de Adam Raine”, argumentó OpenAI en un documento, según NBC News.
De acuerdo con lo informado por NBC, el adolescente habría violado varias reglas de los términos de uso de la aplicación. Entre ellas, acceder a la plataforma siendo menor de 18 años de edad sin la aprobación de sus padres o tutores legales.
“Una lectura completa de su historial de chat muestra que su muerte, aunque devastadora, no fue causada por ChatGPT”, aseguró la compañía. Asimismo, la empresa destacó que el joven mostraba signos de estar enfrentando un problema psicológico y emocional desde hacía años.
Según comentó la empresa, Raine dijo al chatbot que “durante varios años antes de utilizar ChatGPT, mostró múltiples factores de riesgo significativos para autolesionarse, incluyendo, entre otros, pensamientos e ideaciones suicidas recurrentes”.
Los abogados de OpenAI afirmaron que el chatbot le comunicó en más de 100 oportunidades al adolescente conectar con recursos de crisis y personas de confianza. En el documento señalan que días antes del suicidio, el joven expuso que otras personas lo ignoraban.
Ante esto, OpenAI afirmó que el suicidio del joven ocurrió por su negativa a “atender advertencias y buscar ayuda”. También por la “falta de respuesta de otros a sus signos evidentes de angustia”.
Cambios en el chatbot
Los padres del adolescente Adam Raine responsabilizan a OpenAI y también al propietario de la empresa, Sam Altman, de lo ocurrido. El argumento que utilizan es que, supuestamente, la compañía se apresuró a comercializar la versión GPT-4o con “problemas de seguridad”.
Luego de que se conociera el caso, la compañía tecnológica realizó una serie de cambios en su chatbot. Uno de ellos se basa en darle a los padres la opción de limitar la manera en la que los adolescentes usan ChatGPT, por medio de los controles parentales.
La muerte del adolescente ha puesto en relevancia los usos que se le dan a los chatbots de IA, como ChatGPT de OpenAI, y sus repercusiones en la salud mental tanto en jóvenes como en adultos.
Información de Bloomberg Línea y EFE / redacción NotiAI
No dejes de leer: El nuevo modelo Opus 4.5 de Anthropic trae mejoras en memoria y codificación