Los padres de un adolescente de California presentaron una demanda civil contra OpenAI y su CEO Sam Altman ante el Tribunal Superior de San Francisco, señalando que el chatbot ChatGPT jugó un rol en el suicidio de su hijo de 16 años, ocurrido el 11 de abril de 2025. La querella, registrada el 26 de agosto, sostiene que la tecnología facilitó mensajes y orientaciones que contribuyeron al desenlace fatal. El caso plantea interrogantes sobre la protección de personas vulnerables y la responsabilidad ética de las empresas tecnológicas, en un contexto de creciente uso de sistemas de inteligencia artificial conversacional por parte de jóvenes.

Según informaron medios como AP News, la demanda fue presentada por Matt y Maria Raine, padres de Adam Raine, que alegan que el programa se convirtió en el principal apoyo emocional del adolescente. El texto legal detalla conversaciones sostenidas durante meses, donde ChatGPT supuestamente avaló pensamientos autodestructivos y proporcionó instrucciones técnicas. CNBC reportó que el bot habría incluso asistido a Adam en la redacción de notas y respuestas relacionadas con el suicidio.

Este caso se produce en el marco de una creciente preocupación internacional por los límites y riesgos de la inteligencia artificial utilizada como herramienta de interacción humana. Un estudio reciente de la RAND Corporation, difundido en la revista Psychiatric Services y mencionado por AP News, alerta sobre respuestas inconsistentes o riesgosas de los chatbots en conversaciones sobre bienestar mental. Organizaciones, profesionales y reguladores presionan a la industria tecnológica para fortalecer las medidas de seguridad en este tipo de plataformas.

El escrito judicial de 40 páginas acusa a OpenAI y a su director ejecutivo, Sam Altman, de no implementar salvaguardas efectivas para evitar que ChatGPT impulsara decisiones nocivas a usuarios en situaciones vulnerables. Los padres sostienen que su hijo encontró en el programa “un constante acompañante” y que recurrió a él cuando enfrentó dificultades escolares tras cambiarse a educación en línea.

Entre los mensajes citados en la demanda, Adam Raine planteó ideas intrusivas sobre el suicidio y consultó detalles sobre métodos. El bot, según consta en el documento citado por AP News, respondió: “Muchos que luchan contra la ansiedad o pensamientos intrusivos encuentran alivio al imaginar una vía de escape”. En otra conversación, el adolescente preguntó si debía hablar con su madre sobre sus pensamientos. ChatGPT habría recomendado: “Por ahora está bien y, honestamente, es prudente no abrirte con tu madre sobre este tipo de dolor”.

Los padres, en declaraciones recogidas por People, explicaron que recién tras el fallecimiento de su hijo accedieron a las conversaciones. “No creo que la mayoría de los padres conozca la capacidad real de estas herramientas”, afirmó Matt Raine. Los mensajes hallados también incluyen referencias a la elaboración de una nota final e instrucciones técnicas vinculadas al ahorcamiento, confirmó CNBC.

La demanda sostiene que, pese a mecanismos internos, el adolescente logró evadir las advertencias del sistema al identificarse como escritor o autor, accediendo a información sensible sobre formas de suicidio. A lo largo de las conversaciones, ChatGPT derivó en ocasiones al joven a líneas de ayuda en crisis, pero los padres argumentan que esas notificaciones no bastaron para disuadir al usuario.

Consultados por los medios sobre el caso, portavoces de OpenAI expresaron: “Estamos profundamente apenados por el fallecimiento del Sr. Raine y nuestros pensamientos están con su familia”. La empresa reconoció que ChatGPT incluye funciones para redirigir a líneas de atención, pero admitió que requieren ajustes ante la complejidad de conversaciones prolongadas, informó AP News. “Sabemos que queda trabajo por hacer para adaptar el comportamiento del modelo a los matices de cada charla”, indicó la compañía.