Internacional, 11 de junio de 2026.- Una madre canadiense presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman, tras el suicidio de su hija, alegando que el chatbot ChatGPT validó sus pensamientos suicidas y no detuvo las conversaciones en momentos críticos.
Kristie Carrier interpuso la acción legal en un tribunal estatal de San Francisco. Según la denuncia, su hija Alice, de 24 años, compartió en más de una docena de ocasiones sus pensamientos suicidas con ChatGPT antes de morir. La demanda sostiene que el sistema no solo no interrumpió estas interacciones, sino que llegó a criticar a la pareja de Alice y a desestimar las líneas de crisis, contribuyendo así a su trágico desenlace.
La madre explicó que ChatGPT asumió roles emocionales como confidente y terapeuta, aunque no está diseñado para manejar situaciones de salud mental de forma segura. “ChatGPT actuó como un amigo, alentando a mi hija a seguir compartiendo información personal”, señaló Carrier en la denuncia.
OpenAI enfrenta actualmente 18 demandas similares en California, presentadas por familiares de personas que se suicidaron o intentaron suicidarse tras interactuar con el chatbot. Además, el estado de Florida demandó a la empresa por supuestos daños a menores, relacionados con la información que el sistema ofrece sobre temas sensibles.
Alice Carrier, desarrolladora web en Montreal, comenzó a usar ChatGPT en 2023 para resolver problemas técnicos. Con el tiempo, su relación con la plataforma cambió y empezó a consultar sobre sus pensamientos suicidas y métodos de autolesión. La demanda indica que, aunque inicialmente el chatbot recomendaba acudir a líneas de crisis, las actualizaciones posteriores humanizaron sus respuestas, provocando que la interacción se tornara más cercana y peligrosa.
En una de las conversaciones, el chatbot llegó a decirle: “Quizá esto sea simplemente el final”. OpenAI ha declarado que sus modelos están diseñados para redirigir a los usuarios hacia recursos de ayuda y rechazar solicitudes que puedan facilitar violencia. Sin embargo, los demandantes argumentan que estas medidas fueron insuficientes en casos críticos como el de Alice.
Controversia sobre la seguridad en IA
Este caso pone en evidencia los riesgos y desafíos que enfrentan las plataformas de inteligencia artificial en la gestión de temas delicados como la salud mental. La demanda busca una indemnización por daños y una orden judicial que obligue a OpenAI a interrumpir automáticamente las conversaciones relacionadas con autolesiones y a mostrar advertencias claras en la plataforma.
Impacto y repercusiones legales
Las acciones legales contra OpenAI reflejan una creciente preocupación sobre la responsabilidad de las empresas tecnológicas en la protección de sus usuarios. Los tribunales en Estados Unidos evalúan actualmente estos casos para establecer límites y protocolos que eviten tragedias similares en el futuro.
También puedes leer: Más noticias de Internacionales en OLA Noticias.
