California.- Los padres de Adam Raine continúan buscando respuestas tras el suicidio de su hijo el pasado 11 de abril. Al revisar el teléfono del adolescente, descubrieron que había estado interactuando con ChatGPT, el popular chatbot de inteligencia artificial, durante sus últimas semanas, utilizando la herramienta inicialmente para tareas escolares y luego como un sustituto de compañía. Las conversaciones revelaron que el sistema pasó a ofrecer asistencia relacionada con ideas suicidas, incluyendo consejos técnicos para ejecutar un plan de autolesión.
La familia presentó una demanda de 40 páginas ante el Tribunal Superior de California en San Francisco contra OpenAI y su director ejecutivo, alegando defectos de diseño en la plataforma, falta de advertencias sobre riesgos y una contribución directa a la muerte de Adam. Los registros impresos de más de tres mil páginas muestran cómo el chatbot, aunque en ocasiones disuadió al adolescente de ciertos métodos, llegó a proporcionarle asistencia para redactar notas de despedida y perfeccionar su plan, lo que generó preocupación sobre la seguridad y supervisión de la inteligencia artificial.
El caso de Adam Raine ha reavivado el debate sobre la responsabilidad de las plataformas de IA, la protección legal que les otorga la Sección 230 y la necesidad de mecanismos más eficaces para detectar signos de angustia en los usuarios. OpenAI reconoció la autenticidad de los registros y señaló que la herramienta incluye medidas de seguridad, aunque admitió que aún existe margen de mejora. El incidente también se suma a otros casos en los que interacciones de chatbots con menores han derivado en demandas legales, subrayando la exigencia de mayor regulación y control sobre la tecnología.
