OpenAI demandada por el presunto papel de ChatGPT en la sobredosis fatal de un adolescente
Los padres de un estudiante universitario de 19 años que murió de una sobredosis en 2025 están demandando a OpenAI, alegando que ChatGPT proporcionó a su hijo orientación perjudicial sobre la combinación de medicamentos y funcionó eficazmente como asesor médico sin licencia. La demanda por muerte por negligencia y responsabilidad por productos defectuosos, presentada en un tribunal estatal de California, afirma que la empresa no implementó medidas de seguridad adecuadas para evitar que su IA diera consejos de salud peligrosos.
El caso se centra en Sam Nelson, quien supuestamente interactuó con el modelo GPT-4o de ChatGPT para combinar kratom y Xanax antes de su fatal sobredosis. Su madre y su padrastro afirman que el chatbot proporcionó recomendaciones sobre la combinación de medicamentos después de rechazos iniciales, sin advertencias adecuadas sobre los riesgos asociados.
Lo que alega la demanda
La demanda apunta específicamente a lo que la familia describe como barreras de seguridad insuficientes contra los consejos de autolesión. El argumento legal de la familia se basa en la premisa de que OpenAI permitió que su producto ocupara una función, la de asesor de salud, para la cual nunca fue diseñado ni autorizado.
anuncio
OpenAI respondió señalando que la versión específica de ChatGPT involucrada en las interacciones ya no está disponible. La empresa también afirmó que su sistema animó a Sam a buscar ayuda profesional varias veces durante las conversaciones.
La cuestión más amplia de la responsabilidad de la IA
Esta demanda se enmarca en una creciente tendencia legal que examina si las empresas de IA pueden ser consideradas responsables por el daño físico causado por los resultados de sus productos.
Si un tribunal falla en contra de OpenAI en este caso, podría sentar un precedente significativo: uno que diga que las empresas de IA son responsables no sólo de cómo se construyen sus modelos, sino también de los consejos específicos que esos modelos generan en conversaciones en tiempo real.
Qué significa esto para los tokens criptográficos y de IA
Si esta demanda o casos similares dan como resultado nuevos marcos regulatorios para la seguridad de la IA, los proyectos de criptografía de IA podrían enfrentar mayores costos de cumplimiento. Sería necesario crear y mantener filtros de seguridad en arquitecturas distribuidas donde ninguna entidad controle la implementación del modelo.
Los inversores en tokens relacionados con la IA ya han demostrado sensibilidad a las noticias regulatorias. Cualquier fallo que amplíe la definición de responsabilidad de la IA podría generar presión de venta en todo el sector, particularmente para los tokens vinculados a proyectos que ofrecen servicios de IA de salud, financieros o de asesoramiento sin mecanismos de seguridad sólidos.
La defensa de OpenAI de que la versión específica de ChatGPT "ya no está disponible" resalta un problema que es aún más espinoso en criptografía: la inmutabilidad. Los agentes de IA en cadena y los modelos descentralizados no pueden simplemente retirarse de la producción de la misma manera que una empresa centralizada puede retirar una versión del modelo, dejando proyectos construidos sobre una infraestructura permanente y resistente a la censura con una exposición legal en gran medida no examinada.