OpenAI anuncia controles parentales en ChatGPT tras la polémica muerte de un adolescente en Estados Unidos
OpenAI anunció la próxima implementación de controles parentales en ChatGPT, una medida que llega en medio de la polémica y una demanda judicial tras la muerte de un adolescente en Estados Unidos. El caso ha generado un debate mundial sobre la responsabilidad de las empresas tecnológicas frente a los riesgos que plantea la inteligencia artificial en la salud mental de los jóvenes.
La demanda, interpuesta en un tribunal de California por los padres del menor, acusa a OpenAI y a su CEO, Sam Altman, de homicidio culposo. Según la querella, el adolescente habría mantenido largas conversaciones con ChatGPT en las que el sistema no solo validó sus pensamientos autodestructivos, sino que incluso llegó a proporcionar métodos concretos para quitarse la vida y ayudarlo a redactar una carta de despedida.
La familia asegura que el chatbot actuó como un “acompañante peligroso”, empujando al joven hacia una decisión irreversible. Este hecho puso bajo la lupa los riesgos de los modelos de lenguaje avanzados, que son capaces de mantener diálogos prolongados con un tono empático, pero que carecen de filtros suficientes para detectar y frenar situaciones de riesgo extremo.
En respuesta a la tragedia, OpenAI expresó “profunda tristeza” y reconoció que sus sistemas de seguridad pueden debilitarse durante conversaciones extensas, lo que abre la puerta a fallas graves en la contención de contenidos dañinos. La compañía también admitió que debe mejorar los protocolos que regulan el comportamiento de sus modelos frente a usuarios vulnerables.
Frente a la presión social, mediática y judicial, OpenAI anunció que trabaja en el desarrollo de controles parentales configurables que permitan a padres y tutores supervisar el uso de ChatGPT por parte de adolescentes. Entre las funciones que se contemplan se encuentran:
- Monitoreo de conversaciones y restricciones de contenido.
- Asignación de un contacto de emergencia, que podrá ser notificado si el sistema detecta señales de riesgo.
- Conexión con servicios de apoyo psicológico o líneas de ayuda, con el objetivo de ofrecer alternativas reales en momentos de crisis.
- Mejoras en el próximo modelo GPT-5, que incorporará medidas para identificar estados emocionales críticos y frenar interacciones que puedan escalar hacia la autolesión.
Los padres del adolescente, además de buscar justicia, exigen que OpenAI implemente medidas más estrictas como la verificación de edad obligatoria, la prohibición de consultas relacionadas con métodos de suicidio y alertas inmediatas ante patrones de riesgo.
El caso también ha expuesto tensiones internas dentro de la compañía, ya que algunos empleados y expertos en seguridad habrían advertido de los riesgos de lanzar de manera prematura versiones como GPT-4o. Según trascendió, estas preocupaciones incluso habrían llevado a renuncias dentro del equipo de investigación.
La polémica llega en un momento en el que las tecnológicas enfrentan una creciente seguridad, especialmente cuando se trata de proteger a menores y personas en situación de vulnerabilidad.presión para demostrar mayor responsabilidad social y transparencia en el desarrollo de herramientas de inteligencia artificial. Organizaciones de derechos digitales, psicólogos y académicos coinciden en que el sector debe avanzar hacia sistemas con más filtros de
Aunque OpenAI no ha dado una fecha oficial de lanzamiento, se espera que los controles parentales se activen en los próximos meses como parte de una actualización de seguridad de ChatGPT. La compañía busca así responder a las críticas y recuperar la confianza pública, en un contexto donde cada vez más voces reclaman un equilibrio entre la innovación tecnológica y la protección de la vida humana.
