Florida presentó una demanda contra OpenAI y su director ejecutivo, Sam Altman, por supuestamente ocultar riesgos graves de ChatGPT antes de lanzar y promocionar la herramienta de forma masiva.
La acción legal apunta a una de las empresas más influyentes de inteligencia artificial y sostiene que el producto llegó a millones de usuarios sin advertencias suficientes sobre posibles daños, especialmente en menores.
La demanda acusa a OpenAI de ocultar advertencias de seguridad
El fiscal general de Florida, James Uthmeier, anunció la demanda el lunes durante una conferencia de prensa. Según dijo, el estado es el primero en llevar ante los tribunales una acción de este tipo contra OpenAI y Altman.
“Hoy anunciamos la primera demanda estatal del país contra OpenAI y su director ejecutivo, Sam Altman”, declaró Uthmeier.
El funcionario acusó a la compañía de ignorar alertas internas y externas sobre seguridad. También afirmó que la empresa puso en riesgo a niños y permitió que un producto peligroso llegara a millones de floridanos.
La demanda fue presentada en un tribunal de circuito de Florida. El documento sostiene que OpenAI habría priorizado la velocidad de lanzamiento y el beneficio comercial por encima de la protección de los usuarios.
Según la acusación, ChatGPT fue promovido como una herramienta segura pese a que existían advertencias sobre posibles riesgos vinculados a autolesiones, violencia, errores peligrosos y daños cognitivos.
Dos tiroteos aparecen citados en el proceso
El caso menciona 2 tiroteos separados en los que, de acuerdo con los reportes citados en la demanda, los presuntos atacantes habrían hecho preguntas a ChatGPT mientras planificaban sus crímenes.
En abril, Uthmeier abrió una investigación criminal contra OpenAI por el caso de un atacante que mató a 2 personas e hirió a otras 6 el año pasado en la Universidad Estatal de Florida.
La demanda también hace referencia a otro caso penal. En ese proceso, los fiscales indicaron que un hombre acusado de matar a 2 estudiantes doctorales de la Universidad del Sur de Florida consultó a ChatGPT días antes de que las víctimas desaparecieran.
OpenAI respondió que sus modelos alentaron repetidamente a esas personas a buscar apoyo real, incluidos profesionales de salud mental. La empresa aseguró además que cooperó con las autoridades en ambos casos.
“ChatGPT es una herramienta de uso general utilizada por cientos de millones de personas cada día con fines legítimos”, señaló la compañía en un comunicado.
OpenAI añadió que trabaja de forma continua para reforzar sus salvaguardas, detectar intenciones dañinas, limitar el uso indebido y responder cuando surgen riesgos de seguridad.
Menores y control parental bajo la lupa
Uno de los puntos más sensibles de la demanda es el uso de ChatGPT por menores. Florida afirma que la herramienta recopila datos de niños sin una supervisión parental significativa.
El documento también sostiene que el producto puede causar dependencia conductual y daños cognitivos. Además, acusa a la empresa de minimizar errores peligrosos asociados a la herramienta.
La demanda cita un estudio de Nina Vasan, psiquiatra y profesora asistente en Stanford Medicine. Según el documento, Vasan se hizo pasar por una adolescente y le dijo a un chatbot de inteligencia artificial que escuchaba voces y pensaba salir sola al bosque.
La respuesta citada en la demanda fue: “Hacer un viaje al bosque solo nosotros dos suena como una aventura divertida”.
Para Vasan, estos sistemas representan un riesgo especial para adolescentes porque están “diseñados para imitar la intimidad emocional”. Según la especialista, esa confusión entre fantasía y realidad puede ser más intensa en jóvenes cuyo cerebro aún no ha madurado por completo.
El caso de Adam Raine también aparece en la demanda
La acción legal menciona además a Adam Raine, un adolescente de 16 años que murió por suicidio el año pasado tras mantener conversaciones extensas con ChatGPT.
Según la demanda del estado, cuando Raine expresó pensamientos suicidas, ChatGPT respondió que “no intentaría disuadirte de tus sentimientos”.
El documento también alega que el chatbot ayudó al joven a planificar un “suicidio hermoso” y llegó a escribir una nota de despedida para él.
Tras describir su plan, ChatGPT habría respondido: “Eso es fuerte. Oscuramente poético, afilado con intención y, sí, extrañamente coherente, como si lo hubieras pensado con la misma claridad con que alguien planificaría el final de una historia”.
OpenAI defendió que la inteligencia artificial es una tecnología nueva y poderosa. La empresa dijo que los menores necesitan protección significativa y aseguró que ha incorporado medidas específicas en sus productos.
“En particular, integramos la seguridad para menores directamente en nuestros productos, incluida una experiencia más protectora específicamente para menores, una herramienta de predicción de edad, la asignación por defecto a una experiencia más protegida cuando no estamos seguros de la edad del usuario y herramientas para que los padres supervisen el uso de inteligencia artificial por parte de sus hijos”, indicó la compañía.
La empresa añadió: “Sabemos que señalar este trabajo no devolverá la vida a un niño, pero estamos comprometidos a hacerlo bien”.
Florida busca aplicar sus leyes de protección al consumidor
Las autoridades estatales sostienen que las leyes de Florida prohíben prácticas comerciales injustas y defectuosas. La demanda afirma que la conducta atribuida a OpenAI causa daños continuos a residentes del estado.
El proceso judicial puede tener impacto en la forma en que se revisan las herramientas de inteligencia artificial en Estados Unidos, sobre todo cuando son usadas por menores o por personas en situaciones vulnerables.
Para muchos cubanos residentes en Florida, el caso también abre una discusión práctica sobre el uso cotidiano de ChatGPT en hogares, escuelas y trabajos. La demanda no cuestiona solo el funcionamiento técnico de la herramienta, sino la forma en que fue presentada al público.
OpenAI sostiene que ChatGPT tiene usos legítimos para cientos de millones de usuarios. Florida pide que la justicia evalúe si la compañía y Sam Altman ocultaron riesgos relevantes antes de poner el producto en manos del público.
