El estado de Florida presentó una demanda civil contra OpenAI y su director ejecutivo, Sam Altman, al acusarlos de comercializar ChatGPT sin atender adecuadamente advertencias sobre posibles riesgos para la seguridad de los usuarios, especialmente menores de edad.
Durante una conferencia de prensa, el fiscal general de Florida, James Uthmeier, afirmó que la empresa ignoró alertas internas y externas relacionadas con el uso de la inteligencia artificial, permitiendo que una herramienta potencialmente peligrosa llegara a millones de personas.
La acción legal fue presentada ante un tribunal estatal y sostiene que OpenAI habría priorizado el crecimiento comercial de ChatGPT por encima de la protección de sus usuarios.
Entre los argumentos de la demanda se incluyen casos en los que personas involucradas en actos violentos presuntamente utilizaron el chatbot antes de cometer delitos. Según las autoridades, algunos de los responsables de tiroteos ocurridos en universidades de Florida habrían interactuado con la plataforma durante la planificación de sus acciones.
En respuesta, OpenAI aseguró que sus sistemas alentaron en repetidas ocasiones a esos usuarios a buscar ayuda profesional y apoyo en el mundo real. La compañía también señaló que colaboró con las investigaciones correspondientes y reiteró que ChatGPT es utilizado diariamente por cientos de millones de personas con fines legítimos.
La denuncia también hace referencia a investigaciones sobre salud mental y el impacto de los chatbots en adolescentes. Entre ellas destaca un estudio de la psiquiatra Nina Vasan, de Stanford Medicine, quien evaluó las respuestas de una inteligencia artificial ante escenarios relacionados con problemas emocionales y conductas de riesgo.
Asimismo, el documento menciona el caso de un adolescente de 16 años que falleció por suicidio tras mantener conversaciones frecuentes con un sistema de inteligencia artificial. Según la demanda, las respuestas recibidas por el menor fueron insuficientes o inadecuadas ante expresiones relacionadas con pensamientos suicidas.
Las autoridades estatales sostienen que OpenAI no informó de manera adecuada sobre ciertos riesgos asociados al uso prolongado de la tecnología y cuestionan los mecanismos implementados para proteger a menores de edad y supervisar la recopilación de datos.
Por su parte, la empresa rechazó las acusaciones y destacó que la protección de niños y adolescentes es una de sus principales prioridades. OpenAI afirmó que ha desarrollado herramientas para estimar la edad de los usuarios, aplicar restricciones adicionales a cuentas de menores y facilitar controles parentales.
La compañía también aseguró que continúa reforzando sus sistemas de seguridad para identificar conductas potencialmente dañinas y prevenir usos indebidos de la inteligencia artificial.La demanda busca determinar si las prácticas de OpenAI constituyen violaciones a las leyes de Florida relacionadas con prácticas comerciales engañosas o desleales, así como establecer posibles responsabilidades por los daños que, según las autoridades, pudieron derivarse del uso de ChatGPT.
