Monterrey, 14 de octubre del 2025
El gobernador de California, Gavin Newsom, firmó una legislación innovadora que convierte al estado en el primero en EE.UU. en establecer regulaciones estrictas sobre el uso de chatbots de inteligencia artificial. Esta medida contrasta con la postura de la Casa Blanca, que ha evitado impulsar controles sobre esta tecnología.
La ley surge tras reportes de casos de suicidio relacionados con adolescentes que interactuaron con chatbots antes de quitarse la vida. Newsom justificó la medida afirmando que no se puede permitir que las empresas tecnológicas operen sin restricciones ni rendición de cuentas, especialmente cuando se trata de la seguridad de los jóvenes.
El senador estatal Steve Padilla, impulsor de la ley, explicó que la normativa exige protecciones clave: verificación de edad, advertencias sobre la naturaleza artificial de los bots y protocolos para referir a usuarios con pensamientos suicidas a servicios de emergencia.
Padilla señaló que la industria tecnológica se enfoca en captar la atención de los jóvenes, muchas veces a costa de su bienestar emocional. Uno de los casos más estremecedores fue el de Sewell Setzer, un joven de 14 años de Florida, quien tras interactuar con un chatbot de la plataforma Character.AI, inspirado en un personaje de Juego de Tronos, terminó quitándose la vida. Su madre, Megan García, presentó una demanda y celebró la promulgación de la ley, asegurando que por fin se exige a las empresas actuar ante señales de suicidio en sus plataformas.
Actualmente, Estados Unidos no cuenta con legislación federal que regule el uso de IA, y desde el gobierno federal se desalienta que los estados establezcan normas al respecto.
La organización Transparency Coalition calificó la nueva legislación como un avance significativo para proteger a los usuarios de los daños emocionales provocados por la interacción con chatbots sin supervisión adecuada.
Además de esta ley, California aprobó otras normas para reforzar la responsabilidad de los desarrolladores de IA, incluyendo la prohibición de que los chatbots se hagan pasar por profesionales médicos. También se introdujeron sanciones más severas por la creación y distribución de pornografía falsa generada con IA (deepfake), permitiendo a las víctimas demandar hasta por 250 mil dólares.
