Monterrey, 29 de diciembre del 2025
El regulador de tecnología de China presentó el sábado un borrador de normas, abierto a la participación pública, que busca fortalecer la supervisión de los servicios de inteligencia artificial (IA) que simulan personalidades humanas y mantienen interacciones emocionales con los usuarios.
Esta iniciativa refleja el interés de Pekín por controlar el rápido crecimiento de la IA orientada al consumidor, imponiendo requisitos más estrictos relacionados con la ética, la seguridad y la protección de los usuarios. Las normas propuestas se aplicarían a cualquier producto o servicio de IA disponible en China que reproduzca rasgos de personalidad humana, patrones de pensamiento y estilos de comunicación, y que interactúe emocionalmente con las personas a través de texto, imágenes, audio, video u otros formatos digitales.
El proyecto establece un marco regulador que obligaría a los proveedores a alertar a los usuarios sobre los riesgos de uso excesivo y a intervenir cuando se detecten señales de dependencia o adicción. Asimismo, los proveedores tendrían la responsabilidad de garantizar la seguridad a lo largo de todo el ciclo de vida de sus productos, implementando sistemas de revisión de algoritmos, protección de datos y salvaguarda de información personal.
Un aspecto central de la propuesta es la prevención de riesgos psicológicos. Los proveedores deberán identificar los estados emocionales de los usuarios y evaluar su nivel de dependencia del servicio. Si se detectan comportamientos problemáticos o emociones extremas, las empresas estarán obligadas a tomar medidas de intervención adecuadas.
Además, las normas definen límites claros sobre el tipo de contenido y conducta permitidos. Los servicios de IA no podrán generar información que ponga en peligro la seguridad nacional, difunda rumores, promueva la violencia o la obscenidad, asegurando así un entorno más seguro y controlado para los usuarios.
