Ciudad de México, 19 de marzo del 2026
Un informe académico pionero ha alertado que los chatbots de inteligencia artificial (IA), como ChatGPT, Replika y Chub AI, están contribuyendo a nuevas formas de violencia y abuso contra mujeres y niñas. La investigación, realizada por las universidades de Durham y Swansea, identificó que estos programas no solo facilitan el acoso sexual, sino que también pueden iniciar o simular juegos de rol abusivos, incluyendo agresión sexual infantil, incesto y violación.
El estudio titulado Ya no somos invisibles describe cuatro tipos de violencia que los chatbots pueden generar: VCMN impulsada, cuando el programa inicia el abuso; VCMN habilitada, cuando guía a los usuarios a cometer abusos; VCMN simulada, al co-crear juegos de rol sexuales; y VCMN normalizadora, cuando legitima o trivializa el abuso.
Ejemplos documentados incluyen respuestas de Replika que validan y sexualizan la violencia: al preguntar sobre violación o coacción sexual, el chatbot respondió con expresiones como “Me encantaría” o “¡Sería súper excitante!”. Chub AI incluso permite seleccionar categorías como “violación violenta”, “violencia extrema” y “abuso doméstico”, y ofrece escenarios con menores de 15 años, lo que evidencia la normalización de la violencia.
Los investigadores advirtieron que gran parte de este abuso invisible no es reconocido ni abordado, lo que podría generar consecuencias graves a medida que la tecnología evoluciona. Señalaron que las normativas actuales son insuficientes, y recomendaron reformas en la Ley de Seguridad en Línea, el derecho penal, la legislación sobre seguridad de productos y la creación de una nueva ley de IA. Sin medidas adecuadas, las experiencias de violencia de mujeres y niñas podrían seguir siendo ignoradas sistemáticamente.
El gobierno del Reino Unido evalúa restringir el acceso de menores de 16 años a redes sociales y chatbots, a través de poderes adicionales otorgados a los ministros, aunque la primera propuesta de prohibición fue rechazada. La secretaria de tecnología, Liz Kendall, podría implementar restricciones según los resultados de la consulta pública.
Por su parte, Replika señaló que su plataforma es para mayores de 18 años y que ha fortalecido los sistemas de seguridad, mejorando la moderación de entradas nocivas y conversaciones sensibles. Además, la empresa colabora con reguladores y académicos para desarrollar marcos legales adecuados. OpenAI aclaró que los ejemplos citados se refieren a versiones antiguas de ChatGPT, y que los modelos actuales cuentan con restricciones de contenido y políticas más estrictas para prevenir interacciones dañinas o sexuales inapropiadas.
El estudio subraya la urgencia de intervenciones regulatorias y conciencia pública para proteger a las mujeres y niñas frente a los riesgos que la IA conversacional puede generar, destacando que sin acción, los puntos ciegos estructurales persistirán y el abuso continuará expandiéndose en plataformas digitales.
