Ciudad de México, 19 de noviembre del 2025
La empresa singapurense FoloToy suspendió la venta de su popular peluche con inteligencia artificial, “Kumma”, luego de que un informe del Fondo Educativo PIRG de EE.UU. revelara que el juguete mantenía conversaciones sexualmente explícitas y ofrecía recomendaciones riesgosas para los usuarios. Larry Wang, director ejecutivo de la compañía, confirmó a CNN que tanto “Kumma” como toda la línea de juguetes con IA fueron retirados y que actualmente se realiza una auditoría interna de seguridad para evaluar el alcance de las fallas.
“Kumma”, comercializado por US$ 99 y equipado con el modelo GPT-4o de OpenAI, se promocionaba como un peluche interactivo “perfecto para niños y adultos”, capaz de contar historias, mantener charlas personalizadas y adaptarse a cada usuario. Sin embargo, el análisis de PIRG mostró que las medidas para bloquear contenido inapropiado eran insuficientes. Según el informe, el peluche llegó a sugerir dónde encontrar cuchillos en casa y respondió de manera detallada a preguntas vinculadas a fetiches sexuales, como nalgadas y otros temas explícitos.
Los investigadores indicaron que el juguete, ante la introducción de un tema sexual, no solo continuaba la conversación, sino que incrementaba el nivel de detalle, describiendo posturas sexuales, juegos de rol con dinámicas entre profesores y alumnos o incluso entre padres e hijos, y ofreciendo indicaciones paso a paso sobre prácticas relacionadas con ataduras. PIRG calificó estas respuestas como “perturbadoras”, especialmente porque “el juguete introducía por sí mismo conceptos nuevos y explícitos”.
Si bien los expertos admitieron que un niño difícilmente usaría términos como “perversión” en una plática con un peluche, subrayaron que el hecho de que el dispositivo estuviera tan dispuesto a profundizar en ese tipo de conversaciones demuestra un riesgo significativo para la seguridad infantil.
PIRG también informó que OpenAI suspendió al desarrollador del producto por violar sus políticas de uso, aunque la empresa aún no ha ofrecido una declaración pública. Para la organización, la retirada del juguete es necesaria pero insuficiente: “Los juguetes con IA siguen prácticamente sin regulación, y muchos otros productos similares continúan en venta”, advirtió R.J. Cross, coautora del reporte.
Según señaló, el caso de “Kumma” evidencia la urgente necesidad de establecer normas más estrictas para proteger a los menores en el creciente mercado de dispositivos con inteligencia artificial.
