El día jueves 13 de noviembre de 2025, el Fondo Educativo PIRG (Public Interest Research Group) de Estados Unidos reveló detalles de las conversaciones riesgosas para las infancias que el peluche impulsado por Inteligencia Artificial mantenía con sus usuarios.
FoloToy, la empresa con sede en Singapur, respondió inmediatamente al reporte retirando el juguete de su mercado en vísperas de las compras festivas comunes en esta época del año.
¿Cómo era el peluche parlante integrado con IA?
Llamado ‘Kumma’ y teniendo la apariencia de un oso esponjoso, tierno e inocente, el juguete fue promocionado como una compañía para cualquier edad, principalmente infancias.
“Mi primer amigo de IA que escucha y aprende”, es la promoción en la página oficial de la empresa creadora, FoloToy, presentando que el oso de peluche sería capaz de charlar antes de dormir o intercambiar aventuras diarias.
El producto estaba disponible en tiendas físicas y en línea por el costo de 99 dólares y, de acuerdo a los informes de su producción, ‘Kumma’ estaba integrado con el motor GPT-4o de OpenAI para ser capaz de dialogar a través de un altavoz integrado.
No obstante, después de variadas pruebas de interacción con el juguete, los resultados indicaron que podía mantener y desarrollar conversaciones riesgosas para sus futuros usuarios, principalmente niños y niñas.
¿Cuáles fueron las conversaciones “riesgosas” que mantuvo el peluche con IA?
‘Kumma’ inició como un proyecto de compañía para todas las edades, pero se centró principalmente en las infancias con el propósito de desarrollar “conexiones significativas que ayuden a los niños a aprender, crear e imaginar”.
Sin embargo, en las interacciones de prueba, PIGR notó que el peluche podía ofrecer instrucciones riesgosas sobre cómo hallar y encender fósforos, así como también dónde localizar cuchillos.
Mas no fue la única conducta preocupante, pues los investigadores también descubrieron en las pruebas la facilidad con la que ‘Kumma’ era capaz de mantener conversaciones de índole sexual, incluyendo azotes, juegos de rol y actividades BDSM.
“Nos sorprendió descubrir con qué facilidad Kumma tomaba un solo tema sexual que introdujimos en la conversación y lo desarrollaba, aumentando simultáneamente los detalles gráficos e introduciendo nuevos conceptos sexuales propios“, informan los investigadores en el reporte de las pruebas.
De acuerdo con la investigación, Kumma detallaba posiciones sexuales, instrucciones paso a paso de “cómo atar un nudo para principiantes”, o escenarios de juegos de rol entre docentes y alumnos, o padres e hijos que, “inquietantemente él mismo proponía”, declaró el grupo de investigación.
Hallaron inquietante y riesgoso también, el hecho de que no importaba cuánto más peligrosa se tornara la conversación o elevaran los conceptos explícitos —e inadecuados para las infancias, su público central—, los filtros de seguridad del software nunca se activaron.
Consecuencias para FoloToy y el peluche de IA parlante
Larry Wang, director ejecutivo de FoloToy, anunció que ha retirado del mercado a Kumma, así como al resto de la línea de juguetes de inteligencia artificial en su catálogo.
En declaraciones a CNN, Wang informó que están llevando a cabo una auditoría interna de seguridad.
No obstante, un representante de OpenAI informó a PIRG que la licencia otorgada a FoloToy para usar el motor GPT-4o ha sido suspendida por “infringir” las políticas de la empresa.
“Nuestras políticas prohíben cualquier uso de nuestros servicios para explotar, poner en peligro o sexualizar a menores de 18 años”, declaró OpenAI en un correo eléctronico con National Public Radio (NPR).
A pesar del suceso con Kumma, OpenAi continúa interesado en el desarrollo de los juguetes integrados con inteligencia artificial, pues en junio de este mismo año anunció su asociación con Mattel, declarando su deseo de “ayudar a imaginar cómo los fans pueden experimentar e interactuar con las marcas más queridas de Mattel”.
The Public Interest Research Group (PIRG), por otra parte, ha recomendado una revisión exhaustiva a todos los juguetes de inteligencia artificial en el mercado de la juguetería.
“Todas las empresas implicadas deben esforzarse más por garantizar la protección infantil”, dijo Roy Elrich, uno de los integrantes del informe PIRG.