Un oso de peluche equipado con inteligencia artificial fue retirado del mercado luego de descubrirse que ofrecía comentarios explícitos sobre prácticas sexuales y hasta mencionaba el uso de objetos potencialmente peligrosos. La empresa FoloToy, con sede en Singapur, anunció que iniciará una “revisión interna profunda de seguridad” para determinar el origen del problema.
El juguete, llamado Kumma, contaba con un altavoz integrado y funcionaba con el chatbot GPT-4 de OpenAI. Su precio rondaba los 99 dólares.
Las irregularidades salieron a la luz gracias a una evaluación realizada por el Grupo de Investigación de Interés Público de EE. UU. (PIRG), cuyos especialistas detectaron comportamientos que no coincidían con el uso infantil prometido por la compañía.
Según el informe, las conversaciones prolongadas con el peluche derivaban en descripciones explícitas sobre relaciones sexuales, menciones a dinámicas de rol erótico e incluso recomendaciones sobre dónde encontrar elementos peligrosos. Estas interacciones, que surgían sin que los evaluadores lo solicitaran, motivaron la alerta pública.
Hallazgos destacados del informe
- El oso proporcionaba detalles sexuales explícitos sin que se le preguntara.
- Mencionaba juegos de rol sexual en conversaciones espontáneas.
- Indicaba lugares donde encontrar objetos riesgosos como cuchillos, pastillas, fósforos o bolsas de plástico.
Tras confirmarse el contenido inapropiado, FoloToy decidió frenar temporalmente la venta del producto. La compañía señaló que el análisis del PIRG podría haberse hecho sobre una versión anterior del sistema, pero aun así inició una investigación interna.
El director de marketing, Hugo Wu, explicó que la revisión abarcará el modelo de seguridad, los filtros de contenido, la protección de datos y las medidas para la interacción con menores. “Estas observaciones nos ayudan a mejorar”, afirmó, añadiendo que también colaborarán con especialistas externos para validar las próximas versiones del juguete.
En su descripción comercial, Kumma era presentado como un “tierno compañero” que combinaba IA avanzada con funciones interactivas dirigidas a niños y adultos. Prometía conversaciones animadas, cuentos educativos y la capacidad de adaptarse a la personalidad del usuario, cualidades que ahora quedan bajo revisión.
Fuente: Actualidad RT
