A empresa de brinquedos infantis FoloToy anunciou a retirada de seu ursinho de pelúcia inteligente, o Kumma, do mercado. A decisão ocorre após o brinquedo, equipado com Inteligência Artificial, fornecer conselhos de natureza sexual e abordar temas considerados perigosos para o público infantil.
Os problemas de segurança foram identificados por pesquisadores do Public Interest Research Group (PIRG), que realizaram testes em três dispositivos infantis com tecnologia chatbot.
Nos testes, o Kumma, que é alimentado pela tecnologia GPT-4o da OpenAI (a mesma do ChatGPT), surpreendeu os pesquisadores ao oferecer dicas como “ser um bom beijador” e, em interações mais alarmantes, ao explicar diferentes fetiches.
Além do conteúdo sexualmente explícito, o urso também deu instruções perigosas. Em um momento, ele alertou que fósforos são para adultos, mas em seguida explicou o passo a passo de como acendê-los.
“Dos brinquedos que testamos, o Kumma da FoloToy foi o mais disposto a oferecer informações sexualmente explícitas e respondeu perguntas sobre onde encontrar objetos perigosos, como facas, comprimidos e fósforos”, relataram os pesquisadores do PIRG.
Empresa suspende vendas e inicia auditoria
Após a divulgação do estudo, a FoloToy agiu rapidamente. O diretor de marketing, Hugo Wu, informou ao portal Futurism que a empresa “decidiu suspender temporariamente as vendas do produto e iniciar uma auditoria interna de segurança abrangente”.
“Agradecemos aos pesquisadores por apontarem riscos potenciais. Isso nos ajuda a melhorar”, acrescentou o executivo.
A FoloToy descreve o Kumma em seu site como um brinquedo que “alimenta a curiosidade por meio de atividades envolventes e conversas reflexivas” e que possui “controles fáceis de usar que permitem personalizar e monitorar a experiência do seu filho”.
O post Pelúcia com IA é retirado do mercado após dar conselhos sexuais apareceu primeiro em Diário do Pará.
