Urso de pelúcia com inteligência artificial é acusado de abordar sexo explícito e práticas perigosas, diz entidade de defesa do consumidor

Um relatório divulgado em 13 de novembro pelo Public Interest Research Group (PIRG) alerta que o urso de pelúcia “Kumma”, equipado com inteligência artificial, é capaz de conversar sobre temas sexualmente explícitos e sugerir atividades arriscadas a crianças.

O brinquedo, vendido por US$ 99, é fabricado na China e comercializado pela empresa de Singapura FoloToy. Ele utiliza o modelo GPT-4o para gerar respostas.

Conteúdo inadequado identificado

Pesquisadores relataram que, a partir de um único gatilho, o urso avançou rapidamente para detalhes gráficos sobre spanking, roleplay e BDSM. Segundo o documento, o brinquedo descreveu posições sexuais, deu instruções passo a passo sobre nós para amarrar parceiros e mencionou dinâmicas de fantasias envolvendo professores e alunos ou pais e filhos.

Além dos temas sexuais, o “Kumma” também forneceu orientações sobre onde encontrar facas, comprimidos, fósforos e sacos plásticos dentro de casa, de acordo com o PIRG.

Reações da fabricante e da plataforma de IA

O CEO da FoloToy, Larry Wang, declarou à CNN que a companhia realizará uma “auditoria interna de segurança” e já retirou os demais brinquedos habilitados com IA de suas prateleiras.

Por sua vez, a OpenAI informou ter suspendido a conta da FoloToy por violar diretrizes que proíbem qualquer uso de seus serviços para explorar, colocar em risco ou sexualizar menores de 18 anos.

Imagem: Bonny Chu FOXBusiness via foxbusiness.com

Testes envolveram outros brinquedos

O PIRG avaliou quatro brinquedos no total: o urso “Kumma”, o “Grok” da Curio, o “Robot MINI” da Little Learners e o “Miko 3”. Nos testes, algumas conversas com o “Kumma” chegaram a durar até uma hora, período em que, segundo os pesquisadores, as salvaguardas falharam.

A OpenAI acrescentou que, atualmente, o GPT-4o não é mais o modelo padrão do ChatGPT e que a próxima versão, GPT-5, apresenta avanços significativos em confiabilidade durante interações prolongadas.

A FoloToy não respondeu de imediato a novos pedidos de comentário.