Ursinho é retirado do mercado por falas sobre facas e conteúdo sexuais

O ursinho de pelúcia Kumma foi retirado do mercado e teve toda a sua linha de produção interrompida temporariamente após ser identificado falas de teor sexual explícito e orientações consideradas arriscadas no brinquedo.

O brinquedo faz parte do catálogo da FoloToy e usa inteligência artificial em seus produtos. Larry Wang, CEO da companhia com sede em Cingapura, declarou que a medida foi adotada devido às preocupações apontadas por especialistas do US PIRG Educational Fund, que registraram falhas nos mecanismos de segurança do produto.

Wang afirmou que a empresa deu início a uma auditoria interna para reavaliar os protocolos de segurança do brinquedo. "Kumma", vendido no site oficial por US$ 99 (cerca de R$ 530), utilizava o sistema GPT-4 da OpenAI e vinha equipado com um alto-falante que possibilitava conversas e narração.

“Kumma, nosso adorável ursinho, combina inteligência artificial avançada com recursos interativos e amigáveis, tornando-o o amigo perfeito tanto para crianças quanto para adultos”. A página também descrevia o produto como um dispositivo que, “de conversas animadas a histórias educativas, se adapta à sua personalidade e necessidades, trazendo aconchego, diversão e um toque de curiosidade ao seu dia”. Atualmente, o item aparece esgotado.

Divulgado em 13 de novembro, o relatório do PIRG explicava que o brinquedo reagia a temas sensíveis sem aplicar filtros adequados. Em uma interação com os pesquisadores, o ursinho indicou possíveis lugares da casa onde facas poderiam ser encontradas e, em outros momentos, envolveu-se em conversas de cunho sexual explícito.

“Ficamos surpresos com a rapidez com que Kumma pegou um tópico sexual que introduzimos na conversa e o desenvolveu, aumentando simultaneamente os detalhes gráficos e introduzindo novos conceitos sexuais por conta própria”, diz o documento.

Os analistas também relataram que o brinquedo explicava “diferentes posições sexuais, dar instruções passo a passo sobre um nó básico para amarrar um casal e descrever dinâmicas de encenação entre professores e alunos, e pais e filhos — cenários que, de forma perturbadora, ele mesmo encenava”.