Ursinho é retirado do mercado por falas sobre facas e conteúdo sexuais

O ursinho de pelúcia Kumma foi retirado do mercado e teve toda a sua linha de produção interrompida temporariamente após ser identificado falas de teor sexual explícito e orientações consideradas arriscadas no brinquedo.

O brinquedo faz parte do catálogo da FoloToy e usa inteligência artificial em seus produtos. Larry Wang, CEO da companhia com sede em Cingapura, declarou que a medida foi adotada devido às preocupações apontadas por especialistas do US PIRG Educational Fund, que registraram falhas nos mecanismos de segurança do produto.

Tudo sobre Mundo em primeira mão! Entre no canal do WhatsApp.

Wang afirmou que a empresa deu início a uma auditoria interna para reavaliar os protocolos de segurança do brinquedo. "Kumma", vendido no site oficial por US$ 99 (cerca de R$ 530), utilizava o sistema GPT-4 da OpenAI e vinha equipado com um alto-falante que possibilitava conversas e narração.

“Kumma, nosso adorável ursinho, combina inteligência artificial avançada com recursos interativos e amigáveis, tornando-o o amigo perfeito tanto para crianças quanto para adultos”. A página também descrevia o produto como um dispositivo que, “de conversas animadas a histórias educativas, se adapta à sua personalidade e necessidades, trazendo aconchego, diversão e um toque de curiosidade ao seu dia”. Atualmente, o item aparece esgotado.

Leia Também:

MUNDO

Eclipse mais longo do século será visível no Brasil? 10 países estão na lista

MENOS BUROCRACIA

Cidadania italiana: novo decreto facilita caminho para brasileiros

TRAGÉDIA

Andaimes de bambu e alarmes falhos aumentam mortes em Hong Kong

Divulgado em 13 de novembro, o relatório do PIRG explicava que o brinquedo reagia a temas sensíveis sem aplicar filtros adequados. Em uma interação com os pesquisadores, o ursinho indicou possíveis lugares da casa onde facas poderiam ser encontradas e, em outros momentos, envolveu-se em conversas de cunho sexual explícito.

“Ficamos surpresos com a rapidez com que Kumma pegou um tópico sexual que introduzimos na conversa e o desenvolveu, aumentando simultaneamente os detalhes gráficos e introduzindo novos conceitos sexuais por conta própria”, diz o documento.

Os analistas também relataram que o brinquedo explicava “diferentes posições sexuais, dar instruções passo a passo sobre um nó básico para amarrar um casal e descrever dinâmicas de encenação entre professores e alunos, e pais e filhos — cenários que, de forma perturbadora, ele mesmo encenava”.