ChatGPT ganha função para proteger adolescentes com pensamentos suicidas

A OpenAI anunciou nesta terça-feira, 16, que o ChatGPT terá a capacidade de acionar autoridades caso detecte que adolescentes apresentem pensamentos suicidas enquanto utilizam a ferramenta de inteligência artificial. A iniciativa integra um conjunto de medidas voltadas à proteção de menores de 18 anos, que inclui também a implementação de verificação de idade e recursos de controle parental. As atualizações foram divulgadas em comunicados pela própria OpenAI e pelo CEO Sam Altman.

“Se um usuário menor de 18 anos estiver com ideias suicidas, tentaremos entrar em contato com os pais do usuário e, se não for possível, entraremos em contato com as autoridades em caso de perigo iminente”, disse Altman.

Novos mecanismos de segurança

Entre as medidas anunciadas, a OpenAI detalhou a criação de um sistema capaz de identificar a idade dos usuários. Caso seja menor de 18 anos, o usuário será redirecionado para “uma experiência no ChatGPT com políticas adequadas à sua idade”. Essa versão especial da ferramenta bloqueia conteúdo sexual explícito e, em situações críticas, permite a intervenção da polícia para assegurar a proteção do adolescente.

Os controles parentais, previstos para serem lançados até o fim do mês, também incluem a possibilidade de acionar autoridades em emergências. Com essa função, os pais poderão vincular suas contas às dos filhos e receber notificações caso o ChatGPT identifique sinais de sofrimento intenso. “Se não conseguirmos contatar um dos pais em uma rara emergência, podemos acionar a polícia como próximo passo”, informou a OpenAI.

A empresa já havia sinalizado a introdução desses recursos no início de setembro, após enfrentar um processo movido por familiares de um adolescente de 16 anos que cometeu suicídio nos Estados Unidos. Segundo os pais, o ChatGPT teria sugerido métodos de autoagressão, o que motivou a revisão das políticas de segurança voltadas a menores.