O desafio imposto pelas novas ferramentas na governança

Depois que os membros do Congresso americano questionaram o CEO da OpenAI, Sam Altman, sobre o potencial das ferramentas de inteligência artificial para espalhar desinformação, atrapalhar eleições e eliminar empregos, ele e outros do setor vieram a público com uma possibilidade muito mais assustadora: um apocalipse causado pela IA.

Altman, cuja empresa está por trás da ferramenta ChatGPT, juntou-se ao CEO do Google DeepMind, Demis Hassabis, ao CTO da Microsoft, Kevin Scott, e a dezenas de outros pesquisadores de IA e líderes empresariais na assinatura de uma carta de uma frase, no mês passado, afirmando: “A IA deve ser uma prioridade global ao lado de outros riscos em escala social, como pandemias e guerra nuclear”.

O aviso foi amplamente divulgado na imprensa, destacando uma dinâmica importante no Vale do Silício no momento: os principais executivos de algumas das maiores empresas de tecnologia estão simultaneamente dizendo ao público que a IA tem o potencial de causar a extinção humana, ao mesmo tempo em que correm para investir e implantar essa tecnologia em produtos que chegam a bilhões de pessoas.

A dinâmica também ocorreu em outros lugares recentemente. O CEO da Tesla, Elon Musk, por exemplo, disse em uma entrevista em abril que a IA poderia levar à “destruição da civilização”, mas ele continua profundamente envolvido com a tecnologia por meio de investimentos em seu amplo império empresarial e disse que quer criar um rival para as ofertas de IA da Microsoft e do Google.

Alguns analistas da indústria de IA começam a apontar que focar a atenção em cenários distantes pode desviar a atenção dos danos mais imediatos que uma nova geração de poderosas ferramentas de IA pode causar a pessoas e comunidades, incluindo espalhar desinformação, perpetuar preconceitos e permitir a discriminação em vários serviços, desafiando a governança de empresas e organizações.

Ferramentas de IA generativas, como o ChatGPT e o Dall-E da OpenAI, são treinadas em vastos tesouros de dados online para criar trabalhos escritos e imagens atraentes em resposta às solicitações do usuário. Com essas ferramentas, por exemplo, pode-se rapidamente imitar o estilo ou semelhança de figuras públicas na tentativa de criar campanhas de desinformação.

Mesmo em casos de uso mais comuns, no entanto, há preocupações. As mesmas ferramentas foram criticadas por oferecer respostas erradas às solicitações do usuário, respostas totalmente “alucinantes” e potencialmente capazes de perpetuar preconceitos raciais e de gênero.

Veja mais em A TARDE ESG