Bahia pode proibir decisões feitas por IA em órgãos públicos

Um projeto de lei que tramita na Assembleia Legislativa da Bahia (Alba) institui a governança, o uso responsável e a fiscalização de sistemas de inteligência artificial (IA) na administração pública — direta, autárquica e fundacional — da Bahia.

O texto define sistema de IA como aquele baseado em dados e algoritmos capazes de realizar análises, previsões ou decisões automatizadas. A utilização desses sistemas deverão seguir princípios como:

• Transparência e publicidade;
• Supervisão e intervenção humana;
• Não discriminação e respeito aos direitos fundamentais;
• Proteção de dados pessoais e segurança da informação;
• Responsabilidade e prestação de contas;
• Eficiência e melhoria dos serviços públicos;
• Segurança da informação;
• Desenvolvimento tecnológico sustentável e inclusivo.

Segundo o projeto, ficarão assegurados ao cidadão baiano direitos específicos frente ao uso dessas tecnologias pelo Estado, como:

• Direito à informação sobre a utilização de sistemas de inteligência artificial em processos que lhe digam respeito;
• Direito de solicitar revisão por agente público de decisões automatizadas;
• Direito à explicação clara dos critérios utilizados nas decisões;
• Direito à contestação de decisões automatizadas.

Vedação a decisões exclusivas

O texto ressalta ainda que é proibido usar IA para decisões exclusivamente automatizadas que afetem direitos individuais sem possibilidade de revisão humana.

Transparência

A proposta também destaca que os órgãos estaduais deverão disponibilizar em seus sites informações sobre a finalidade da IA, a área de aplicação, identificação do órgão responsável, existência de decisões automatizadas e as medidas de mitigação de riscos.

Além disso, terão que realizar avaliações periódicas dos sistemas, adotar medidas para prevenir vieses discriminatórios, garantir a segurança e integridade dos dados utilizados e promover a capacitação contínua dos servidores para o uso ético da tecnologia.

Para complementar a execução de lei, o Executivo estadual poderá criar comitês de ética em IA, elaborar protocolos técnicos e firmar parcerias com universidades e centros de pesquisa.

Punições

O uso inadequado dos sistemas sujeitará os responsáveis a sanções previstas nas normas de proteção de dados e responsabilidade administrativa, enfatiza o texto publicado no Diário Oficial da Alba desta terça-feira, 5.

Caso o projeto seja aprovado, os custos para colocar a lei em prática serão pagos com recursos já previstos no orçamento, podendo receber mais verba se for necessário.

Uso de forma ética

Autor da proposta, o deputado estadual Euclides Fernandes (PT) ressaltou que a utilização de sistemas de inteligência artificial já é uma realidade em diversas áreas, como saúde, segurança pública, educação e gestão administrativa.

"Contudo, a ausência de parâmetros normativos claros pode gerar riscos relevantes, como decisões automatizadas injustas, discriminação algorítmica e violação de direitos fundamentais", disse.

Ainda de acordo com o parlamentar, o projeto busca assegurar que o uso dessas tecnologias ocorra de forma ética, transparente e responsável.

"A matéria não implica criação de cargos ou aumento direto de despesas obrigatórias, estabelecendo apenas diretrizes gerais que orientarão a atuação administrativa", completou.

Próximos passos

O projeto segue agora para avaliação nas seguintes comissões da Alba:

• Constituição e Justiça;
• Educação, Cultura, Ciência e Tecnologia e Serviço Público;
• Finanças, Orçamento, Fiscalização e Controle.

Depois disso, a proposta irá para votação em plenário.