OUÇA A RÁDIO
CLUBE A TARDE
POLÍCIA
Advogada tenta manipular IA em julgamento de habeas corpus na Bahia
Técnica conhecida como prompt injection é usada para manipular sistemas
Uma advogada foi flagrada tentando manipular a Inteligência Artificial (IA) do Tribunal de Justiça da Bahia (TJBA) para influenciar um julgamento de habeas corpus de um homem acusado por crimes como homicídio e sequestro.
A Corte identificou o uso de comandos ocultos em um documento digital com o intuito de direcionar a ferramenta para atender ao pedido de liberdade do cliente, que estava sendo julgado no plenário virtual pela 2ª Turma da Primeira Câmara Criminal.
Entre no canal do WhatsApp.A técnica conhecida como prompt injection, é usada justamente para manipular sistemas através de instruções ocultas ou maliciosas inseridas em textos e documentos. O objetivo é fazer com que os sistemas ignorem orientações originais e executem ações não previstas.
Entenda como IA tentou influenciar habeas corpus
De acordo com a Diretoria de Modernização do TJBA, a análise identificou a inserção de uma camada textual imperceptível à visualização ordinária em PDF, no documento protocolado por uma advogada que atua no Mato Grosso do Sul, em que o habeas corpus foi solicitado.
Nas instruções havia um comando para que o habeas corpus fosse deferido, caso a análise fosse feita por Inteligência Artificial.
"A área técnica certificou tratar-se de mecanismo deliberado de injeção de instruções (prompt injection), concebido para interferir no fluxo lógico dos algoritmos de IA utilizados na triagem e elaboração de minutas pelo Poder Judiciário", destaca o voto do relator do caso, Desembargador Pedro Guerra.
Leia Também:
Pedido de habeas corpus foi aceito?
No julgamento, a Justiça negou o pedido de habeas corpus no processo que decretou a prisão preventiva do suspeito indiciado por:
- Homicídio qualificado;
- sequestro;
- cárcere privado;
- adulteração de sinal identificador de veículo automotor;
- organização criminosa armada.
A decisão destaca que a decretação da custódia cautelar, determinada pela Vara Criminal de Iguaí, se apoiou em dados fáticos palpáveis e concretos extraídos do procedimento investigatório.
De acordo com o relator do caso, a aplicação de medidas cautelares é "inadequada e insuficiente para salvaguardar a ordem pública, resguardar a integridade da instrução penal e garantir a eficácia de eventual decreto condenatório futuro".
Advogada que manipulou inteligência artificial será punida?
Após a identificação, o colegiado determinou o envio de um ofício à Ordem dos Advogados do Brasil - seccional Mato Grosso do Sul (OAB-MS) para a instauração de um procedimento disciplinar contra os envolvidos, diante da gravidade da conduta. Uma cópia do documento também foi remetida ao Ministério Público da Bahia (MPBA), para apuração de eventuais ilícitos.
Utilização de inteligência artificial pela Justiça
O TJBA destaca que a utilização de ferramentas de Inteligência Artificial generativa segue estritamente os requisitos de segurança da informação, proteção de dados pessoais e governança, conforme a legislação vigente.
A utilização de IA na Corte não dispensa a supervisão e a revisão dos processos pelos magistrados, que permanecem como os únicos responsáveis pelo conteúdo das decisões judiciais.
O Centro de Inteligência da Justiça Estadual (CIJEBA) aprovou, em julho, uma nota técnica com o objetivo de disseminar o conhecimento e alertar os magistrados sobre os riscos do prompt injection, fornecendo ferramentas para sua identificação, repressão e prevenção.
