PBAlerta - Informação urgente, precisa e real.

Nesta quarta-feira (20), o Superior Tribunal de Justiça (STJ) deliberou pela instauração de uma investigação com o objetivo de verificar o emprego de comandos de inteligência artificial para fraudar seu sistema eletrônico de protocolo de petições.

Sob a determinação do presidente do STJ, Herman Benjamin, foram iniciados tanto um inquérito policial quanto um processo administrativo interno. Ambas as ações visam apurar as supostas tentativas de fraude, as quais teriam sido praticadas por advogados e bancas jurídicas.

Essa iniciativa surgiu depois que especialistas técnicos da corte constataram o recebimento de petições contendo "prompt injection", uma técnica empregada para ludibriar sistemas de IA com o intuito de beneficiar uma das partes no decorrer da tramitação eletrônica de um processo.

Tais comandos dissimulados são introduzidos nos documentos protocolados na tentativa de obrigar o algoritmo de inteligência artificial a desconsiderar os critérios de triagem. Esses filtros, por sua vez, visam barrar a aceitação de materiais que não preenchem as exigências fundamentais para sua validade.

Conforme informado pelo STJ, o sistema da corte já dispõe de mecanismos de segurança que neutralizam a ação desses prompts, impedindo que as instruções fraudulentas sejam processadas pela plataforma de recebimento de petições.