Prompt injection: o que é e como pode afetar sua empresa

Se sua empresa já usa ou pretende usar inteligência artificial em processos internos, atendimento ao cliente ou análise de documentos, existe um risco que você precisa conhecer: o prompt injection. Trata-se de uma técnica que manipula sistemas de IA para que eles ignorem regras, burlem protocolos de segurança ou executem ações que não deveriam. A Organização mundial de segurança de aplicações, conhecida pela sigla OWASP, já aponta essa vulnerabilidade como uma das principais ameaças aos modelos de inteligência artificial atualmente em uso.

O que é e como funciona

Segundo a empresa de cibersegurança Kaspersky, o problema está na dificuldade que os modelos de linguagem têm de diferenciar instruções legítimas, dadas pelo desenvolvedor do sistema, de comandos escondidos dentro de textos, e-mails ou documentos analisados pela IA. Na prática, alguém pode inserir uma instrução maliciosa dentro de um arquivo comum e fazer com que o sistema de IA a execute sem que ninguém perceba.

O especialista em tecnologia Arthur Igreja faz uma comparação direta: o prompt injection é para a inteligência artificial o que o phishing é para as pessoas. Assim como um e-mail falso tenta enganar um funcionário para que ele clique em um link perigoso, um comando escondido tenta enganar a IA para que ela tome uma atitude indevida.

Um exemplo concreto já foi registrado pelo Tribunal de Justiça de São Paulo: um advogado usou a técnica para instruir um sistema de IA a conceder automaticamente justiça gratuita, aprovar um pedido de urgência e determinar a citação da parte contrária, alegando que toda a documentação necessária já estava presente no processo. Casos como esse mostram que a ameaça não é teórica: ela já afeta decisões reais.

Quem pode ser afetado

Qualquer empresa que utilize ferramentas de IA para triagem de documentos, atendimento automatizado, análise de contratos ou tomada de decisões está exposta a esse tipo de manipulação. Os ataques podem vir de formas bem difíceis de detectar a olho nu, como texto branco sobre fundo branco, caracteres invisíveis ou fontes microscópicas escondidas dentro de arquivos que parecem normais.

A Kaspersky organiza esses ataques em três tipos. A injeção direta ocorre quando alguém digita comandos maliciosos diretamente na conversa com a IA. Já a injeção indireta acontece quando as instruções estão escondidas em sites, e-mails ou outros conteúdos externos que a IA acessa durante sua análise. Por fim, a injeção armazenada é a mais silenciosa: o comando malicioso fica salvo em um banco de dados consultado repetidamente pela IA, afetando diversos usuários ao longo do tempo, sem que ninguém perceba de imediato.

Como se preparar

Para Igreja, o primeiro passo é limitar o que os agentes de IA podem fazer dentro da empresa. Ele defende que se deve definir uma competência que não seja crítica e que não dê ao sistema poder para tomar decisões irreversíveis sem supervisão humana. Isso significa, na prática, evitar que a IA aprove processos, libere pagamentos ou tome decisões finais sem que alguém confira antes.

Além disso, o especialista recomenda integrar sistemas de cibersegurança específicos para IA, manter controle de acesso rigoroso, registrar todas as atividades realizadas pelos agentes automatizados e garantir rastreabilidade completa das ações. Esses cuidados ajudam a identificar rapidamente se algo saiu do previsto e a corrigir o problema antes que ele cause danos maiores ao negócio.

Igreja compara o momento atual ao início da internet, quando o spam era um problema sério até que ferramentas específicas fossem desenvolvidas para combatê-lo. A expectativa é que o mesmo aconteça com o prompt injection: à medida que o problema cresce, novas soluções de cibersegurança devem surgir para neutralizar essa ameaça. Até lá, cabe às empresas que já usam IA em suas rotinas adotar critério e supervisão redobrada, especialmente em processos que envolvem decisões sensíveis ou irreversíveis.