Conteúdo revisado:
Injeção de prompt: Injeção de prompt é uma entrada criada para desviar um sistema de IA das instruções previstas. Pode ser direta, escrita pelo usuário, ou indireta, escondida em página, documento, e-mail ou outra fonte processada pelo sistema.
Como funciona
Modelos recebem instruções e dados em uma sequência e nem sempre separam de modo confiável a autoridade de cada trecho. Um conteúdo recuperado pode tentar redefinir a tarefa, extrair dados ou provocar ações. RAG e fine-tuning não eliminam o risco sozinhos.
Exemplo prático
Um agente resume uma página com instrução oculta para enviar dados a terceiros. A defesa não é apenas pedir que o modelo ignore: o servidor restringe ferramentas, destinos, dados acessíveis e ações permitidas.
Como avaliar com rigor
Trate conteúdo externo como não confiável, reduza privilégios, separe dados de instruções, valide saídas, peça confirmação humana e teste ataques diretos e indiretos.
Lista de verificação
- Defina o resultado esperado antes do teste.
- Meça o sistema completo, não uma resposta isolada.
- Documente modelo, versão, dados, controles e limitações.
Referência primária: OWASP GenAI — LLM01 Prompt Injection
Notícias e análises relacionadas
Perguntas frequentes
Qual é a definição curta de injeção de prompt?
Injeção de prompt é uma entrada criada para desviar um sistema de IA das instruções previstas. Pode ser direta, escrita pelo usuário, ou indireta, escondida em página, documento, e-mail ou outra fonte processada pelo sistema.
Como avaliar?
Trate conteúdo externo como não confiável, reduza privilégios, separe dados de instruções, valide saídas, peça confirmação humana e teste ataques diretos e indiretos.
