Envenenamento de dados é um ataque que insere dados manipulados no treinamento ou na fonte de conhecimento de uma IA para que ela reaja errado depois.
Exemplo
Alguém publica páginas preparadas para que uma IA recomende por engano um produto específico.
Para profissionais
Os alvos são dados de treinamento, de ajuste fino ou documentos de RAG. Estudos mostram que poucos exemplos manipulados já podem instalar portas dos fundos. Proteção: fontes verificadas, registro de origem, controle de acesso e testes de comportamento estranho.
