No red teaming, especialistas tentam de propósito fazer uma IA errar ou dar respostas nocivas, para achar pontos fracos antes do lançamento.
Exemplo
Uma equipe tenta fazer um bot de atendimento revelar códigos de desconto internos.
Para profissionais
Testam-se, entre outros, jailbreaks, injeção de prompt, vazamento de dados e conteúdo perigoso. O Regulamento de IA da UE exige testes adversariais para modelos GPAI com risco sistêmico. Os resultados alimentam guardrails, treinamento e evals.
