En el red teaming, especialistas intentan a propósito que una IA falle o dé respuestas dañinas, para encontrar puntos débiles antes del lanzamiento.
Ejemplo
Un equipo intenta que un bot de atención al cliente revele códigos de descuento internos.
Para profesionales
Se prueban, entre otros, jailbreaks, inyección de prompts, fugas de datos y contenido peligroso. El Reglamento de IA exige pruebas adversarias para modelos GPAI con riesgo sistémico. Los resultados alimentan guardarraíles, entrenamiento y evals.
