El envenenamiento de datos es un ataque que cuela datos manipulados en el entrenamiento o en la fuente de conocimiento de una IA para que después reaccione mal.
Ejemplo
Alguien publica páginas preparadas para que una IA recomiende por error un producto concreto.
Para profesionales
Los objetivos son datos de entrenamiento, de ajuste fino o documentos de RAG. Hay estudios que muestran que unos pocos ejemplos manipulados bastan para instalar puertas traseras. Protección: fuentes revisadas, registro de procedencia, control de acceso y pruebas de comportamiento anómalo.
