Data Poisoning ist ein Angriff, bei dem manipulierte Daten in das Training oder die Wissensquelle einer KI geschmuggelt werden, damit sie später falsch reagiert.
Beispiel
Jemand stellt präparierte Seiten ins Netz, damit eine KI ein bestimmtes Produkt fälschlich empfiehlt.
Für Profis
Ziele sind Trainingsdaten, Fine-Tuning-Daten oder RAG-Dokumente. Studien zeigen, dass schon wenige manipulierte Beispiele Hintertüren einbauen können. Schutz: geprüfte Datenquellen, Herkunftsnachweise, Zugriffsrechte und Tests auf auffälliges Verhalten.
