L’avvelenamento dei dati è un attacco che introduce dati manipolati nell’addestramento o nella fonte di conoscenza di un’IA perché poi reagisca in modo sbagliato.
Esempio
Qualcuno pubblica pagine preparate ad arte perché un’IA consigli per errore un certo prodotto.
Per esperti
Gli obiettivi sono i dati di addestramento, di fine-tuning o i documenti RAG. Alcuni studi mostrano che bastano pochi esempi manipolati per inserire backdoor. Protezione: fonti verificate, tracciabilità dell’origine, controllo degli accessi e test su comportamenti anomali.
