L’allineamento è il lavoro per far sì che i sistemi di IA facciano ciò che le persone intendono davvero, rispettando regole e valori.
Esempio
Un modello deve rispondere in modo utile ma non dare istruzioni su sostanze pericolose, anche se qualcuno chiede in modo astuto.
Per esperti
I metodi comprendono RLHF, specifiche scritte sul comportamento del modello, red teaming e ricerca sull’interpretabilità. Come verificare in modo affidabile l’allineamento di sistemi molto capaci è una questione aperta. Il termine viene talvolta usato in senso ampio per «sicurezza e comportamento» di un modello.
