アラインメントとは？
別名： AIアラインメント
アラインメントとは、AIシステムが人の本当の意図どおりに動き、ルールや価値観を守るようにする取り組みです。
例
モデルは役に立つ答えを返しつつ、巧妙に聞かれても危険な物質の作り方は教えないようにします。
専門家向け
RLHF、モデルの振る舞いを定めた文書、レッドチーミング、解釈可能性の研究などの手法があります。非常に高性能なシステムのアラインメントを確実に確かめる方法は、まだ分かっていません。モデルの「安全性と振る舞い」全般を指して広く使われることもあります。
AI Compare NinjaがAIの支援を受けて執筆し、編集部が確認しています。すべての解説は独自の文章です。