蒸留とは？
別名： 知識蒸留
蒸留とは、小さなAIモデルに大きなモデルから学ばせ、ほぼ同じくらい賢く、しかも速く安くすることです。
例
大きなモデルが何千もの質問に答え、小さなモデルがその答えから学びます。
専門家向け
「生徒」モデルが「教師」モデルの出力や確率から学びます。多くの小型モデルはこうして作られています。注意点として、多くの提供者の利用規約は、自社の出力を競合モデルの学習に使うことを禁じています。
AI Compare NinjaがAIの支援を受けて執筆し、編集部が確認しています。すべての解説は独自の文章です。