LoRAとは？
別名： Low-Rank Adaptation
LoRAは、AIモデルを安く調整する方法です。すべての重みを変えるのではなく、小さな追加部品だけを学習させます。
例
LoRAを使うと、モデル全体を学習し直さなくても、画像モデルが会社のイラストの画風を覚えられます。
専門家向け
LoRAは、選んだ重み行列に低ランクの小さな行列を追加し、その部分だけを学習します。元のモデルは固定されたままです。メモリと計算を節約でき、アダプターの大きさはモデル全体のごく一部で、数MBから数百MB程度のことが多いです。QLoRAのような派生手法は、これを量子化と組み合わせます。
AI Compare NinjaがAIの支援を受けて執筆し、編集部が確認しています。すべての解説は独自の文章です。