量子化とは?
別名: モデル圧縮
量子化は、モデル内の数値を低い精度で保存してモデルを小さくし、性能の低い端末でも動くようにする技術です。
例
16ギガバイトのモデルが5ギガバイトになり、ノートパソコンに収まるようになります。
専門家向け
8ビット、5ビット、4ビットなどが一般的です。強く量子化するほど、特に数学やコードで品質が落ちることがあります。
AI Compare NinjaがAIの支援を受けて執筆し、編集部が確認しています。すべての解説は独自の文章です。
AIツールを比較。プロンプトとスキルを活用。
別名: モデル圧縮
量子化は、モデル内の数値を低い精度で保存してモデルを小さくし、性能の低い端末でも動くようにする技術です。
16ギガバイトのモデルが5ギガバイトになり、ノートパソコンに収まるようになります。
8ビット、5ビット、4ビットなどが一般的です。強く量子化するほど、特に数学やコードで品質が落ちることがあります。
AI Compare NinjaがAIの支援を受けて執筆し、編集部が確認しています。すべての解説は独自の文章です。