ローカルAIとは？

別名：オンデバイスAI

ローカルAIは、クラウドではなく自分のパソコンやサーバーで動くAIです。データは端末の中にとどまります。

例

機密のメモを、ノートパソコン上でオフラインで動くモデルで要約します。

オープンウェイトモデル、対応するソフトウェア、十分なメモリ（できれば高性能GPU）が必要です。小さいモデルや量子化モデルなら一般的なノートパソコンでも動きますが、性能は下がります。