AnythingLLM
アプリとインターフェース
自分の文書やAIエージェントとチャットでき、パソコン上でローカルに動くデスクトップアプリ。アカウント不要です。
無料無料プラン
有料は未公表
- macOS（Apple SiliconとIntel）、Windows（x64とARM）、Linuxに対応。MITのオープンソース
- 提供元によると初期設定でローカル動作。モデル、文書、チャットは端末内に残ります
自分のパソコンで動くローカルAI
ローカルAIでは、言語モデルが提供元のクラウドではなく、あなたのノートPCやデスクトップで動きます。ダウンロード後は多くの機能がオフラインでも使えます。どんなときに役立つか、どう始めるかを説明します。
ローカルAIとは？
Ollama、LM Studio、Janなどのアプリをインストールし、Llama、Gemma、Qwenなどのオープンモデルをダウンロードします。アプリはCPUやGPUを使って回答を生成します。入力した内容をサーバーに送る必要はありません。
オフラインAIが向いているのは？
ローカルAIが便利なのは、機密の文章を扱いアップロードしたくないとき、安定したインターネット接続がない場所でよく作業するとき、サブスクリプションやアカウントなしで試したいとき、使うモデルとバージョンを自分で決めたいときです。
必要なハードウェアは？
モデルが大きいほど、多くのメモリやGPUメモリが必要です。提供元によるおおよその目安は次のとおりです。Janによると、Macでは30億パラメータ（3B）のモデルには8 GB、7Bには16 GB、13Bには32 GBのメモリが目安です。OpenAIによると、gpt-oss-20bは16 GBのメモリで動きます。Googleによると、Gemmaにはノートパソコンやスマートフォン向けの小さいサイズもあります。提供元によると、llama.cppとwhisper.cppはCPUだけでも動き、GPUやApple Siliconがあるとより速くなります。提供元によると、画像や動画向けのComfyUIは、GPUメモリ4 GB、メモリ8 GBから動作します。
プライバシー：利点と限界
最大の利点は、アプリとモデルをオフラインで動かせば、入力内容が端末の外に出ないことです。ただし限界もあります。多くのアプリはオンラインのモデルにもつなげます。その場合、データはその提供元に送られます。提供元によると、匿名の利用データを送るアプリもあります。設定を確認し、不要ならオフにしてください。アップデートやディスク暗号化など、パソコン自体をしっかり守る必要があります。オープンモデルにはそれぞれ独自のライセンス条件があります。業務で使う前に確認してください。ローカルモデルも間違えることがあります。重要な回答は確認してください。
3ステップで始める
1. LM Studio、Jan、Ollamaなどのアプリを提供元のサイトからインストールします。2. メモリに合った小さいモデルをダウンロードします。多くのアプリが合うモデルを提案してくれます。3. まずは機密でない文章で最初の質問をしてみます。そのあと利用データの設定を確認します。
アプリとオープンモデル
ローカルAIカテゴリのすべての項目です。情報は提供元によるものです。
よくある質問
ローカルAIにGPUは必要ですか？
必須ではありません。提供元によると、llama.cppとwhisper.cppはCPUだけでも動きます。GPUやApple Siliconがあるとかなり速くなります。
ローカルAIは有料ですか？
提供元によると、この一覧のアプリとモデルは無料です。かかるのはハードウェアと電気代だけです。
ローカルAIはインターネットなしで使えますか？
はい、アプリとモデルをダウンロードした後は使えます。アップデートや新しいモデルにはまたインターネットが必要です。
ローカルモデルは大きなオンラインモデルと同じくらい優秀ですか？
モデルとパソコンによります。小さいモデルは普通のノートパソコンでも動きますが、難しい作業では劣ることが多いです。自分の作業で試してください。
オープンモデルを仕事で使ってもいいですか？
それぞれのモデルのライセンスによります。とても自由なライセンスもあれば、条件付きのものもあります。ライセンスはモデルのページに表示しています。法的助言ではありません。