في الذكاء الاصطناعي المحلي يعمل النموذج اللغوي على حاسوبك المحمول أو المكتبي بدلًا من سحابة مزوّد الخدمة. وبعد التنزيل يعمل كثير من الميزات دون اتصال أيضًا. ستعرف هنا متى يكون ذلك مفيدًا وكيف تبدأ.
ما هو الذكاء الاصطناعي المحلي؟
تثبّت تطبيقًا مثل Ollama أو LM Studio أو Jan، وتنزّل نموذجًا مفتوحًا مثل Llama أو Gemma أو Qwen. ثم يولّد التطبيق الإجابات بالمعالج أو ببطاقة الرسومات لديك، ولا يلزم إرسال ما تكتبه إلى أي خادم.
متى يفيد الذكاء الاصطناعي دون اتصال؟
الذكاء الاصطناعي المحلي مفيد عندما تعمل على نصوص سرّية ولا تريد رفعها، أو تعمل كثيرًا دون اتصال مستقر بالإنترنت، أو تريد التجربة دون اشتراك أو حساب، أو تريد أن تختار بنفسك النموذج والإصدار.
ما الأجهزة التي تحتاجها؟
كلما كبر النموذج احتاج إلى ذاكرة وصول عشوائي أو ذاكرة رسومات أكبر. وهذه بعض القيم الإرشادية وفقًا للمزوّدين: وفقًا لـJan، تحتاج النماذج ذات 3 مليارات معامل (3B) على أجهزة Mac إلى 8 GB من الذاكرة، و7B إلى 16 GB، و13B إلى 32 GB. ووفقًا لـOpenAI، يعمل gpt-oss-20b بذاكرة 16 GB. ووفقًا لـGoogle، يتوفر Gemma أيضًا بأحجام صغيرة للحواسيب المحمولة والهواتف. ووفقًا للمزوّدين، يعمل llama.cpp وwhisper.cpp بالمعالج وحده أيضًا، ويصبحان أسرع مع بطاقة رسومات أو Apple Silicon. ووفقًا للمزوّد، يعمل ComfyUI للصور والفيديو بدءًا من 4 GB من ذاكرة الرسومات و8 GB من الذاكرة.
الخصوصية: المزايا والحدود
أكبر ميزة: عندما يعمل التطبيق والنموذج دون اتصال، تبقى مدخلاتك على جهازك. لكن هناك حدودًا: فكثير من التطبيقات يمكنها الاتصال بنماذج عبر الإنترنت أيضًا، وعندها تذهب بياناتك إلى ذلك المزوّد. ووفقًا للمزوّدين، ترسل بعض التطبيقات بيانات استخدام مجهولة الهوية. راجع الإعدادات وأوقف ذلك إن لم ترده. ويجب أن يكون حاسوبك نفسه محميًا جيدًا، مثلًا بالتحديثات وتشفير القرص. ولكل نموذج مفتوح شروط ترخيص خاصة به، فاقرأها قبل استخدامه في العمل. والنماذج المحلية تخطئ أيضًا، فتحقّق من الإجابات المهمة.
ابدأ في 3 خطوات
1. ثبّت تطبيقًا مثل LM Studio أو Jan أو Ollama من موقع المزوّد. 2. نزّل نموذجًا صغيرًا يناسب ذاكرة جهازك، وغالبًا تقترح التطبيقات نماذج مناسبة. 3. اطرح سؤالك الأول، وابدأ بنصوص غير سرّية. ثم راجع إعدادات بيانات الاستخدام.
التطبيقات والنماذج المفتوحة
جميع عناصر فئة الذكاء الاصطناعي المحلي. المعلومات وفقًا للمزوّدين.