AI Compare Ninja
Confronti strumenti IA. Usi prompt e skill.
Con l’IA locale il modello linguistico gira sul suo portatile o PC invece che nel cloud di un fornitore. Dopo il download, molte funzioni sono disponibili anche offline. Qui scopre quando ha senso e come iniziare.
Si installa un’app come Ollama, LM Studio o Jan e si scarica un modello aperto, per esempio Llama, Gemma o Qwen. L’app genera le risposte con il processore o la scheda grafica del suo computer. I suoi testi non devono essere inviati a un server.
L’IA locale è utile quando lavora con testi riservati e non vuole caricarli, lavora spesso senza una connessione internet stabile, vuole provare l’IA senza abbonamento e senza account o vuole decidere da sé quale modello e quale versione usare.
Più il modello è grande, più RAM o memoria grafica richiede. Alcuni valori indicativi secondo i fornitori: per i Mac, Jan indica 8 GB di RAM per modelli con 3 miliardi di parametri (3B), 16 GB per 7B e 32 GB per 13B. Secondo OpenAI, gpt-oss-20b funziona con 16 GB di memoria. Secondo Google, Gemma esiste anche in versioni piccole per portatili e smartphone. Secondo i fornitori, llama.cpp e whisper.cpp funzionano anche solo con il processore; con una scheda grafica o Apple Silicon sono più veloci. Secondo il fornitore, ComfyUI per immagini e video funziona già con 4 GB di memoria grafica e 8 GB di RAM.
Il vantaggio principale: se l’app e il modello girano offline, i suoi testi restano sul suo dispositivo. Ci sono però dei limiti: molte app possono collegarsi anche a modelli online, e in quel caso i suoi dati vanno a quel fornitore. Secondo i fornitori, alcune app inviano dati di utilizzo anonimi. Controlli le impostazioni e disattivi l’invio se non lo desidera. Anche il suo computer deve essere ben protetto, per esempio con aggiornamenti e crittografia del disco. Ogni modello aperto ha le proprie condizioni di licenza: le legga prima di usarlo in azienda. Anche i modelli locali sbagliano: controlli le risposte importanti.
1. Installi un’app come LM Studio, Jan o Ollama dal sito del fornitore. 2. Scarichi un modello piccolo adatto alla sua memoria; di solito le app suggeriscono modelli adatti. 3. Faccia la prima domanda, all’inizio con testi non riservati. Poi controlli le impostazioni sui dati di utilizzo.
Tutte le voci della categoria IA locale. Dati secondo i fornitori.
Non necessariamente. Secondo i fornitori, llama.cpp e whisper.cpp funzionano anche solo con il processore. Con una scheda grafica o Apple Silicon sono molto più veloci.
Secondo i fornitori, le app e i modelli di questo elenco sono gratuiti. Paga solo l’hardware e l’elettricità.
Sì, dopo aver scaricato l’app e il modello. Per aggiornamenti e nuovi modelli serve di nuovo internet.
Dipende dal modello e dal suo computer. I modelli piccoli girano su portatili normali, ma nei compiti difficili spesso rendono meno. Li provi con i suoi compiti.
Dipende dalla licenza di ciascun modello. Alcune licenze sono molto aperte, altre prevedono condizioni. Mostriamo la licenza nella pagina del modello; non si tratta di consulenza legale.