AI Compare Ninja
KI-Tools vergleichen. Prompts und Skills nutzen.
Bei lokaler KI läuft das Sprachmodell auf deinem Laptop oder PC statt in der Cloud eines Anbieters. Nach dem Herunterladen funktioniert vieles auch offline. Hier erfährst du, wann das sinnvoll ist und wie du startest.
Du installierst ein Programm wie Ollama, LM Studio oder Jan und lädst ein offenes Modell herunter, zum Beispiel Llama, Gemma oder Qwen. Das Programm rechnet die Antworten dann mit deinem Prozessor oder deiner Grafikkarte. Deine Eingaben müssen dafür nicht an einen Server geschickt werden.
Lokale KI ist praktisch, wenn du mit vertraulichen Texten arbeitest und sie nicht hochladen möchtest, oft ohne stabile Internetverbindung arbeitest, ohne Abo und ohne Konto ausprobieren möchtest oder selbst entscheiden willst, welches Modell und welche Version du nutzt.
Je größer das Modell, desto mehr Arbeitsspeicher oder Grafikspeicher braucht es. Ein paar Richtwerte laut Anbieter: Jan nennt für Macs 8 GB Arbeitsspeicher für Modelle mit 3 Milliarden Parametern (3B), 16 GB für 7B und 32 GB für 13B. gpt-oss-20b läuft laut OpenAI mit 16 GB Speicher. Gemma gibt es laut Google auch in kleinen Größen für Laptops und Smartphones. llama.cpp und whisper.cpp laufen laut Anbieter auch nur mit dem Prozessor, mit Grafikkarte oder Apple Silicon geht es schneller. ComfyUI für Bilder und Videos läuft laut Anbieter schon ab 4 GB Grafikspeicher und 8 GB Arbeitsspeicher.
Der größte Vorteil: Wenn Programm und Modell offline laufen, bleiben deine Eingaben auf deinem Gerät. Es gibt aber Grenzen: Viele Apps können auch Online-Modelle anbinden. Dann gehen deine Daten an diesen Anbieter. Manche Programme senden laut Anbieter anonyme Nutzungsdaten. Prüfe die Einstellungen und schalte das ab, wenn du es nicht willst. Dein Rechner muss selbst gut geschützt sein, zum Beispiel mit Updates und Festplattenverschlüsselung. Jedes offene Modell hat eigene Lizenzbedingungen. Lies sie vor dem Einsatz in der Firma. Auch lokale Modelle können sich irren. Prüfe wichtige Antworten.
1. Installiere eine App wie LM Studio, Jan oder Ollama von der Seite des Anbieters. 2. Lade ein kleines Modell herunter, das zu deinem Arbeitsspeicher passt. Die Apps schlagen meist passende Modelle vor. 3. Stelle deine erste Frage, zuerst mit Texten, die nicht vertraulich sind. Prüfe danach die Einstellungen zu Nutzungsdaten.
Alle Einträge der Kategorie Lokale KI. Angaben laut Anbieter.
Nicht unbedingt. llama.cpp und whisper.cpp laufen laut Anbieter auch nur mit dem Prozessor. Mit Grafikkarte oder Apple Silicon geht es deutlich schneller.
Die Programme und Modelle in dieser Liste kosten laut Anbieter nichts. Du bezahlst nur deine Hardware und den Strom.
Ja, nachdem du App und Modell heruntergeladen hast. Für Updates und neue Modelle brauchst du wieder Internet.
Das hängt vom Modell und von deinem Rechner ab. Kleine Modelle laufen auf normalen Laptops, sind bei schwierigen Aufgaben aber oft schwächer. Teste mit deinen eigenen Aufgaben.
Das regelt die Lizenz des jeweiligen Modells. Manche Lizenzen sind sehr offen, andere haben Bedingungen. Wir zeigen die Lizenz auf der Seite des Modells, ohne Rechtsberatung.