AI Compare Ninja AI Compare Ninja

KI-Tools vergleichen. Prompts und Skills nutzen.
Sprache
DE

KI-Tools für Lokale KI im Vergleich

Lokale KI läuft auf deinem eigenen Rechner statt in der Cloud eines Anbieters. Du lädst ein offenes Modell herunter und nutzt es mit einer App oder einem Programm, oft auch ohne Internet. Hier vergleichst du passende Programme und Modelle mit Quellen.

Nach Unterkategorie filtern

Alle 14Apps & Oberflächen 5Laufumgebungen & Server 4Offene Modelle 5

Sortieren

AnythingLLM

Apps & Oberflächen

Desktop-App für Chat mit eigenen Dokumenten und KI-Agenten, die lokal auf deinem Rechner läuft; ohne Konto nutzbar.

KostenlosKostenloser Plan
Bezahlt abnicht angegeben
  • Für macOS (Apple Silicon und Intel), Windows (x64 und ARM) und Linux; Open Source unter MIT
  • Laut Anbieter lokal ab Werk: Modelle, Dokumente und Chats bleiben auf dem Gerät

Details Zur Website (öffnet in neuem Tab)

ComfyUI

Apps & Oberflächen

Kostenlose, offene Software für KI-Bilder und -Videos auf dem eigenen Rechner, gebaut aus verknüpften Arbeitsschritten.

KostenlosKostenloser Plan
Bezahlt abnicht angegeben
  • Desktop-Version laut Anbieter dauerhaft kostenlos und Open Source unter GPL-3.0
  • Laut Anbieter nach der Einrichtung komplett offline nutzbar

Details Zur Website (öffnet in neuem Tab)

Foundry Local

Laufumgebungen & Server

Kostenlose Laufzeit von Microsoft, mit der Entwickler KI-Modelle in eigene Apps einbauen, die direkt auf dem Gerät laufen.

KostenlosKostenloser Plan
Bezahlt abnicht angegeben
  • Für Windows, macOS (Apple Silicon) und Linux; laut Anbieter ohne Azure-Abo und ohne Kosten pro Token
  • Wählt laut Anbieter automatisch NPU, Grafikkarte oder CPU des Geräts

Details Zur Website (öffnet in neuem Tab)

Gemma

Offene Modelle

Offene Modellfamilie von Google DeepMind, die du herunterladen und auf dem eigenen Gerät laufen lassen kannst; Gemma 4 unter Apache 2.0.

KostenlosKostenloser Plan
Bezahlt abnicht angegeben
  • Gemma 4 laut Modellkarte in fünf Größen: E2B, E4B, 12B, 26B A4B und 31B
  • E2B und E4B laut Google für Handys und Laptops, ab 12B für Grafikkarten und Workstations

Details Zur Website (öffnet in neuem Tab)

gpt-oss

Offene Modelle

Offene Sprachmodelle von OpenAI zum Herunterladen, gedacht für Desktop, Laptop und Rechenzentrum; unter Apache 2.0.

KostenlosKostenloser Plan
Bezahlt abnicht angegeben
  • In den Größen 20B und 120B; dazu gpt-oss-safeguard für eigene Sicherheitsregeln
  • Laut Modellkarte läuft gpt-oss-20b mit 16 GB Speicher, gpt-oss-120b auf einer Grafikkarte mit 80 GB

Details Zur Website (öffnet in neuem Tab)

Jan

Apps & Oberflächen

Kostenlose Desktop-App, mit der du offene KI-Modelle direkt auf deinem Rechner nutzt, auch ganz ohne Internet.

KostenlosKostenloser Plan
Bezahlt abnicht angegeben
  • Für Windows, macOS und Linux; Open Source unter Apache 2.0 (laut Lizenzdatei)
  • Laut Datenschutzseite bleiben Chatverlauf und Nutzungsprotokolle auf dem Gerät

Details Zur Website (öffnet in neuem Tab)

Llama

Offene Modelle

Offene Modellfamilie von Meta zum Herunterladen; Llama 4 steht unter einer eigenen Community-Lizenz mit Bedingungen.

KostenlosKostenloser Plan
Bezahlt abnicht angegeben
  • Llama 4 laut Meta von Grund auf für Text und Bild gebaut, aus mehreren spezialisierten Teilmodellen (Mixture of Experts)
  • Laut Lizenz: Wer ein Produkt damit weitergibt, legt die Lizenz bei und zeigt den Hinweis „Gebaut mit Llama“ (Original: „Built with Llama“) an

Details Zur Website (öffnet in neuem Tab)

llama.cpp

Laufumgebungen & Server

Offene Software, mit der Sprachmodelle auf dem eigenen Rechner laufen; als kleine App für Mac und Windows oder per Kommandozeile.

KostenlosKostenloser Plan
Bezahlt abnicht angegeben
  • Laut Anbieter kostenlos, Open Source und offline nutzbar; App für Mac und Windows 11, Kommandozeile für Linux
  • Laut Projekt genügt die CPU; Grafikkarten werden unter anderem über Metal, CUDA und Vulkan genutzt

Details Zur Website (öffnet in neuem Tab)

LM Studio

Apps & Oberflächen

Desktop-App zum lokalen Ausführen von Open-Source-LLMs.

KostenlosKostenloser Plan
Bezahlt abCloud-Credits (optional) · nutzungsbasiertCloud-Inferenz für Frontier-Modelle
  • Open-Source-LLMs lokal auf dem Desktop ausführen
  • Bionic Agent für lokale Agenten-Workflows

Details Zur Website (öffnet in neuem Tab)

Mistral (offene Modelle)

Offene Modelle

Offene Modelle von Mistral AI aus Paris zum Herunterladen, etwa Ministral 3 und Mistral Small 4, viele davon unter Apache 2.0.

KostenlosKostenloser Plan
Bezahlt abnicht angegeben
  • Laut Mistral unter Apache 2.0: Mistral Small 4 sowie Ministral 3 in 14B, 8B und 3B
  • Ministral 3 14B passt laut Modellkarte in 24 GB Grafikspeicher (FP8)

Details Zur Website (öffnet in neuem Tab)

Ollama

Laufumgebungen & Server

Open-Source-Werkzeug zum lokalen Betrieb von Sprachmodellen, ergänzt um einen bezahlten Cloud-Dienst für Entwickler und Teams.

KostenlosKostenloser Plan
Bezahlt abCloud Pro · 20 $Zugriff auf größere Pro-Cloud-Modelle und 3 parallele Anfragen
  • Open-Source-Tool zum lokalen Ausführen von Sprachmodellen wie Llama, Gemma, Mistral und Phi
  • REST-API-kompatibel mit der OpenAI-API für einfache Integration bestehender Apps

Details Zur Website (öffnet in neuem Tab)

Open WebUI

Apps & Oberflächen

Selbst hostbare KI-Oberfläche für lokale und externe Modelle, Wissensquellen, Werkzeuge und Teamzugänge.

KostenlosKostenloser Plan
Bezahlt abEnterprise License · auf AnfrageWhite-Labeling und angepasste Marke
  • Chat-Oberfläche für lokale und externe Modelle, selbst hostbar
  • Wissensquellen, Werkzeuge und Teamzugänge in einer Installation

Details Zur Website (öffnet in neuem Tab)

Qwen (offene Modelle)

Offene Modelle

Offene Modelle des Qwen-Teams von Alibaba zum Herunterladen, in vielen Größen; Lizenz je nach Modell Apache 2.0 oder Qwen-Lizenz.

KostenlosKostenloser Plan
Bezahlt abnicht angegeben
  • Beispiel Qwen3.8-27B: laut Modellseite unter Apache 2.0
  • Andere Modelle stehen unter der Qwen Community License mit eigenen Bedingungen

Details Zur Website (öffnet in neuem Tab)

whisper.cpp

Laufumgebungen & Server

Offene Software, die gesprochene Sprache lokal in Text umwandelt; nutzt die Spracherkennungsmodelle Whisper von OpenAI.

KostenlosKostenloser Plan
Bezahlt abnicht angegeben
  • Open Source unter MIT; für macOS, Linux, Windows und weitere Plattformen
  • Laut Projekt auch nur mit CPU nutzbar; Grafikkarten unter anderem von NVIDIA und AMD werden unterstützt

Details Zur Website (öffnet in neuem Tab)

Lokale KI erklärt

Wann sich KI auf dem eigenen Rechner lohnt, Hardware, Datenschutz und Start in 3 Schritten.

Lokale KI: Übersicht

Prompts, Skills und Agenten zu diesem Thema

Zum Thema passende Vorlagen. Jede verlinkt mindestens ein Fach-Tool aus dieser Kategorie.

Begriffe erklärt

Lokale KIOpen-Weight-ModellQuantisierungGPU (Grafikprozessor)

Alphabetische Reihenfolge. Das ist keine Qualitätsrangliste.

Vergleichskriterien

Wir vergleichen kostenlosen Zugang, bezahlten Einstieg, Planlimits, Funktionen und die genannten offiziellen Quellen. Unbelegte Angaben bleiben als nicht angegeben markiert.

Methodik

Nur bestätigte Einträge erscheinen im Katalog. Preise, Pläne und Limits kommen aus genannten offiziellen Anbieterseiten. Fehlt eine Angabe, bleibt sie als nicht angegeben markiert. Suchergebnisse sind standardmäßig nach Aufgabenbezug geordnet, Kategorie- und Aufgabenlisten alphabetisch. Beides lässt sich auf Kostenlos zuerst umstellen; beides ist keine Qualitätswertung. Maßgeblich ist immer die Anbieterseite.

Ist das eine Rangliste?

Nein. Suchergebnisse sind standardmäßig nach Aufgabenbezug geordnet, Kategorie- und Aufgabenlisten alphabetisch. Beides lässt sich auf Kostenlos zuerst umstellen. Wir vergeben keine Sterne und keinen Testsieger.

Was bedeutet „kostenloser Zugang“ bei den gelisteten Tools?

Kostenloser Zugang kann einen dauerhaft kostenlosen Plan, eine zeitlich befristete Testphase oder ein einmaliges Startguthaben ohne Kreditkarte bedeuten. Welche Art es im Einzelfall ist, steht auf der jeweiligen Tool-Seite.

Wie viele der gelisteten Tools bieten einen kostenlosen Zugang?

14 von 14 gelisteten Tools bieten einen kostenlosen Zugang: als dauerhaften Plan, Testphase oder Guthaben ohne Kreditkarte.

Wie sehe ich zuerst Tools mit kostenlosem Zugang?

Nutze den Umschalter „Kostenlos zuerst“ oberhalb der Liste, um Tools mit kostenlosem Zugang zuerst zu sehen.