Wissen · Lokale KI
Der lokale Code-Assistent: Vorschläge und Erklärungen, der Quellcode bleibt im Haus
Faktencheck: 3. September 2026 Fachlich verantwortlich: Daniel Bidoli Modell- und Hardwarequellen unten
Für Betriebe, deren Code das Haus nicht verlassen darf, ist lokal nicht die zweite Wahl, sondern die einzige.
Lokale Coding-Modelle helfen bei Routinen, Snippets und Erklärungen, angebunden an den Editor wie ihre Cloud-Vorbilder. Der Einstieg läuft mit der 14B-Klasse ab 16 GB Grafikspeicher, richtig brauchbar wird es mit der 30B-Coder-Klasse ab 24 GB. Ehrlich vorweg: Die grossen Cloud-Coding-Werkzeuge bleiben spürbar stärker.
Auf einen Blick
Was «Programmieren» an Hardware braucht
Dieselben Einstufungen wie im Hardware-Rechner, hier zum Nachlesen: Speicher, Anschaffen gegen Mieten, die passenden Modelle und die Befehle zum Ausprobieren.
Q4-Planungswerte aus unserer internen Ollama-Hardware-Matrix, geprüft am 3. September 2026.
Anschaffen
CHF 1'500–3'500 einmalig, passender PCMieten
CHF 260–450 pro Monat im Dauerbetrieb; stundenweise deutlich günstigerWomit Sie starten können
Ab 16 GB Grafikspeicher für die 14B-Klasse als Einstieg; richtig brauchbar wird lokales Coding mit der 30B-Coder-Klasse ab 24 GB (z. B. RTX 3090/4090) oder einem Apple-Rechner ab 48 GB.
Tempo-Erwartung: Vorschläge im Sekundentakt, grössere Umbauten dauern. Ehrlich: die Cloud-Coding-Werkzeuge bleiben spürbar stärker.
So starten Sie: die Befehle zum Kopieren
Ollama installieren (kostenlos, ollama.com), dann im Terminal:
ollama pull qwen3.5:9b # Die Coding-Klasse ab 24 GB Grafikspeicher: ollama pull qwen3-coder:30b # oder der Coding-Agent von Mistral AI: ollama pull devstral-small-2 # Editor-Anbindung z. B. über die freie Erweiterung # Continue (continue.dev) für VS Code und JetBrains.
Auf Apple-Rechnern teilen sich Modell und System den gemeinsamen Speicher, dort zählt die RAM-Angabe. Preise sind grobe Marktgrössenordnungen, keine Offerten.
Im Betrieb
Was damit möglich ist
Routinen und Snippets
Der Parser, die Validierung, der Datenbankzugriff: wiederkehrender Code entsteht im Sekundentakt, und das Modell kennt dabei nur, was Sie ihm zeigen.
Fremden Code verstehen
Das geerbte Projekt, die undokumentierte Funktion, das Altsystem: Erklärungen auf Abruf, ohne dass proprietärer Code zu einem Cloud-Anbieter wandert.
Tests und Dokumentation
Unit-Tests, Docstrings, README-Entwürfe: die Arbeit, die notorisch liegen bleibt, als Vorschlag aus der Maschine, geprüft vom Menschen.
Interne Werkzeuge bauen
Skripte und kleine Helfer für den Betriebsalltag, entwickelt mit Unterstützung, aber komplett innerhalb der eigenen Infrastruktur.
Ehrlich eingeordnet
Warum lokal, und wo die Grenzen liegen
Warum gerade hier lokal
Quellcode ist oft das wertvollste Geschäftsgeheimnis eines Betriebs, und bei Auftragsentwicklung ist er per Vertrag geschützt: NDAs, Kundenrechte, Compliance-Vorgaben. Ein Cloud-Assistent, der bei jedem Vorschlag den umliegenden Code mitliest, ist damit schnell unvereinbar. Der lokale Assistent löst das strukturell: Modell und Kontext laufen auf eigener Hardware, kein Token verlässt das Haus, und was der Assistent sieht, bestimmt die eigene Konfiguration.
Die ehrlichen Grenzen
Die ehrlichste Grenze zuerst: Wer professionell entwickelt und frei wählen darf, bekommt bei den grossen Cloud-Coding-Werkzeugen heute spürbar mehr Leistung, bei komplexen Umbauten ist der Abstand deutlich. Lokale Modelle glänzen bei Routinen, Snippets und Erklärungen, nicht beim eigenständigen Umbau ganzer Module. Dazu kommt die Hardware-Schwelle: Richtig brauchbar wird es erst mit der 30B-Coder-Klasse ab 24 GB. Die Rechnung lautet darum nicht «genauso gut, aber lokal», sondern «gut genug für vieles, und der Code bleibt im Haus».
Der Weg
So kommt das in Ihren Betrieb
Die ersten Schritte kosten nichts ausser etwas Zeit; investiert wird erst, wenn der eigene Test den Nutzen belegt hat.
-
Modell laden, Editor anbinden
Qwen3.5 9B als Einstieg oder auf 24 GB VRAM Qwen3-Coder 30B bzw. Devstral Small 2 über Ollama, dazu eine passende Editor-Anbindung. Erst an einem unkritischen Projekt messen, wie zuverlässig Vorschläge und Werkzeugaufrufe sind.
-
An echten Aufgaben messen
Zwei Wochen normale Arbeit: Wo helfen die Vorschläge, wo stören sie, was fehlt gegenüber dem Cloud-Werkzeug? Erst dieses Bild rechtfertigt Hardware für die Coder-Klasse, oder eben nicht.
-
Regeln für das Team
Welche Projekte dürfen welchen Assistenten sehen, was gilt für Kundencode, wie wird geprüft: Die Governance-Frage ist bei Code-Assistenten wichtiger als die Modellwahl.
Häufige Fragen
FAQ: Programmieren mit lokaler KI
Gibt es eine lokale Alternative zu GitHub Copilot?
Ja: Aktuelle lokale Modelle wie Qwen3.5 und Qwen3.8 laufen über Ollama auf eigener Hardware und lassen sich über Editor-Erweiterungen anbinden. Der Funktionsumfang ähnelt Cloud-Werkzeugen, die Qualität kann bei grossen Umbauten darunter liegen; dafür kann der Quellcode im eigenen Netz bleiben.
Welches Modell taugt für lokales Coding?
Der aktuelle Einstieg ist Qwen3.5 9B mit 12 bis 16 GB Grafikspeicher. Ab 24 GB VRAM kommen die spezialisierten Coder in Frage: Qwen3-Coder 30B antwortet dank Mixture-of-Experts schnell, Devstral Small 2 von Mistral AI ist auf Coding-Agenten ausgelegt, Qwen3.8 27B ist der starke Allrounder. Alle lassen sich gratis am eigenen Projekt testen.
Für wen lohnt sich der lokale Code-Assistent wirklich?
Für alle, deren Quellcode das Haus nicht verlassen darf: Auftragsentwicklung unter NDA, Embedded- und Industriecode, Behörden- und Gesundheitsumfeld, strenge Compliance. Wer frei wählen darf und maximale Unterstützung will, fährt mit den Cloud-Werkzeugen ehrlicherweise besser.
Welche Hardware braucht ein lokaler Code-Assistent?
Zum Einstieg eine Grafikkarte ab 16 GB für die 14B-Klasse. Wer die 30B-Coder-Klasse produktiv nutzen will, plant 24 GB Grafikspeicher (z. B. RTX 3090/4090) oder einen Apple-Rechner ab 48 GB gemeinsamem Speicher ein.
Quellen und Vertiefung
- Qwen3.8 in der Ollama-Bibliothek — aktuelle Coding- und Agentenklasse
- Continue — freie Editor-Anbindung für lokale Modelle (VS Code, JetBrains)
- Qwen3-Coder in der Ollama-Bibliothek: die schnelle Coder-Klasse ab 24 GB
- Devstral Small 2 in der Ollama-Bibliothek: Coding-Agent von Mistral AI
- Modellprofil: Qwen3.5 9B — alle Zahlen und Grenzen des empfohlenen Modells
- Modellprofil: Qwen3-Coder 30B — alle Zahlen und Grenzen des empfohlenen Modells
- Modellprofil: Devstral Small 2 — alle Zahlen und Grenzen des empfohlenen Modells
- Modellprofil: Qwen3.8 27B — alle Zahlen und Grenzen des empfohlenen Modells
Weitere Anwendungsfälle
Was lokale KI sonst noch kann
Alle neun Fälle aus dem Rechner
Fälle mit Pfeil öffnen den Rechner an der richtigen Stelle; die übrigen haben eine eigene Seite wie diese.
Nächster Schritt
Passt das zu Ihrem Betrieb?
Im kostenlosen Erstgespräch klären wir, ob «Programmieren» bei Ihnen den Aufwand lohnt, welche Hardware wirklich nötig ist, und ob die ehrliche Antwort vielleicht «Cloud» oder «noch nicht» lautet. Wenn ja, folgt die Analyse zum Festpreis: Aufgabe abgrenzen, Modell testen, Absicherung planen. Erst messen, dann investieren.
Mit uns umsetzen
Was wir für Sie übernehmen
Wenn Sie es nicht selbst einrichten wollen oder vor dem Kauf eine zweite Meinung möchten, übernehmen wir diese Schritte. Das Erstgespräch ist kostenlos, auf Deutsch oder Englisch.
Einrichtung auf Ihrer Hardware
Wir richten das passende Modell mit einer Chat-Oberfläche auf einem Rechner oder Server ein, den Sie schon haben: mit Anmeldung davor, Zugriff fürs Team und einer Sicherung. Ihre Daten bleiben im Haus.
Begleiteter Zweiwochentest
Drei echte Aufgaben aus Ihrem Alltag, zwei Wochen Protokoll, dann eine klare Auswertung: lokal reicht, lokal mit besserer Hardware oder Cloud bleibt besser. Alle drei sind gute Ergebnisse, weil sie einen Fehlkauf verhindern.
Beratung vor dem Kauf
Bevor Sie Hardware kaufen oder mieten, prüfen wir Ihre Aufgaben, Datenmengen und Datenschutzanforderungen und sagen Ihnen, welche Stufe reicht. Auch dann, wenn die ehrliche Antwort «keine eigene Hardware» heisst.
Ein Klick übernimmt Ihren Wunsch ins Anfrageformular unten. Sie können ihn dort ändern.
Lokale KI ist oft nur ein Baustein in einem grösseren Ablauf. Wie wir solche Abläufe mit Ihren bestehenden Systemen verbinden: Prozessautomatisierung für KMU in der Schweiz.
Beschreiben Sie kurz, wo es hakt. Den Rest klären wir im Gespräch.
Sie schreiben uns, was Sie beschäftigt. Ihre Nachricht landet nicht in einem Ticketsystem, sondern direkt bei Daniel Bidoli, dem Inhaber.
-
Nachricht senden
Zwei Sätze reichen, das Eingrenzen ist unsere Arbeit.
-
Persönliche Antwort
Erste Einschätzung innerhalb von 24 Stunden.
-
Kostenloses Erstgespräch
Rund 30 Minuten: online, vor Ort oder flexibel am Abend. Danach entscheiden Sie.
Sehen wir keinen Nutzen, sagen wir es Ihnen offen.
Lieber direkt sprechen?
Ihre Anfrage
Was beschäftigt Sie? Eine kurze Beschreibung reicht, wir melden uns innerhalb von 24 Stunden.