Wissen · Lokale KI
Gemma 4 26B lokal betreiben: welche Hardware es braucht
Faktencheck: 12. Oktober 2026 Fachlich verantwortlich: Daniel Bidoli Hersteller- und Ollama-Quellen unten
Mixture-of-Experts für die 24-GB-Klasse: grosses Wissen, Tempo eines kleinen Modells.
Gemma 4 26B ist Googles offenes Mixture-of-Experts-Modell: 25,2 Milliarden Parameter insgesamt, von denen je Rechenschritt nur rund 3,8 Milliarden arbeiten. Die Ollama-Standardvariante belegt 16 bis 19 GB, versteht Text und Bilder und bietet 256K Kontext. Eine 24-GB-Grafikkarte ist der Einstieg; das Tempo liegt dabei deutlich über dichten Modellen gleicher Grösse.
Auf einen Blick
Was Gemma 4 26B an Hardware braucht
Dieselben Einstufungen wie im Hardware-Rechner, hier für dieses eine Modell: Speicher, Anschaffen gegen Mieten, die passenden Anwendungsfälle und die Befehle zum Ausprobieren.
Anschaffen
CHF 2'500–6'000 einmalig, Workstation mit 24- oder 32-GB-Karte bzw. MacMieten
CHF 300–450 pro Monat im Dauerbetrieb; zum Testen stundenweisePassende Anwendungsfälle im Rechner
Die schnelle Wahl der 24-GB-Klasse: Die 16- bis 19-GB-Datei passt auf eine 24-GB-Karte mit mittlerem Kontext, und dank Mixture-of-Experts bleibt das Tempo hoch. 32 GB oder ein Apple-Rechner ab 48 GB geben Luft für Bilder und lange Dokumente.
Tempo-Erwartung: Für seine Grösse auffallend flott: Je Schritt rechnen nur rund 3,8 Milliarden Parameter, deshalb antwortet es auf einer 24-GB-Karte deutlich schneller als dichte Modelle derselben Speicherklasse. Geladen werden müssen trotzdem alle Gewichte.
So starten Sie: die Befehle zum Kopieren
Ollama installieren (kostenlos, ollama.com), dann im Terminal:
ollama pull gemma4:26b ollama run gemma4:26b
Schritt für Schritt mit echten Aufnahmen: Anleitung, Teil 3: Ollama installieren und das erste Modell starten.
Q4-Planungswerte aus unserer internen Ollama-Hardware-Matrix, geprüft am 3. September 2026. Auf Apple-Rechnern teilen sich Modell und System den gemeinsamen Speicher, dort zählt die RAM-Angabe. Preise sind grobe Marktgrössenordnungen, keine Offerten.
Zum Nachschlagen
Gemma 4 26B: alle Angaben im Detail
Geprüft am 3. September 2026. Kontextlänge, Parallelität, Bilddaten und Quantisierung verändern den tatsächlichen Bedarf; jede Zahl lässt sich gegen die Primärquellen unten prüfen.
| Modellklasse | Obere Mittelklasse (24–35B) · Gemma-4-Familie (Google DeepMind) |
| Parameter | 25,2 Milliarden gesamt, 3,8 Milliarden aktiv je Schritt (Mixture-of-Experts) |
| Modelldatei | rund 16 bis 19 GB (Ollama-Standardtag; Q4_K_M 18 GB) |
| Grafikspeicher (VRAM) | 24–32 GB |
| Arbeitsspeicher (RAM) | 32–64 GB |
| Apple (gemeinsamer Speicher) | ab 32 GB knapp, komfortabel 48–64 GB |
| Kontextfenster | bis 256'000 Tokens |
| Lizenz | Apache 2.0, auch kommerziell frei |
| Ollama-Name | gemma4:26b |
Einordnung
Wo Gemma 4 26B zwischen seinen Nachbarn steht
Alle Modellprofile unserer Matrix, vom kleinsten zum grössten. Die Stufe entscheidet über die Hardware, und der ehrliche Weg führt von klein nach gross: erst testen, dann aufrüsten.
Gemma 4 12B — die kleinere Stufe ab 12 GB, zusätzlich mit Audioeingabe
Gemma 4 31B — das dichte Schwestermodell, gründlicher, aber langsamer
Qwen3.8 27B — dichtes Modell derselben Speicherklasse
Hardware-Rechner — alle Stufen, Anwendungsfälle und der Umkehr-Modus «Was kann meine Hardware?»
Ehrlich eingeordnet
Wofür Gemma 4 26B taugt, und wo die Grenzen liegen
Wofür es sich lohnt
Gemma 4 26B passt, wenn eine 24-GB-Karte oder ein grösserer Mac schon da ist und Antworten schnell kommen sollen: Dokumente und Bilder auswerten, längere Entwürfe, Recherche über mehrere Quellen, Agenten mit vielen kurzen Schritten. Die Mixture-of-Experts-Bauweise macht es zum Kandidaten für mehrere gleichzeitige Nutzer, solange der Speicher für Kontext reicht.
Wo die Grenzen liegen
Mixture-of-Experts spart Rechenzeit, nicht Speicher: Alle 25 Milliarden Parameter müssen geladen sein. Auf einer 24-GB-Karte bleibt deshalb wenig Platz für langen Kontext oder viele Bilder. Audio verarbeitet diese Variante laut Modellkarte nicht, dafür ist Gemma 4 12B gedacht. Qualität und Fehlerrate sind am eigenen Material zu prüfen, bevor Hardware gekauft wird.
Häufige Fragen
FAQ: Gemma 4 26B lokal
Wie viel VRAM braucht Gemma 4 26B?
Die Ollama-Standardvariante belegt 16 bis 19 GB, die Q4_K_M-Variante 18 GB. Für mittleren Kontext reicht eine 24-GB-Grafikkarte; für lange Dokumente, Bilder oder mehrere Nutzer sind 32 GB die entspanntere Auslegung.
Was bedeutet Mixture-of-Experts bei Gemma 4 26B?
Das Modell besteht aus vielen Teilnetzen, von denen je Rechenschritt nur ein kleiner Teil arbeitet, bei Gemma 4 26B rund 3,8 von 25,2 Milliarden Parametern. Das macht die Antworten schnell. Den Speicherbedarf senkt es nicht, denn geladen werden alle Gewichte.
Läuft Gemma 4 26B auf einem Mac?
Ja. 32 GB gemeinsamer Speicher sind die knappe Untergrenze, weil macOS denselben Speicher nutzt; 48 bis 64 GB sind sinnvoll. Dank der wenigen aktiven Parameter ist das Tempo auf Apple-Chips mit hoher Speicherbandbreite gut.
Gemma 4 26B oder 31B: welches soll ich nehmen?
Gemma 4 26B ist schneller, weil nur ein Teil der Parameter rechnet. Gemma 4 31B ist ein dichtes Modell und bei anspruchsvollen Aufgaben oft gründlicher, braucht aber etwas mehr Speicher und antwortet langsamer. Welches reicht, zeigt ein Test mit den eigenen Unterlagen.
Darf ich Gemma 4 26B geschäftlich nutzen?
Die Modellkarte nennt Apache 2.0; damit ist die kommerzielle Nutzung grundsätzlich erlaubt. Rechte an Eingabedaten, Datenschutz und die Freigabe externer Ausgaben bleiben Aufgabe des Betriebs.
Primärquellen zum Nachprüfen
- Gemma 4 in der Ollama-Bibliothek: Varianten, Dateigrössen, Kontext und Eingabearten
- Gemma-4-Modellkarte von Google DeepMind: 26B A4B mit 25,2 Milliarden gesamt und 3,8 Milliarden aktiv, Kontext, Modalitäten, Apache 2.0
- Unsere Übersicht aller Modellklassen — verlassen Sie sich nicht auf eine einzige Quelle, auch nicht auf uns
Passt Gemma 4 26B zu Ihrer Aufgabe?
Das klärt kein Datenblatt, sondern ein Test mit Ihren echten Unterlagen. Im kostenlosen Erstgespräch grenzen wir die Aufgabe ab und sagen ehrlich, ob lokale KI der richtige Weg ist, oder ob es eine einfachere Antwort gibt. Erst messen, dann investieren.
Mit uns umsetzen
Was wir für Sie übernehmen
Wenn Sie es nicht selbst einrichten wollen oder vor dem Kauf eine zweite Meinung möchten, übernehmen wir diese Schritte. Das Erstgespräch ist kostenlos, auf Deutsch oder Englisch.
Einrichtung auf Ihrer Hardware
Wir richten das passende Modell mit einer Chat-Oberfläche auf einem Rechner oder Server ein, den Sie schon haben: mit Anmeldung davor, Zugriff fürs Team und einer Sicherung. Ihre Daten bleiben im Haus.
Begleiteter Zweiwochentest
Drei echte Aufgaben aus Ihrem Alltag, zwei Wochen Protokoll, dann eine klare Auswertung: lokal reicht, lokal mit besserer Hardware oder Cloud bleibt besser. Alle drei sind gute Ergebnisse, weil sie einen Fehlkauf verhindern.
Beratung vor dem Kauf
Bevor Sie Hardware kaufen oder mieten, prüfen wir Ihre Aufgaben, Datenmengen und Datenschutzanforderungen und sagen Ihnen, welche Stufe reicht. Auch dann, wenn die ehrliche Antwort «keine eigene Hardware» heisst.
Ein Klick übernimmt Ihren Wunsch ins Anfrageformular unten. Sie können ihn dort ändern.
Lokale KI ist oft nur ein Baustein in einem grösseren Ablauf. Wie wir solche Abläufe mit Ihren bestehenden Systemen verbinden: Prozessautomatisierung für KMU in der Schweiz.
Beschreiben Sie kurz, wo es hakt. Den Rest klären wir im Gespräch.
Sie schreiben uns, was Sie beschäftigt. Ihre Nachricht landet nicht in einem Ticketsystem, sondern direkt bei Daniel Bidoli, dem Inhaber.
-
Nachricht senden
Zwei Sätze reichen, das Eingrenzen ist unsere Arbeit.
-
Persönliche Antwort
Erste Einschätzung innerhalb von 24 Stunden.
-
Kostenloses Erstgespräch
Rund 30 Minuten: online, vor Ort oder flexibel am Abend. Danach entscheiden Sie.
Sehen wir keinen Nutzen, sagen wir es Ihnen offen.
Lieber direkt sprechen?
Ihre Anfrage
Was beschäftigt Sie? Eine kurze Beschreibung reicht, wir melden uns innerhalb von 24 Stunden.