Wissen · Lokale KI
Qwen3.5 4B lokal betreiben: welche Hardware es braucht
Faktencheck: 14. Oktober 2026 Fachlich verantwortlich: Daniel Bidoli Hersteller- und Ollama-Quellen unten
Das Einstiegsmodell mit Bildverständnis, das auf vorhandenen Rechnern läuft.
Qwen3.5 4B ist die kleine Stufe der aktuellen Qwen-Generation: rund 3,3 GB Modelldatei, Bild- und Videoeingabe, 256K nativer Kontext und ein Denkmodus, der sich abschalten lässt. Es läuft auf Grafikkarten ab 6 GB, auf Apple-Rechnern ab 16 GB und zur Not über den Hauptspeicher eines gewöhnlichen Büro-PCs.
Auf einen Blick
Was Qwen3.5 4B an Hardware braucht
Dieselben Einstufungen wie im Hardware-Rechner, hier für dieses eine Modell: Speicher, Anschaffen gegen Mieten, die passenden Anwendungsfälle und die Befehle zum Ausprobieren.
Anschaffen
CHF 0 im Normalfall: der vorhandene Rechner reichtMieten
CHF 260–450 pro Monat im Dauerbetrieb (selten nötig); stundenweise deutlich günstigerPassende Anwendungsfälle im Rechner
Läuft fast überall: Eine 6-GB-Karte reicht, 8 GB geben Luft für Bilder, ein Apple-Rechner ab 16 GB sowieso. Für dieses Modell muss niemand Hardware kaufen; neu gegenüber Qwen3 4B ist die Bild- und Videoeingabe.
Tempo-Erwartung: Auf jeder aktuellen Grafikkarte flott, auf Apple gut, rein über die CPU zäh, aber brauchbar. Bilder und der Denkmodus kosten auf kleiner Hardware spürbar Zeit. Eigene Messung vom 14. Oktober 2026: rein über die CPU eines Büroservers 2 bis 3,5 Tokens pro Sekunde, auf einem Laptop mit RTX 3050 Ti (4 GB) 7,5 bis 8,5 Tokens pro Sekunde, dort läuft das Modell mit Kontext noch zur Hälfte auf dem Prozessor.
So starten Sie: die Befehle zum Kopieren
Ollama installieren (kostenlos, ollama.com), dann im Terminal:
ollama pull qwen3.5:4b ollama run qwen3.5:4b
Schritt für Schritt mit echten Aufnahmen: Anleitung, Teil 3: Ollama installieren und das erste Modell starten.
Q4-Planungswerte aus unserer internen Ollama-Hardware-Matrix, geprüft am 3. September 2026. Auf Apple-Rechnern teilen sich Modell und System den gemeinsamen Speicher, dort zählt die RAM-Angabe. Preise sind grobe Marktgrössenordnungen, keine Offerten.
Zum Nachschlagen
Qwen3.5 4B: alle Angaben im Detail
Geprüft am 3. September 2026. Kontextlänge, Parallelität, Bilddaten und Quantisierung verändern den tatsächlichen Bedarf; jede Zahl lässt sich gegen die Primärquellen unten prüfen.
| Modellklasse | Klein (4B) · Qwen3.5-Familie (Alibaba) |
| Parameter | 4 Milliarden (dicht; rund 5 Milliarden inklusive Bild-Encoder) |
| Modelldatei | rund 3,3 bis 4,0 GB je nach Variante (Ollama-Standardtag) |
| Grafikspeicher (VRAM) | 6–8 GB |
| Arbeitsspeicher (RAM) | 16 GB |
| Apple (gemeinsamer Speicher) | ab 16 GB gemeinsamem Speicher |
| Kontextfenster | bis 256'000 Tokens nativ, erweiterbar bis rund 1 Million |
| Lizenz | Apache 2.0, auch kommerziell frei |
| Ollama-Name | qwen3.5:4b |
Einordnung
Wo Qwen3.5 4B zwischen seinen Nachbarn steht
Alle Modellprofile unserer Matrix, vom kleinsten zum grössten. Die Stufe entscheidet über die Hardware, und der ehrliche Weg führt von klein nach gross: erst testen, dann aufrüsten.
Qwen3.5 9B — die nächste Stufe, ab 8 GB Grafikspeicher spürbar fähiger
Qwen3 4B — der reine Text-Vorgänger mit noch kleinerer Datei
Hardware-Rechner — alle Stufen, Anwendungsfälle und der Umkehr-Modus «Was kann meine Hardware?»
Ehrlich eingeordnet
Wofür Qwen3.5 4B taugt, und wo die Grenzen liegen
Wofür es sich lohnt
Zusammenfassen, Umformulieren, einfache Zuordnungen, Protokolle aus Transkripten und einfache Fragen zu einem Dokument oder einem Foto: dafür ist die 4B-Klasse gedacht. Auf schwächeren Rechnern und Laptops ist Qwen3.5 4B oft die einzige Stufe, die flüssig läuft. Als Zweitmodell neben Whisper eignet es sich für die Zusammenfassung nach der Transkription.
Wo die Grenzen liegen
Mehrstufige Analysen, lange Dokumente und feine Formulierungen überfordern die Klasse schnell; dort merkt man die Grösse. Der Denkmodus hilft bei kniffligen Fragen, verlängert aber die Antwortzeit auf kleiner Hardware deutlich. Wer über Experimente hinaus will, nimmt Qwen3.5 9B ab 8 GB Grafikspeicher.
Häufige Fragen
FAQ: Qwen3.5 4B lokal
Läuft Qwen3.5 4B ohne Grafikkarte?
Ja, über den Hauptspeicher eines Rechners mit 16 GB RAM; die Antworten kommen dann zäh, aber sie kommen: in unserer Messung vom 14. Oktober 2026 mit 2 bis 3,5 Tokens pro Sekunde, eine Antwort von 150 Tokens dauert rund eine Minute. Auf Apple-Rechnern ab 16 GB gemeinsamem Speicher läuft es gut. Bilder und der Denkmodus kosten ohne Grafikkarte besonders viel Zeit.
Wie viel Speicher braucht Qwen3.5 4B?
Die Ollama-Standardvariante belegt rund 3,3 GB. Mit mittlerem Kontext liegt der Bedarf im Betrieb bei rund 6 GB; als Grafikspeicher reichen damit 6 GB, 8 GB geben Reserve für Bilder und den Denkmodus.
Qwen3.5 4B oder Qwen3 4B: welches soll ich nehmen?
Für neue Installationen Qwen3.5 4B: Bild- und Videoeingabe, längerer Kontext und Denkmodus bei rund 0,7 GB mehr Datei. Qwen3 4B bleibt die Wahl, wenn jedes Gigabyte zählt oder ausschliesslich Text verarbeitet wird.
Darf ich Qwen3.5 4B geschäftlich nutzen?
Ja. Das offizielle Modell steht unter Apache 2.0 und ist damit auch kommerziell nutzbar. Die Lizenzprüfung des Einsatzfalls, der Datenschutz bei Personendaten und die Freigabe externer Ausgaben bleiben Aufgabe des Betriebs.
Primärquellen zum Nachprüfen
- Qwen3.5 in der Ollama-Bibliothek: Varianten, Dateigrössen und Kontextfenster
- Qwen3.5 4B bei Qwen: Parameter, Kontext, Modalitäten, Denkmodus und Apache-2.0-Lizenz
- Eigene Messung vom 14. Oktober 2026: Qwen3.5 4B ohne Grafikkarte und auf einer 4-GB-Karte, Rohdaten offen
- Unsere Übersicht aller Modellklassen — verlassen Sie sich nicht auf eine einzige Quelle, auch nicht auf uns
Passt Qwen3.5 4B zu Ihrer Aufgabe?
Das klärt kein Datenblatt, sondern ein Test mit Ihren echten Unterlagen. Im kostenlosen Erstgespräch grenzen wir die Aufgabe ab und sagen ehrlich, ob lokale KI der richtige Weg ist, oder ob es eine einfachere Antwort gibt. Erst messen, dann investieren.
Mit uns umsetzen
Was wir für Sie übernehmen
Wenn Sie es nicht selbst einrichten wollen oder vor dem Kauf eine zweite Meinung möchten, übernehmen wir diese Schritte. Das Erstgespräch ist kostenlos, auf Deutsch oder Englisch.
Einrichtung auf Ihrer Hardware
Wir richten das passende Modell mit einer Chat-Oberfläche auf einem Rechner oder Server ein, den Sie schon haben: mit Anmeldung davor, Zugriff fürs Team und einer Sicherung. Ihre Daten bleiben im Haus.
Begleiteter Zweiwochentest
Drei echte Aufgaben aus Ihrem Alltag, zwei Wochen Protokoll, dann eine klare Auswertung: lokal reicht, lokal mit besserer Hardware oder Cloud bleibt besser. Alle drei sind gute Ergebnisse, weil sie einen Fehlkauf verhindern.
Beratung vor dem Kauf
Bevor Sie Hardware kaufen oder mieten, prüfen wir Ihre Aufgaben, Datenmengen und Datenschutzanforderungen und sagen Ihnen, welche Stufe reicht. Auch dann, wenn die ehrliche Antwort «keine eigene Hardware» heisst.
Ein Klick übernimmt Ihren Wunsch ins Anfrageformular unten. Sie können ihn dort ändern.
Lokale KI ist oft nur ein Baustein in einem grösseren Ablauf. Wie wir solche Abläufe mit Ihren bestehenden Systemen verbinden: Prozessautomatisierung für KMU in der Schweiz.
Beschreiben Sie kurz, wo es hakt. Den Rest klären wir im Gespräch.
Sie schreiben uns, was Sie beschäftigt. Ihre Nachricht landet nicht in einem Ticketsystem, sondern direkt bei Daniel Bidoli, dem Inhaber.
-
Nachricht senden
Zwei Sätze reichen, das Eingrenzen ist unsere Arbeit.
-
Persönliche Antwort
Erste Einschätzung innerhalb von 24 Stunden.
-
Kostenloses Erstgespräch
Rund 30 Minuten: online, vor Ort oder flexibel am Abend. Danach entscheiden Sie.
Sehen wir keinen Nutzen, sagen wir es Ihnen offen.
Lieber direkt sprechen?
Ihre Anfrage
Was beschäftigt Sie? Eine kurze Beschreibung reicht, wir melden uns innerhalb von 24 Stunden.