Wissen · Lokale KI
Devstral Small 2 lokal betreiben: welche Hardware es braucht
Faktencheck: 13. Oktober 2026 Fachlich verantwortlich: Daniel Bidoli Hersteller- und Ollama-Quellen unten
Ein Coding-Agent aus Europa, der auf eine einzelne 24-GB-Karte passt.
Devstral Small 2 ist das kompakte Coding-Modell von Mistral AI: 24 Milliarden Parameter, gebaut für Agenten, die Codebasen erkunden, mehrere Dateien bearbeiten und Werkzeuge aufrufen. Es versteht neben Text auch Bilder, etwa Screenshots einer Oberfläche. Die Ollama-Standardvariante belegt rund 15 GB; laut Modellkarte reicht eine RTX 4090 oder ein Mac mit 32 GB.
Auf einen Blick
Was Devstral Small 2 an Hardware braucht
Dieselben Einstufungen wie im Hardware-Rechner, hier für dieses eine Modell: Speicher, Anschaffen gegen Mieten, die passenden Anwendungsfälle und die Befehle zum Ausprobieren.
Anschaffen
CHF 2'500–6'000 einmalig, Workstation mit 24-GB-Karte bzw. Mac ab 32 GBMieten
CHF 300–450 pro Monat im Dauerbetrieb; zum Testen stundenweisePassende Anwendungsfälle im Rechner
Die europäische Wahl für Coding-Agenten: Die 15-GB-Datei passt auf eine 24-GB-Karte und lässt Platz für Kontext, die Lizenz ist Apache 2.0, und der Hersteller sitzt in Paris. Wer Agenten über ganze Codebasen laufen lässt, testet es gegen Qwen3-Coder 30B am eigenen Projekt.
Tempo-Erwartung: Auf einer 24-GB-Karte flüssig nutzbar. Als dichtes Modell rechnen bei jedem Schritt alle 24 Milliarden Parameter, deshalb antwortet es spürbar langsamer als Mixture-of-Experts-Coder wie Qwen3-Coder 30B. Bei Agenten mit vielen Werkzeugaufrufen summiert sich das.
So starten Sie: die Befehle zum Kopieren
Ollama installieren (kostenlos, ollama.com), dann im Terminal:
ollama pull devstral-small-2 ollama run devstral-small-2
Schritt für Schritt mit echten Aufnahmen: Anleitung, Teil 3: Ollama installieren und das erste Modell starten.
Q4-Planungswerte aus unserer internen Ollama-Hardware-Matrix, geprüft am 3. September 2026. Auf Apple-Rechnern teilen sich Modell und System den gemeinsamen Speicher, dort zählt die RAM-Angabe. Preise sind grobe Marktgrössenordnungen, keine Offerten.
Zum Nachschlagen
Devstral Small 2: alle Angaben im Detail
Geprüft am 3. September 2026. Kontextlänge, Parallelität, Bilddaten und Quantisierung verändern den tatsächlichen Bedarf; jede Zahl lässt sich gegen die Primärquellen unten prüfen.
| Modellklasse | Obere Mittelklasse (24–35B) · Devstral (Mistral AI, Paris) |
| Parameter | 24 Milliarden (dichtes Modell) |
| Modelldatei | rund 15 GB (Ollama-Standardtag, Q4_K_M); Q8 26 GB |
| Grafikspeicher (VRAM) | 24 GB |
| Arbeitsspeicher (RAM) | 32 GB |
| Apple (gemeinsamer Speicher) | ab 32 GB laut Modellkarte, komfortabel 48 GB |
| Kontextfenster | bis 256'000 Tokens laut Modellkarte |
| Lizenz | Apache 2.0, auch kommerziell frei |
| Ollama-Name | devstral-small-2 |
Einordnung
Wo Devstral Small 2 zwischen seinen Nachbarn steht
Alle Modellprofile unserer Matrix, vom kleinsten zum grössten. Die Stufe entscheidet über die Hardware, und der ehrliche Weg führt von klein nach gross: erst testen, dann aufrüsten.
Qwen3-Coder 30B — Coding-Modell derselben Speicherklasse, dank Mixture-of-Experts schneller
Qwen3.8 27B — Allrounder mit starker Coding-Leistung
Mistral Medium 3.5 — das grosse Mistral-Modell, das in Mistral Vibe Devstral 2 ablöst
Hardware-Rechner — alle Stufen, Anwendungsfälle und der Umkehr-Modus «Was kann meine Hardware?»
Ehrlich eingeordnet
Wofür Devstral Small 2 taugt, und wo die Grenzen liegen
Wofür es sich lohnt
Devstral Small 2 passt, wenn Quellcode das Haus nicht verlassen darf und mehr als Vorschläge gefragt ist: Fehler über mehrere Dateien hinweg eingrenzen, Änderungen umsetzen und testen lassen, fremden Code erkunden. Die Modellkarte nennt Mistral Vibe als empfohlene Kommandozeile und führt weitere Agenten-Werkzeuge wie Cline, Kilo Code und OpenHands als unterstützt auf. Für Betriebe, die bei Anbieter und Lizenz europäisch bleiben wollen, ist es der naheliegende Kandidat.
Wo die Grenzen liegen
Die Herstellerangabe von 68,0 Prozent auf SWE-bench Verified ist ein Benchmark, keine Zusage für den eigenen Code. Grosse Cloud-Coding-Werkzeuge bleiben bei umfangreichen Umbauten spürbar stärker. Lange Kontexte kosten zusätzlichen Speicher: Auf einer 24-GB-Karte ist der volle 256K-Kontext nicht nutzbar. Was ein Agent ändern darf, regelt die eigene Freigabe, nicht das Modell.
Häufige Fragen
FAQ: Devstral Small 2 lokal
Wie viel VRAM braucht Devstral Small 2?
Die Ollama-Standardvariante belegt rund 15 GB, die Q8-Variante 26 GB. Eine 24-GB-Grafikkarte wie die RTX 4090 ist die passende Auslegung, weil neben dem Modell Platz für den Kontext bleibt. Die Modellkarte nennt alternativ einen Mac mit 32 GB.
Was unterscheidet Devstral Small 2 von einem normalen Chat-Modell?
Es ist auf Software-Agenten trainiert: Codebasen mit Werkzeugen erkunden, mehrere Dateien gleichzeitig ändern und Schritte selbständig abarbeiten. Als Chat-Assistent für Code funktioniert es ebenfalls, seine Stärke liegt aber im Agentenbetrieb.
Devstral Small 2 oder Qwen3-Coder 30B?
Beide passen auf eine 24-GB-Karte. Qwen3-Coder 30B antwortet dank Mixture-of-Experts schneller, Devstral Small 2 ist ein dichtes Modell von Mistral AI mit Bildverständnis. Welches am eigenen Code zuverlässiger arbeitet, zeigt nur ein Test mit echten Aufgaben.
Darf ich Devstral Small 2 geschäftlich nutzen?
Die Modellkarte nennt Apache 2.0; damit ist die kommerzielle Nutzung grundsätzlich erlaubt. Rechte am eigenen Quellcode, Kundenverträge und die Freigabe automatischer Änderungen bleiben Aufgabe des Betriebs.
Primärquellen zum Nachprüfen
- Devstral Small 2 in der Ollama-Bibliothek: Varianten, Dateigrössen, Eingabearten
- Modellkarte von Mistral AI: 24 Milliarden Parameter, 256K Kontext, Hardwarehinweis, SWE-bench, Apache 2.0
- Unsere Übersicht aller Modellklassen — verlassen Sie sich nicht auf eine einzige Quelle, auch nicht auf uns
Passt Devstral Small 2 zu Ihrer Aufgabe?
Das klärt kein Datenblatt, sondern ein Test mit Ihren echten Unterlagen. Im kostenlosen Erstgespräch grenzen wir die Aufgabe ab und sagen ehrlich, ob lokale KI der richtige Weg ist, oder ob es eine einfachere Antwort gibt. Erst messen, dann investieren.
Mit uns umsetzen
Was wir für Sie übernehmen
Wenn Sie es nicht selbst einrichten wollen oder vor dem Kauf eine zweite Meinung möchten, übernehmen wir diese Schritte. Das Erstgespräch ist kostenlos, auf Deutsch oder Englisch.
Einrichtung auf Ihrer Hardware
Wir richten das passende Modell mit einer Chat-Oberfläche auf einem Rechner oder Server ein, den Sie schon haben: mit Anmeldung davor, Zugriff fürs Team und einer Sicherung. Ihre Daten bleiben im Haus.
Begleiteter Zweiwochentest
Drei echte Aufgaben aus Ihrem Alltag, zwei Wochen Protokoll, dann eine klare Auswertung: lokal reicht, lokal mit besserer Hardware oder Cloud bleibt besser. Alle drei sind gute Ergebnisse, weil sie einen Fehlkauf verhindern.
Beratung vor dem Kauf
Bevor Sie Hardware kaufen oder mieten, prüfen wir Ihre Aufgaben, Datenmengen und Datenschutzanforderungen und sagen Ihnen, welche Stufe reicht. Auch dann, wenn die ehrliche Antwort «keine eigene Hardware» heisst.
Ein Klick übernimmt Ihren Wunsch ins Anfrageformular unten. Sie können ihn dort ändern.
Lokale KI ist oft nur ein Baustein in einem grösseren Ablauf. Wie wir solche Abläufe mit Ihren bestehenden Systemen verbinden: Prozessautomatisierung für KMU in der Schweiz.
Beschreiben Sie kurz, wo es hakt. Den Rest klären wir im Gespräch.
Sie schreiben uns, was Sie beschäftigt. Ihre Nachricht landet nicht in einem Ticketsystem, sondern direkt bei Daniel Bidoli, dem Inhaber.
-
Nachricht senden
Zwei Sätze reichen, das Eingrenzen ist unsere Arbeit.
-
Persönliche Antwort
Erste Einschätzung innerhalb von 24 Stunden.
-
Kostenloses Erstgespräch
Rund 30 Minuten: online, vor Ort oder flexibel am Abend. Danach entscheiden Sie.
Sehen wir keinen Nutzen, sagen wir es Ihnen offen.
Lieber direkt sprechen?
Ihre Anfrage
Was beschäftigt Sie? Eine kurze Beschreibung reicht, wir melden uns innerhalb von 24 Stunden.