Wissen · Lokale KI
KI-Agenten lokal: Maschinen, die Aufgaben erledigen, mit Freigaben, die halten
Faktencheck: 3. September 2026 Fachlich verantwortlich: Daniel Bidoli Modell- und Hardwarequellen unten
Ein Agent arbeitet mehrstufig und benutzt Werkzeuge. Die wichtigste Frage ist nicht die Hardware, sondern: Was darf er ohne Sie?
KI-Agenten erledigen Aufgaben in mehreren Schritten: lesen, entscheiden, Werkzeuge aufrufen, Ergebnis abliefern. Lokal betrieben behalten Sie beides im Haus, die Daten und die Kontrolle. Die Hardware beginnt bei 24 GB Grafikspeicher, denn Agenten brauchen fähige Modelle und viel Kontext; wichtiger als jede Karte ist aber die Absicherung.
Auf einen Blick
Was «KI-Agenten» an Hardware braucht
Dieselben Einstufungen wie im Hardware-Rechner, hier zum Nachlesen: Speicher, Anschaffen gegen Mieten, die passenden Modelle und die Befehle zum Ausprobieren.
Q4-Planungswerte aus unserer internen Ollama-Hardware-Matrix, geprüft am 3. September 2026.
Anschaffen
CHF 2'500–4'500 einmalig, WorkstationMieten
CHF 150–300 pro Monat, GPU-Server (für Dauerbetrieb meist der bessere Weg)Womit Sie starten können
Ab 24 GB Grafikspeicher (z. B. RTX 3090/4090) oder ein Apple-Rechner ab 36 GB: Agenten brauchen fähige Modelle und grossen Kontext, und der Kontext frisst den Speicher. Ein Agent läuft dauerhaft, darum spricht vieles für den gemieteten Server statt eines Rechners, der nachts durchläuft.
Tempo-Erwartung: Ein Arbeitsschritt dauert Sekunden bis Minuten; Agenten arbeiten im Hintergrund, das Tempo ist selten der Engpass.
So starten Sie: die Befehle zum Kopieren
Ollama installieren (kostenlos, ollama.com), dann im Terminal:
ollama pull gpt-oss:20b ollama run gpt-oss:20b # Der Agent selbst ist Software UM das Modell herum: # Werkzeuge, Regeln, Freigaben. Das Modell ist der Motor.
Auf Apple-Rechnern teilen sich Modell und System den gemeinsamen Speicher, dort zählt die RAM-Angabe. Preise sind grobe Marktgrössenordnungen, keine Offerten.
Im Betrieb
Was damit möglich ist
Posteingang mit Vorarbeit
Der Agent liest eingehende Anfragen, sammelt die nötigen Informationen aus den Systemen zusammen und legt einen fertigen Antwortentwurf vor. Gesendet wird erst nach menschlicher Freigabe.
Wiederkehrende Auswertungen
Wochenberichte, Kennzahlen, Abgleiche zwischen Systemen: Der Agent zieht die Daten, rechnet, schreibt den Bericht und legt ihn ab, jede Woche, ohne dass jemand daran denken muss.
Datenpflege über Systemgrenzen
Adressänderungen nachziehen, Dubletten melden, fehlende Felder ergänzen: die undankbare Arbeit zwischen CRM, Shop und Buchhaltung, als beaufsichtigter Dauerlauf.
Recherche- und Vorbereitungsarbeit
Vor dem Kundentermin die Historie zusammentragen, vor der Offerte die alten Projekte sichten: Der Agent liefert das Dossier, der Mensch führt das Gespräch.
Ehrlich eingeordnet
Warum lokal, und wo die Grenzen liegen
Warum gerade hier lokal
Ein Agent ist nur nützlich, wenn er an Ihre Systeme darf, und genau das macht die Standortfrage scharf: Wer einem Cloud-Agenten Zugriff auf CRM, Mail und Ablage gibt, verlängert jede dieser Datenquellen zu einem Drittanbieter. Lokal betrieben bleiben Zugriffe, Zwischenschritte und Protokolle im Haus, und die Regeln setzen Sie: welche Werkzeuge, welche Grenzen, welche Freigaben. Wir betreiben unsere eigenen Agenten nach genau diesem Prinzip und schreiben auch offen darüber.
Die ehrlichen Grenzen
Die wichtigste Grenze zieht nicht die Technik, sondern der gesunde Menschenverstand: Alles, was nach aussen wirkt, also Mails, Bestellungen, Buchungen, Zahlungen, gehört hinter eine menschliche Freigabe, egal wie gut der Agent ist. Dazu ehrlich: Ein Agent ist Projektarbeit, keine Installation; er braucht definierte Aufgaben, Protokolle und jemanden, der hinschaut. Und die lokale Modellqualität setzt Grenzen: Für hochkomplexe Planungsaufgaben bleiben die grossen Cloud-Modelle stärker, was bei strengem Datenschutz dann ein bewusster Zielkonflikt ist.
Der Weg
So kommt das in Ihren Betrieb
Die ersten Schritte kosten nichts ausser etwas Zeit; investiert wird erst, wenn der eigene Test den Nutzen belegt hat.
-
Eine Aufgabe wählen, die weh tut
Nicht «einen Agenten einführen», sondern eine konkrete wiederkehrende Arbeit: die Wochenauswertung, der Posteingang, der Systemabgleich. Klein genug zum Messen, echt genug zum Lohnen.
-
Mit Freigaben starten, nicht mit Vertrauen
Der Agent legt vor, der Mensch gibt frei, jedes Mal. Erst wenn Wochen fehlerfreier Vorschläge belegt sind, werden einzelne, klar umrissene Schritte selbständig, und alles Aussenwirksame bleibt hinter der Freigabe.
-
Betreiben wie einen Mitarbeiter
Protokolle lesen, Grenzen nachziehen, Aufgaben erweitern: Ein Agent ist kein Werkzeug, das man installiert und vergisst, sondern ein Stück Betrieb. Genau diese Betriebsarbeit bieten wir mit an.
Häufige Fragen
FAQ: KI-Agenten mit lokaler KI
Was darf ein KI-Agent alleine erledigen?
Unsere Regel aus dem eigenen Betrieb: Lesen, sammeln, rechnen und Entwürfe vorlegen darf ein Agent selbständig. Alles, was nach aussen wirkt, also Mails senden, bestellen, buchen, zahlen, gehört hinter eine menschliche Freigabe, unabhängig davon, wie zuverlässig der Agent bisher war. Selbständigkeit wird schrittweise verdient, nicht vorausgesetzt.
Warum brauchen KI-Agenten so viel Grafikspeicher?
Weil sie zwei teure Dinge kombinieren: fähige Modelle (die 20B- bis 32B-Klasse) und grossen Kontext, denn der Agent muss Auftrag, Zwischenergebnisse und Werkzeug-Antworten gleichzeitig im Blick behalten. Der Kontext frisst den Speicher; darum beginnt die Klasse bei 24 GB Grafikspeicher oder einem Apple-Rechner ab 36 GB.
Eigenen Rechner kaufen oder GPU-Server mieten?
Für Agenten meist mieten: Sie laufen dauerhaft, und ein gemieteter GPU-Server ist dafür oft der ruhigere Weg als eine Workstation, die nachts im Büro durchläuft, mit Strom, Lärm und der Frage, wer sie wartet. Kaufen lohnt sich bei hartem Datenschutz-Auftrag oder wenn ohnehin eine Workstation-Klasse im Haus gebraucht wird.
Was kostet ein KI-Agent im Betrieb?
Die Hardware ist der kleinste Posten: eine Workstation einmalig oder ein Server ab grob CHF 150 im Monat, die Kostenseite rechnet unser Kosten-Rechner. Der eigentliche Aufwand steckt im Aufbau, also Aufgaben definieren, Werkzeuge anbinden, Freigaben und Protokolle einrichten, und in der laufenden Betreuung. Ein Agent ist Projektarbeit, keine Lizenz.
Quellen und Vertiefung
- GPT-OSS 20B — für agentische Einsätze ausgelegtes offenes Modell
- Qwen3 in der Ollama-Bibliothek — die 32B-Klasse für anspruchsvollere Agenten
- Unser Beitrag: Wie lange kann ein KI-Agent alleine arbeiten? — die Freigaben-Frage aus der eigenen Praxis
- Modellprofil: GPT-OSS 20B — alle Zahlen und Grenzen des empfohlenen Modells
- Modellprofil: Qwen3.8 27B — alle Zahlen und Grenzen des empfohlenen Modells
Weitere Anwendungsfälle
Was lokale KI sonst noch kann
Alle neun Fälle aus dem Rechner
Fälle mit Pfeil öffnen den Rechner an der richtigen Stelle; die übrigen haben eine eigene Seite wie diese.
Nächster Schritt
Passt das zu Ihrem Betrieb?
Im kostenlosen Erstgespräch klären wir, ob «KI-Agenten» bei Ihnen den Aufwand lohnt, welche Hardware wirklich nötig ist, und ob die ehrliche Antwort vielleicht «Cloud» oder «noch nicht» lautet. Wenn ja, folgt die Analyse zum Festpreis: Aufgabe abgrenzen, Modell testen, Absicherung planen. Erst messen, dann investieren.
Beschreiben Sie kurz, wo es hakt. Den Rest klären wir im Gespräch.
Sie schreiben uns, was Sie beschäftigt. Ihre Nachricht landet nicht in einem Ticketsystem, sondern direkt bei Daniel Bidoli, dem Inhaber.
-
Nachricht senden
Zwei Sätze reichen, das Eingrenzen ist unsere Arbeit.
-
Persönliche Antwort
Erste Einschätzung innerhalb von 24 Stunden.
-
Kostenloses Erstgespräch
Rund 30 Minuten: online, vor Ort oder flexibel am Abend. Danach entscheiden Sie.
Sehen wir keinen Nutzen, sagen wir es Ihnen offen.
Lieber direkt sprechen?
Ihre Anfrage
Was beschäftigt Sie? Eine kurze Beschreibung reicht, wir melden uns innerhalb von 24 Stunden.