Wissen · Lokale KI
PDF und Dokumente mit KI auswerten, ohne dass sie das Haus verlassen
Faktencheck: 3. September 2026 Fachlich verantwortlich: Daniel Bidoli Modell- und Hardwarequellen unten
Zusammenfassen, auslesen, Fragen stellen: Das Dokument bleibt auf Ihrer Maschine, nur die Antwort wandert weiter.
Verträge zusammenfassen, Belege strukturiert auslesen, einem Bericht Fragen stellen: Das ist die Aufgabe, in der lokale Sprachmodelle im Betrieb am meisten leisten. Die 14B-Klasse auf einer Grafikkarte ab 12 GB trägt den Alltag, und mit einem Vision-Modell werden auch Scans und Fotos lesbar.
Auf einen Blick
Was «PDF & Dokumente auswerten» an Hardware braucht
Dieselben Einstufungen wie im Hardware-Rechner, hier zum Nachlesen: Speicher, Anschaffen gegen Mieten, die passenden Modelle und die Befehle zum Ausprobieren.
Q4-Planungswerte aus unserer internen Ollama-Hardware-Matrix, geprüft am 3. September 2026.
Anschaffen
CHF 1'500–2'500 einmalig, passender PCMieten
CHF 260–450 pro Monat im Dauerbetrieb; stundenweise deutlich günstigerWomit Sie starten können
Nach unserer Hardware-Matrix liegt die passende Karte zwischen 12 und 24 GB; bequem sind 16 GB oder ein Apple-Rechner ab 32 GB. Lange Dokumente brauchen vor allem Kontextspeicher, darum lohnt hier die grössere Karte mehr als anderswo.
Tempo-Erwartung: Antworten im Lesetempo; das Einlesen sehr langer Dokumente braucht vorab einen Moment.
So starten Sie: die Befehle zum Kopieren
Ollama installieren (kostenlos, ollama.com), dann im Terminal:
ollama pull qwen3:14b ollama run qwen3:14b # danach ein PDF als Text übergeben oder # für Scans die Vision-Variante nutzen: ollama pull qwen3-vl:8b
Auf Apple-Rechnern teilen sich Modell und System den gemeinsamen Speicher, dort zählt die RAM-Angabe. Preise sind grobe Marktgrössenordnungen, keine Offerten.
Im Betrieb
Was damit möglich ist
Verträge und Offerten prüfen
Laufzeiten, Kündigungsfristen, Haftungsklauseln: Das Modell fasst zusammen und beantwortet gezielte Fragen zum Dokument, mit Seitenverweis zum Nachlesen. Die Entscheidung bleibt beim Menschen, die Vorarbeit schrumpft.
Belege und Rechnungen auslesen
Betrag, Datum, Absender, Positionen als strukturierte Daten für Buchhaltung oder Ablage. Mit der Vision-Variante funktioniert das auch mit fotografierten und gescannten Belegen.
Berichte und Studien verdichten
Aus vierzig Seiten werden die zehn Punkte, die für Ihre Entscheidung zählen, und auf Nachfrage die Belegstelle dazu. Gut geeignet für Ausschreibungen, Normen und technische Dokumentation.
Posteingang vorsortieren
Eingehende Dokumente erkennen, klassifizieren und in den richtigen Ordner oder Workflow geben: der erste Schritt Richtung Dunkelverarbeitung, ohne dass Kundenpost eine Cloud passiert.
Ehrlich eingeordnet
Warum lokal, und wo die Grenzen liegen
Warum gerade hier lokal
Genau die Dokumente, bei denen KI-Auswertung am meisten spart, sind die, die man am wenigsten hochladen möchte: Verträge, Personaldossiers, Kundenbelege, Unterlagen unter Berufsgeheimnis. Lokal betrieben bleibt das PDF auf Ihrer Maschine; es gibt keinen Upload, keinen Drittanbieter, keine Frage, was mit den Daten trainiert wird. Für Treuhänder, Anwälte, Ärzte und alle mit nDSG-Pflichten ist das oft der einzige Weg, KI überhaupt einzusetzen.
Die ehrlichen Grenzen
Die ehrlichen Grenzen: Ein lokales Modell erreicht nicht die Spitzenqualität der grossen Cloud-Modelle; bei sehr komplexen juristischen Feinheiten bleibt der Abstand spürbar. Sehr lange Dokumente stossen ans Kontextfenster, dann wird abschnittsweise gearbeitet. Und wer nicht ein Dokument auswerten, sondern hunderte durchsuchbar machen will, braucht keinen grösseren Kontext, sondern die interne Suche (RAG), das ist ein eigener Anwendungsfall mit eigener Seite.
Der Weg
So kommt das in Ihren Betrieb
Die ersten Schritte kosten nichts ausser etwas Zeit; investiert wird erst, wenn der eigene Test den Nutzen belegt hat.
-
Mit einem echten Dokument testen
Ollama installieren, Qwen3 14B laden, einen typischen Vertrag oder Bericht aus dem eigenen Alltag zusammenfassen lassen. Die Qualität an der eigenen Materie prüfen, nicht an Beispielen aus dem Internet.
-
Die Messlatte ehrlich setzen
Stichprobe gegen das Original: Stimmen Zahlen, Fristen, Namen? Wo das Modell rät statt liest, merkt man es hier, und zwar bevor es im Alltag passiert.
-
Den Ablauf automatisieren
Ordnerüberwachung, Auswertung, strukturierte Ablage, Weitergabe an Buchhaltung oder CRM: Aus dem Werkzeug wird ein Prozess. Das ist der Teil, den wir bauen.
Häufige Fragen
FAQ: Dokumente auswerten mit lokaler KI
Kann KI ein PDF zusammenfassen, ohne dass es hochgeladen wird?
Ja. Ein lokales Sprachmodell wie Qwen3 14B läuft komplett auf Ihrer eigenen Hardware: Das PDF wird auf Ihrer Maschine gelesen und ausgewertet, keine Seite verlässt den Betrieb. Es braucht dafür eine Grafikkarte ab 12 GB oder einen Apple-Rechner ab 32 GB gemeinsamem Speicher.
Liest lokale KI auch Scans und fotografierte Belege?
Ja, mit einem Vision-Modell wie Qwen3-VL: Es liest den Text direkt aus dem Bild, inklusive Tabellen und Handschriftlichem in Grenzen. Die Qualität hängt an der Vorlage: saubere Scans funktionieren zuverlässig, schiefe Handyfotos mit schlechtem Licht bleiben Glückssache.
Wie lange Dokumente schafft ein lokales Modell?
Die üblichen Modelle tragen 32'000 Tokens Kontext, das sind grob 40 bis 50 Seiten am Stück; GPT-OSS trägt mit 128'000 Tokens ein Mehrfaches. Längere Werke werden abschnittsweise verarbeitet. Wichtig: Viel Kontext kostet Grafikspeicher, für lange Dokumente lohnt die 16-GB-Karte.
Was ist der Unterschied zur internen Suche (RAG)?
Dokument auswerten heisst: ein bestimmtes Dokument lesen und dazu arbeiten. Interne Suche heisst: hunderte oder tausende Dokumente durchsuchbar machen und Antworten mit Quellenangabe aus dem ganzen Bestand bekommen. Wer beides will, startet meist mit der Auswertung und baut die Suche als zweiten Schritt.
Quellen und Vertiefung
- Qwen3 in der Ollama-Bibliothek — die 14B-Klasse für Dokumente
- Qwen3-VL — die Vision-Variante für Scans und Fotos
- GPT-OSS 20B — die Alternative mit grossem Kontextfenster
- Modellprofil: Gemma 4 12B — alle Zahlen und Grenzen des empfohlenen Modells
- Modellprofil: Qwen3.5 9B — alle Zahlen und Grenzen des empfohlenen Modells
- Modellprofil: Qwen3 14B — alle Zahlen und Grenzen des empfohlenen Modells
- Modellprofil: GPT-OSS 20B — alle Zahlen und Grenzen des empfohlenen Modells
Weitere Anwendungsfälle
Was lokale KI sonst noch kann
Alle neun Fälle aus dem Rechner
Fälle mit Pfeil öffnen den Rechner an der richtigen Stelle; die übrigen haben eine eigene Seite wie diese.
Nächster Schritt
Passt das zu Ihrem Betrieb?
Im kostenlosen Erstgespräch klären wir, ob «Dokumente auswerten» bei Ihnen den Aufwand lohnt, welche Hardware wirklich nötig ist, und ob die ehrliche Antwort vielleicht «Cloud» oder «noch nicht» lautet. Wenn ja, folgt die Analyse zum Festpreis: Aufgabe abgrenzen, Modell testen, Absicherung planen. Erst messen, dann investieren.
Mit uns umsetzen
Was wir für Sie übernehmen
Wenn Sie es nicht selbst einrichten wollen oder vor dem Kauf eine zweite Meinung möchten, übernehmen wir diese Schritte. Das Erstgespräch ist kostenlos, auf Deutsch oder Englisch.
Einrichtung auf Ihrer Hardware
Wir richten das passende Modell mit einer Chat-Oberfläche auf einem Rechner oder Server ein, den Sie schon haben: mit Anmeldung davor, Zugriff fürs Team und einer Sicherung. Ihre Daten bleiben im Haus.
Begleiteter Zweiwochentest
Drei echte Aufgaben aus Ihrem Alltag, zwei Wochen Protokoll, dann eine klare Auswertung: lokal reicht, lokal mit besserer Hardware oder Cloud bleibt besser. Alle drei sind gute Ergebnisse, weil sie einen Fehlkauf verhindern.
Beratung vor dem Kauf
Bevor Sie Hardware kaufen oder mieten, prüfen wir Ihre Aufgaben, Datenmengen und Datenschutzanforderungen und sagen Ihnen, welche Stufe reicht. Auch dann, wenn die ehrliche Antwort «keine eigene Hardware» heisst.
Ein Klick übernimmt Ihren Wunsch ins Anfrageformular unten. Sie können ihn dort ändern.
Lokale KI ist oft nur ein Baustein in einem grösseren Ablauf. Wie wir solche Abläufe mit Ihren bestehenden Systemen verbinden: Prozessautomatisierung für KMU in der Schweiz.
Beschreiben Sie kurz, wo es hakt. Den Rest klären wir im Gespräch.
Sie schreiben uns, was Sie beschäftigt. Ihre Nachricht landet nicht in einem Ticketsystem, sondern direkt bei Daniel Bidoli, dem Inhaber.
-
Nachricht senden
Zwei Sätze reichen, das Eingrenzen ist unsere Arbeit.
-
Persönliche Antwort
Erste Einschätzung innerhalb von 24 Stunden.
-
Kostenloses Erstgespräch
Rund 30 Minuten: online, vor Ort oder flexibel am Abend. Danach entscheiden Sie.
Sehen wir keinen Nutzen, sagen wir es Ihnen offen.
Lieber direkt sprechen?
Ihre Anfrage
Was beschäftigt Sie? Eine kurze Beschreibung reicht, wir melden uns innerhalb von 24 Stunden.