Wann darf ein KI-Agent alleine arbeiten?
Wann KI-Agenten selbständig arbeiten dürfen: Auftrag, Rechte, Freigaben und Fehlerfälle konkret prüfen. Mit sechs Prüfpunkten für den Betrieb.
Ein KI-Agent darf einen Schritt selbständig ausführen, wenn der konkrete Auftrag freigegeben ist, seine technischen Rechte begrenzt sind und Fehler erkannt und beherrscht werden können. Für Preiszusagen, Nachrichten an Kunden und andere folgenreiche Aktionen reicht ein plausibel klingender Vorschlag nicht. Dort muss vor der Ausführung feststehen, wer prüft und freigibt.
Ein Agent, der selbständig Verkäufe abschliesst, klingt nach Zukunft, für manche auch nach Kontrollverlust. Die Frage dahinter ist aber so alt wie die Automatisierung selbst. Welche Schritte darf eine Maschine ganz übernehmen, und an welchen Stellen gehört eine Freigabe hin?
Die Grenze verläuft zwischen Regel und Urteil
Die übliche Sortierung teilt Arbeit in automatisiert und von Hand erledigt. Für die Entscheidung hilft diese Trennung wenig. Die brauchbare Grenze verläuft nicht zwischen Maschine und Mensch, sondern zwischen regelbasiert und urteilend.
Bei einem regelbasierten Schritt sind die Bedingungen und das erwartete Ergebnis ausdrücklich festgelegt. Zum Beispiel kann ein Ablauf Auftragsdaten in eine Rechnung oder ein Versandetikett übernehmen. Dazu müssen die Eingaben vollständig sein, die fachlichen Regeln stimmen und die Ausführung geprüft werden können. Eine klare Regel allein beweist noch keinen korrekten Ablauf.
Ein urteilender Schritt ist anders gebaut. Dort schätzt jemand, ein Mensch oder eine KI, und die Schätzung kann danebenliegen. Ein Kulanzentscheid gehört in diese Kategorie, ebenso eine frei formulierte Antwort an einen verärgerten Kunden. Ein Sprachmodell erledigt solche Aufgaben erstaunlich gut und klingt auch dann überzeugend, wenn es falsch liegt. Das Muster ist nicht an Onlineshops gebunden. Im Treuhandbüro sind Belegübernahme und Fristenkontrolle regelbasiert, die Antwort an den Mandanten ist ein Urteil.
Drei Prüffragen für jeden Schritt
Aus der Unterscheidung wird ein Werkzeug, sobald man einen Ablauf in einzelne Schritte zerlegt und pro Schritt drei Fragen stellt:
- Ist der Schritt eindeutig regelbar? Liesse sich die Regel so aufschreiben, dass zwei verschiedene Personen damit zum gleichen Ergebnis kommen? Lautet die ehrliche Antwort «kommt darauf an», steckt ein Urteil darin.
- Was kostet ein Fehler? Auch eine falsch einsortierte Datei kann wichtige Informationen unauffindbar machen. Eine falsche Preiszusage an einen Kunden ist teuer oder peinlich, je nach Tag beides.
- Lässt sich der Schritt rückgängig machen? Ein Entwurf lässt sich verwerfen, eine verschickte Nachricht nicht. Was unumkehrbar ist, verdient eine zweite Instanz, selbst wenn der Schritt simpel wirkt.
Die drei Fragen sind ein erster Filter, keine vollständige Freigabe. Auch ein regelbasierter Schritt braucht geprüfte Eingaben, begrenzte Rechte und einen definierten Fehlerpfad. Eine erlaubte Aktion muss technisch von einer nicht erlaubten Aktion getrennt sein. Bei Unsicherheit soll der Ablauf anhalten und eine zuständige Person übernehmen.
Prüfliste vor der selbständigen Ausführung
- Auftrag und Grenzen: Welche Systeme, Datensätze und Aktionen sind ausdrücklich freigegeben? Was bleibt ausgeschlossen?
- Technische Rechte: Lesen, Entwerfen und Ausführen getrennt erlauben. Eine Anweisung im Chat ersetzt keine Zugriffskontrolle.
- Fremde Inhalte: Texte aus E-Mails, Webseiten oder Dokumenten sind Eingaben, keine neuen Befehle oder Freigaben.
- Folgenreiche Aktionen: Vor Versand, Buchung oder verbindlicher Zusage den konkreten Empfänger, Inhalt und Umfang prüfen lassen.
- Wiederholung und Fehler: Nach einem Timeout zuerst feststellen, ob die Aktion bereits erfolgt ist. Keine Nachricht oder Buchung ungeprüft erneut ausführen.
- Betriebsgrenzen: Laufzeit, Kosten und Zahl der Aktionen begrenzen; Abbruch und menschliche Übernahme vorsehen.
Testen Sie auch fehlende Angaben, falsche Eingaben, einen abgebrochenen Lauf und einen bereits erledigten Auftrag. Ein erfolgreicher Normalfall beweist nicht, dass diese Ausnahmen sicher behandelt werden.
Verbundene Auftragsdaten und getrennte Freigaben
AMZ Racing GmbH und Bidoli IT-Services haben die Auftragsabwicklung des Onlineshops gemeinsam konzipiert und umgesetzt. Die Verbindung führt vom Bestelleingang über Warenwirtschaft, Rechnung und Versand bis zur Buchhaltungsübergabe. Das ist ein Beispiel für verbundene Daten und Übergaben. Es ist kein Nachweis, dass jeder Schritt ohne Prüfung laufen darf, und keine Freigabe für selbständige Lieferantenbestellungen. Bei einem neuen Ablauf werden Standardfälle, Ausnahmen und Zuständigkeiten einzeln geprüft. Die Einzelheiten stehen auf unserer Projektseite.
Unser Cleaner trennt vier Schritte: analysieren, einen Plan erstellen, nach Freigabe in Quarantäne verschieben und nach Schutzfrist gesondert löschen. Identische Dateiinhalte bedeuten nicht, dass eine der Dateien an ihrem Ort entbehrlich ist. Deshalb werden Umfang und Plan vor dem Verschieben geprüft. Die Quarantäne ermöglicht eine Rücknahme, solange die Dateien noch vorhanden sind. Die Freigabe begrenzt das Risiko; sie garantiert nicht, dass eine Fehlentscheidung folgenlos bleibt.
Wo ein Agent eine Freigabe braucht
Eine Auskunft zu Öffnungszeiten kann auf einer freigegebenen Quelle beruhen. Bei Lagerbeständen muss zusätzlich klar sein, wie aktuell die Daten sind und ob eine Auskunft bereits eine Lieferzusage auslöst. Ein Agent, der Preise zusagt oder Verkäufe abschliesst, handelt mit Folgen für den Betrieb. Dafür braucht er festgelegte Befugnisse und eine Prüfung vor verbindlichen Aktionen. Auch bekannte Programmfehler können nach einer Änderung wieder auftreten. Weder eine Regel noch ein behobener Einzelfehler ersetzt die Prüfung von Wiederholungen, fehlenden Daten und Ausnahmen.
Auf unserer Website gibt es inzwischen neben dem Anfrageformular einen Chat-Assistenten für Fragen zu unserem Angebot. Eine solche Auskunft ist von einer verbindlichen Preiszusage oder Beauftragung zu trennen. Konkrete Anfragen, Angebote und Freigaben klärt Daniel Bidoli persönlich. Ein Gespräch im Chat ersetzt diese Abstimmung nicht.
Vollautonomie ist selten das Ziel
Volle Autonomie ist nicht die Voraussetzung für einen nützlichen Ablauf. Wiederkehrende Übergaben wie die Übernahme von Belegen können auch dann Arbeit abnehmen, wenn eine fachliche Prüfung oder Freigabe folgt. Deren Aufwand gehört in die Wirtschaftlichkeitsrechnung. Wenn sich die Risiken eines Schrittes noch nicht ausreichend begrenzen lassen, bleibt er eine Freigabestelle.
So halten wir es auch bei uns selbst. Unsere eigene Buchhaltungssoftware erkennt Belege und schlägt die passende Buchung vor, gebucht wird von Hand. Und diese Website geht erst live, nachdem ein Abgleich gezeigt hat, welche Dateien sich ändern würden, und jemand das angesehen hat. Beides liesse sich voll automatisieren. Beides bleibt absichtlich eine Freigabe, weil der Klick Sekunden kostet und der mögliche Fehler nicht.
Was das für einen Betrieb mit 5–20 Leuten heisst
Das Raster funktioniert ohne jedes Vorwissen über KI. Man zerlegt einen wiederkehrenden Ablauf in Schritte und sortiert jeden mit den drei Fragen ein. Die Reihenfolge danach ist unbequem, aber klar. Die regelbasierten Ketten kommen vor den Agenten. Prüfen Sie zuerst häufige, klar abgegrenzte Übergaben wie Bestellung, Rechnung und Beleg. Ob deren Automatisierung wirtschaftlich ist, hängt von Aufwand, Fehlerfolgen und Betriebskosten ab. Einen Überblick gibt unsere Seite zur Automatisierung für Schweizer KMU. Die urteilenden Stellen bleiben beim Menschen oder bekommen eine Freigabe vorgeschaltet.
Wann lohnt es sich noch nicht? Wenn ein Ablauf selten läuft oder fast nur aus Urteilen besteht, gibt es wenig zu automatisieren, und ein zugekaufter Agent macht daraus keinen besseren Prozess. Wer kaum Kundenkontakt über WhatsApp hat, verliert auch nichts, wenn er zuwartet und beobachtet, wie sich die Werkzeuge entwickeln. Ausführlicher steht das in unserem Artikel darüber, wann sich Automatisierung nicht lohnt.
Wer wissen möchte, wo im eigenen Betrieb die regelbasierten Strecken liegen, kann das mit uns anschauen. Das kostenlose Erstgespräch klärt nur, ob sich überhaupt etwas lohnt. Die systematische Erfassung der Abläufe folgt danach als bezahlte Analyse für CHF 890, und auch sie darf zum Ergebnis kommen, dass die Freigabe von Hand vorerst die beste Lösung bleibt.
Und wer Agenten aus Datenschutzgründen lieber im eigenen Haus laufen lassen will: Welche Hardware das braucht und was sie kostet, zeigt unser Rechner für lokale KI.
Überarbeitung vom 11. Oktober 2026: Freigabegrenzen, technische Rechte und Fehlerfälle präzisiert; Projektbeispiele und Website-Assistent auf den dokumentierten Stand abgestimmt. Die Prüfliste ist unser Vorgehen zur Abnahme, kein Nachweis einer fehlerfreien KI oder einer gemessenen Einsparung.
