Wenn die KI nicht mehr nur antwortet, sondern handelt: Was Sie vorher festlegen müssen

Laut einem Bericht von SiliconANGLE vom 19. September 2026 verschiebt sich die Kontrolle über KI-Agenten in Unternehmen derzeit an eine andere Stelle: weg von der nachträglichen Auswertung dessen, was ein System getan hat, hin zu der Frage, ob es im Moment der Handlung überhaupt dazu befugt war. Zwei Tage zuvor, am 17. September 2026, meldete dasselbe Medium den Start eines Werkzeugs der Firma Arcjet, das jede Aktion eines Agenten vor der Ausführung gegen hinterlegte Regeln prüft und protokolliert.

Das klingt nach einem Thema für große IT-Abteilungen. Der Grund, warum es Geschäftsführer im Mittelstand angeht, ist ein anderer: Die Werkzeuge, die Ihnen Ihr Softwareanbieter in den nächsten Monaten anbietet, werden nicht mehr nur Texte vorschlagen. Sie werden Rechnungen anlegen, Bestellungen auslösen, Kundenanfragen abschließend beantworten und Daten in Ihre Systeme schreiben. Der Unterschied ist nicht technischer Natur, sondern eine Frage der Verantwortung. Und die lässt sich nicht an den Anbieter delegieren.

Der Unterschied zwischen Antworten und Handeln

Ein Sprachmodell, das Ihnen einen Angebotstext entwirft, macht im schlimmsten Fall einen Fehler, den Sie beim Lesen bemerken. Sie sind die Kontrollinstanz, weil ohne Ihr Zutun nichts passiert. Ein Agent dagegen führt eine Kette von Schritten selbst aus: Er liest eine E-Mail, sucht den Vorgang im System, erzeugt eine Gutschrift, verschickt sie. Jeder Schritt für sich ist unauffällig.

Genau darin liegt die eigentliche Schwierigkeit. David Mytton, Geschäftsführer von Arcjet, wird in dem Bericht vom 17. September 2026 mit der Beobachtung zitiert, ein riskantes Ergebnis könne sich über eine Reihe von Schritten aufbauen, die einzeln betrachtet völlig vernünftig aussehen. Wer erst hinterher in ein Protokoll schaut, findet dort keine offensichtliche Fehlhandlung, sondern eine Folge plausibler Einzelentscheidungen mit einem Ergebnis, das niemand so gewollt hat.

Für Ihren Betrieb heißt das: Die Prüfung muss vor die Handlung, nicht dahinter. Das ist keine neue Erkenntnis aus der KI-Welt. Es ist dasselbe Prinzip, nach dem in Ihrem Haus vermutlich längst geregelt ist, wer eine Überweisung freigeben darf und ab welchem Betrag ein zweiter Blick nötig ist.

Vier Festlegungen, bevor der erste Agent arbeitet

Die folgenden Punkte kosten Sie einen Nachmittag, wenn Sie sie vor dem Start klären, und ein Vielfaches davon, wenn Sie sie nach dem ersten Zwischenfall klären. Sie sind bewusst nicht technisch formuliert, weil sie Ihre Entscheidung sind und nicht die Ihres Dienstleisters:

• Der Handlungsrahmen. Welche Vorgänge darf der Agent überhaupt anfassen, und welche ausdrücklich nicht. Schreiben Sie beides auf, die erlaubte Liste und die verbotene. Was auf keiner der beiden Listen steht, ist im Zweifel nicht erlaubt.
• Die Freigabeschwelle. Ab welchem Betrag, welcher Menge oder welcher Art von Gegenüber muss ein Mensch zustimmen, bevor etwas hinausgeht. Eine Gutschrift über 40 Euro an einen Bestandskunden ist eine andere Entscheidung als eine über 4.000 Euro an eine unbekannte Adresse.
• Die Umkehrbarkeit. Trennen Sie Handlungen, die Sie zurücknehmen können, von solchen, die endgültig sind. Ein Entwurf im Postausgang ist umkehrbar, eine versendete Mahnung an einen Großkunden nicht. Alles Endgültige gehört hinter eine Freigabe.
• Die Zuständigkeit. Eine namentlich benannte Person im Haus verantwortet den Agenten: prüft die Protokolle, entscheidet über Regeländerungen und schaltet ihn im Zweifel ab. Ohne diesen Namen kümmert sich niemand, und im Ernstfall war es der Anbieter.

Zugangsdaten sind keine Erlaubnis

Ein Gedanke aus dem Bericht vom 19. September 2026 lohnt die Übertragung in die Sprache des Mittelstands. Sudeep Goswami, Geschäftsführer von Traefik Labs, wird dort mit der Frage zitiert, ob ein Agent, nur weil er über Zugangsdaten verfügt, diese eine Handlung auch genau jetzt vornehmen dürfe. Zugangsdaten allein, so sein Argument, beantworteten das nicht.

Übersetzt: Wenn Sie einem Werkzeug den Zugang zu Ihrer Warenwirtschaft geben, haben Sie damit technisch alles erlaubt, was dieser Zugang hergibt. Ob Sie es auch wollten, steht nirgends. In vielen Häusern ist das der eigentliche Zustand nach einer Einführung, die schnell gehen sollte: ein Systembenutzer mit weitreichenden Rechten, angelegt für einen Testlauf, danach nie wieder angefasst.

Der Weg heraus ist unspektakulär. Der Agent bekommt einen eigenen Zugang, nicht den einer Mitarbeiterin. Dieser Zugang bekommt nur die Rechte, die der oben festgelegte Handlungsrahmen verlangt. Und jemand sieht sich einmal im Quartal an, was dieser Zugang tatsächlich getan hat. Das ist dieselbe Sorgfalt, die Sie bei einem neuen Mitarbeiter im Rechnungswesen selbstverständlich anwenden würden.

Was die verschobenen Fristen nicht erledigen

Viele Geschäftsführer haben in diesem Jahr die Nachricht mitgenommen, dass es beim europäischen KI-Recht später wird. Laut einem Beitrag der Börsen-Zeitung vom 27. August 2026 verschiebt der sogenannte Digital Omnibus die anspruchsvollen Pflichten für Hochrisiko-Systeme, darunter Risikomanagement, technische Dokumentation, Protokollierung und menschliche Aufsicht, auf den 2. Dezember 2027, für KI in bestimmten regulierten Produkten auf den 2. August 2028. Der Beitrag beschreibt das ausdrücklich als Fristverlängerung und nicht als Freibrief.

Für die meisten Anwendungen im Mittelstand ist die Frage ohnehin zweitrangig, weil die eigenen Vorgänge selten unter die Hochrisiko-Kategorien fallen. Was durch keine Verschiebung berührt wird, ist Ihre eigene Sorgfaltspflicht als Geschäftsführer. Wenn ein automatisierter Vorgang einem Kunden schadet, einen falschen Betrag auszahlt oder Daten an die falsche Stelle schreibt, ist die Frage nach der Aufsicht eine Frage an Sie, unabhängig davon, welche Frist im Amtsblatt steht.

Insofern ist die Verschiebung vor allem eines: Zeit, die Sie für die eigene Ordnung nutzen können, statt sie als Aufschub zu verbuchen.

Womit Sie diese Woche anfangen

Sie brauchen dafür kein Projekt. Nehmen Sie den einen Vorgang, bei dem in Ihrem Haus schon heute etwas automatisch passiert oder demnächst passieren soll, und beantworten Sie die vier Punkte oben schriftlich auf einer Seite. Legen Sie diese Seite dem Anbieter vor und lassen Sie sich zeigen, wo sich Ihre Freigabeschwelle in seinem Werkzeug einstellen lässt. Wenn sie sich nicht einstellen lässt, ist das eine Information über das Werkzeug.

Danach gilt dieselbe Regel wie bei jeder Einführung: klein anfangen, eine Zeit lang parallel prüfen, das Ergebnis nach sechs bis acht Wochen ansehen und erst dann ausweiten. Die Betriebe, die mit Automatisierung Ärger bekommen, sind selten die, die spät angefangen haben. Es sind die, die den Rahmen nie aufgeschrieben haben.

Wenn die Frage größer wird, etwa weil ein Agent eine Stelle ersetzen oder ein Vorgang in mehreren Bereichen gleichzeitig umgestellt werden soll, ist das eine Entscheidung mit Kosten, Nutzen und Alternativen. Dafür ist ChiefBoard gebaut: die Varianten durchrechnen, den nächsten Schritt daraus ableiten und festhalten, unter welchen Annahmen Sie sich entschieden haben. Wenn Sie in einem Jahr wissen wollen, warum dieser Agent damals welche Grenzen bekommen hat, ist die Antwort dann noch da.