Governance · 3 Min. Lesezeit
KI-gestützte Automatisierung ist nur dann nützlich, wenn man ihr vertrauen kann. Das Prinzip „Die KI bereitet vor, der Mensch bestätigt“ und wie Sie es bei der Gestaltung von Abläufen umsetzen.
Klassische Automatisierung funktioniert gut, wenn die Regeln starr sind: Kommt eine Rechnung von einem bestimmten Lieferanten, wird sie auf ein bestimmtes Konto gebucht. Viele Büroaufgaben folgen jedoch keinen so einfachen Regeln. Eine Kunden-E-Mail muss interpretiert, ein Bericht kommentiert, eine Anfrage verstanden werden, bevor sie weitergeleitet werden kann.
Künstliche Intelligenz kann mit dieser Mehrdeutigkeit umgehen, bringt aber ein neues Risiko mit sich: Sie kann sich auf plausible Weise irren. Ein gut formulierter Fehler ist schwerer zu erkennen als ein offensichtlicher.
Deshalb stecken viele Unternehmen zwischen zwei Positionen fest: KI nur als persönliches Schreibwerkzeug nutzen, ohne sie an die Prozesse anzubinden, oder alles automatisieren und Fehler erst bemerken, wenn der Schaden schon entstanden ist. Es gibt einen solideren Mittelweg.
Ein gut formulierter Fehler fällt schwerer auf als ein offensichtlicher.
Das einfachste Prinzip, um diesem Risiko zu begegnen, ist die Trennung von Vorbereitung und Ausführung. Die KI liest, sammelt die Daten und bereitet den Entwurf einer E-Mail, eines Angebots oder einer Buchung vor. Dann hält sie an und zeigt dem Nutzer, was sie vorhat. Erst nach der Bestätigung wird der Vorgang ausgeführt.
So verlagert sich die Arbeit des Menschen vom Erstellen zum Prüfen. Einen gut vorbereiteten Entwurf zu kontrollieren kostet weit weniger Zeit, als ihn selbst zu schreiben, und die Person bleibt für das Ergebnis verantwortlich, mit allen Informationen, die sie dafür braucht.
Mit der Zeit, wenn sich die Qualität der Vorschläge beurteilen lässt, kann man die Bestätigung für bestimmte Vorgänge mit geringem Risiko vereinfachen. Diese Entscheidung sollte bewusst und auf Basis von Erfahrung getroffen werden, nicht von Anfang an als selbstverständlich gelten.
Eine sinnvolle Bestätigung ist mehr als eine Schaltfläche mit der Aufschrift „Weiter“. Sie muss in klarer Sprache sagen, was passieren wird: welches Dokument erstellt wird, an wen es geht, welche Daten geändert werden. Und sie muss die Quellen zeigen, auf die sich die KI gestützt hat, damit der Nutzer sie prüfen kann, ohne suchen zu müssen.
Achten Sie zugleich darauf, nicht für alles eine Bestätigung zu verlangen. Erfordert jeder kleine Vorgang einen Klick, bestätigen die Mitarbeitenden irgendwann ungelesen, und die Bestätigung verliert ihren Wert. Sinnvoll ist die Unterscheidung zwischen reinen Lesevorgängen, die keine Bestätigung brauchen, und Vorgängen, die Daten ändern oder nach außen kommunizieren, die sie immer erfordern.
Ein gutes Kriterium ist die Frage, was die Korrektur eines Fehlers kostet. Eine versehentlich angelegte Aufgabe ist im Nu gelöscht, eine an einen Kunden gesendete E-Mail oder eine gebuchte Zahlung nicht. Je schwerer sich ein Vorgang rückgängig machen lässt, desto ausdrücklicher und detaillierter sollte die Bestätigung sein.
Ohne Bestätigung
Immer bestätigen
Jeder vorgeschlagene, bestätigte oder abgelehnte Vorgang sollte eine Spur hinterlassen: was angefragt wurde, was die KI vorgeschlagen hat, wer wann bestätigt hat. Das Protokoll hilft, Abläufe im Streitfall nachzuvollziehen, aber auch, besser zu werden. Abgelehnte oder korrigierte Vorschläge deuten oft auf unklare Anweisungen oder unvollständige Daten hin.
Nachvollziehbarkeit und menschliche Aufsicht sind Grundsätze, die sowohl die DSGVO als auch die europäische KI-Verordnung (AI Act) nachdrücklich einfordern. Wer Automatisierungen von Anfang an so gestaltet, muss sie nicht neu denken, wenn die Anforderungen strenger werden.
Das Protokoll ist auch für diejenigen nützlich, die die Automatisierungen entwerfen. Wer sieht, welche Vorschläge unverändert bestätigt und welche jedes Mal korrigiert werden, erkennt, wo an den Anweisungen, den Dokumentvorlagen oder der Qualität der Ausgangsdaten nachgebessert werden muss.
In der Innovaq-Suite folgt jede KI-gestützte Automatisierung diesem Muster. Der Assistent bereitet Dokumente, Berichte und Datenvorgänge über alle Module hinweg vor, zeigt einen klaren Bestätigungstext mit den verwendeten Quellen und führt erst nach Zustimmung des Nutzers aus. Jeder Schritt wird im Anfrageprotokoll festgehalten, das alle mit entsprechender Berechtigung einsehen können.
Das Ergebnis ist eine Automatisierung, die Zeit spart, ohne Kontrolle zu nehmen: Die KI arbeitet, der Mensch entscheidet.
Weiterlesen
Das Model Context Protocol ist der Standard, um einen KI-Assistenten mit Unternehmenswerkzeugen und -daten zu verbinden. Was das in der Praxis bedeutet und wie Sie die ersten Anbindungen fehlerfrei planen.
Standardmodelle sind sofort einsatzbereit und leistungsstark, eine eigene KI kennt die Sprache des Unternehmens besser. Wie Sie die Wahl treffen und warum die beste Lösung oft eine Kombination aus beidem ist.
Innovaq befindet sich in der Startphase.