KI-Automatisierung: Was vor der Delegation von Entscheidungen zu prüfen ist

Die geprüften Unterlagen stützen keine aktuelle Ankündigung zu einem neuen Werkzeug oder einer konkreten Änderung bei der Automatisierung von Prozessen mithilfe künstlicher Intelligenz. Die konsultierten Quellen bieten Definitionen, allgemeine Rahmenwerke und institutionelle Seiten, belegen jedoch kein bestimmtes aktuelles Ereignis, das zugleich neu und unabhängig überprüft ist. Deshalb stellt dieser Beitrag nichts als Nachricht dar, was die verfügbaren Belege nicht nachweisen. Stattdessen bietet er eine Orientierung zur Bewertung von Systemen, bevor ihnen Aufgaben oder Entscheidungen übertragen werden.

Die hilfreiche Frage lautet nicht nur, ob eine Lösung KI enthält, sondern welche Handlung sie ohne Eingriff ausführt und welche Folgen diese Handlung haben kann. Nachrichten zu sortieren, Felder aus Dokumenten auszulesen und eine Antwort zu empfehlen sind andere Aufgaben als eine Zahlung freizugeben, einen Antrag abzulehnen oder eine Person zu priorisieren. Ähnliche Marketingbegriffe können sehr unterschiedliche Grade an Autonomie und Wirkung bezeichnen. Wer diese Unterschiede prüft, erkennt besser, was tatsächlich delegiert wird, statt sich auf eine Produktkategorie oder eine allgemeine Aussage über künstliche Intelligenz zu verlassen.

Automatisierung bezeichnet im Allgemeinen die Ausführung von Aufgaben durch Systeme mit geringerem menschlichem Eingriff; intelligente Automatisierung kann Automatisierung mit KI-Fähigkeiten verbinden. Diese allgemeinen Definitionen helfen, das Gespräch zu ordnen, beweisen aber nicht, dass ein bestimmtes Werkzeug einen gesamten Prozess versteht oder in jedem Kontext zuverlässig entscheiden kann. Die Erläuterungen von IBM und AWS dienen als konzeptionelle Orientierung, nicht als unabhängige Prüfung der Produktleistung. Eine allgemeine Darstellung der Technologie ist kein Beleg dafür, dass eine konkrete Umsetzung unter den Bedingungen einer Organisation genau, geeignet oder zuverlässig funktioniert.

Zeichnen Sie einen Vorgang vom Anfang bis zum Ende nach: Welche Daten gehen ein, welches System verarbeitet sie, welches Ergebnis entsteht und wer prüft es? Unterscheiden Sie zwischen Empfehlung, Vorbereitung einer Handlung und ihrer tatsächlichen Ausführung. Halten Sie anschließend Ausnahmen fest: unvollständige Daten, ungewöhnliche Fälle, widersprüchliche Quellen oder ausbleibende Antworten. Klären Sie, wie solche Fälle weitergeleitet werden, wer sie erhält und was mit dem Ablauf geschieht, solange sie ungeklärt sind. Wenn niemand erklären kann, wie Ausnahmen behandelt oder Abläufe wieder aufgenommen werden, reichen die betrieblichen Angaben noch nicht aus, um die Delegation zu beurteilen.

Fehler haben nicht alle dieselben Kosten. Eine falsche Einstufung, die ein Beschäftigter vor dem Versand einer Antwort korrigiert, ist nicht mit einer Entscheidung gleichzusetzen, die den Zugang zu einer Dienstleistung beschränkt oder eine Person ohne Prüfung betrifft. Das KI-Gesetz der Europäischen Union schafft für bestimmte Verwendungen von KI-Systemen einen risikobasierten Rahmen; daraus folgt nicht, dass für jede KI-Automatisierung dieselben Pflichten gelten. Die Einstufung hängt von der Verwendung und den relevanten Umständen ab, nicht allein vom Produktnamen. Dieselbe Technologie kann deshalb je nach Zweck und Einsatzumfeld unterschiedliche Schutzmaßnahmen erfordern.

Fragen Sie bei der Folgenabschätzung, wer geschädigt werden könnte, ob sich ein Ergebnis rückgängig machen lässt und wie lange es dauern kann, einen Fehler zu erkennen. Berücksichtigen Sie auch den Umfang: Eine mäßige Fehlerquote kann bedeutsam werden, wenn das System viele Vorgänge bearbeitet oder die Prüfung oberflächlich ist. Die Aufsicht sollte im Verhältnis zum möglichen Schaden stehen: Bei Aufgaben mit geringen Auswirkungen können Stichproben genügen; bei sensiblen Entscheidungen sind klare Wege für Prüfung, Korrektur und Eskalation nötig. Das sind Bewertungskriterien und keine Behauptung, eine bestimmte Konfiguration erfülle die geltenden Vorschriften. Bei der Bewertung sollten auch die Folgen für betroffene Personen berücksichtigt werden, nicht nur die technische Fähigkeit des Systems, seine Aufgabe auszuführen.

Der Ausdruck „menschliche Aufsicht“ muss konkretisiert werden. Prüfen Sie, ob eine Person eine Handlung stoppen kann, bevor sie Folgen hat, ob sie sie ändern oder rückgängig machen und einen Fall an eine entscheidungsbefugte Person weitergeben kann. Eine standardmäßige automatische Freigabe bei wenig Zeit oder unzureichenden Informationen kann die Kontrolle zur Formalität machen. Wichtig ist außerdem, dass Prüfende die Grenzen des Systems kennen und dessen Ergebnis infrage stellen können, statt es lediglich zu bestätigen. Ein Eingriff muss praktisch möglich sein, auch bei hoher Arbeitsbelastung oder einem Fall, der vom üblichen Muster abweicht.

Lassen Sie sich Beispiele dafür geben, was das System protokolliert: relevante Eingaben, verwendete Version oder Konfiguration, Ausgabe, menschlicher Eingriff und endgültiges Ergebnis. Prüfen Sie, wer die Protokolle einsehen kann, wie lange sie aufbewahrt werden und wie Vorfälle untersucht werden. Nicht jeder Ablauf erfordert die Speicherung sämtlicher Daten, und zusätzliche gespeicherte Informationen können weitere Risiken schaffen; Zweck und Aufbewahrungsfristen müssen festgelegt sein. Nützliche Protokolle sollten es ermöglichen, eine Entscheidung nachzuvollziehen, ohne die Datensammlung zum Selbstzweck zu machen. Sie sollten außerdem dabei helfen, aus Fehlern zu lernen und zugleich die festgelegten Grenzen des Verfahrens einzuhalten.

Eine Produktbeschreibung kann die vorgesehene Funktion erläutern, belegt aber nicht, wie sich ein System unter den tatsächlichen Bedingungen einer Organisation verhält. Fordern Sie Unterlagen zu bekannten Grenzen, Abhängigkeiten, Fehlerbehandlung und Eingriffsmöglichkeiten an. Prüfen Sie, ob Tests mit vergleichbaren Daten und Aufgaben durchgeführt wurden; Ergebnisse einer kontrollierten Vorführung garantieren nicht dieselbe Leistung im Produktivbetrieb. Fehlen Einzelheiten, halten Sie sie als offene Fragen fest und nicht als Beweis dafür, dass das System keine Kontrollen besitzt. Fragen Sie, welche Belege jede wichtige Aussage stützen und ob diese auch Ausnahmefälle statt nur Routinefälle abdecken.

Das NIST AI Risk Management Framework ist eine freiwillige Orientierungshilfe, um die Erkennung und das Management von Risiken zu strukturieren. Es kann als Fragenkatalog zu Governance, Kontext, Messung und Management dienen, aber es zertifiziert weder Anbieter noch ersetzt es geltende rechtliche Pflichten. Beim Vergleich von Quellen ist auch deren Art zu berücksichtigen: Eine Unternehmensseite beschreibt die Aussagen des Unternehmens; eine Norm, eine Behörde oder eine Untersuchung bietet eine andere Perspektive, doch keine einzelne Quelle beantwortet vollständig, wie eine konkrete Einführung funktionieren wird. Belege sollten im Zusammenhang gelesen werden, unter Beachtung der Bedingungen, unter denen sie entstanden sind, und der Fragen, die sie offenlassen.

Dokumentieren Sie vor der Aktivierung eines Ablaufs die Aufgabe, die betroffenen Nutzer, die Folgen eines Fehlers und die verantwortliche Person. Legen Sie fest, welche Fälle automatisch bearbeitet werden, welche eine Prüfung erfordern und wie ein Vorgang gestoppt werden kann. Diese Punkte vor der Einführung zu vereinbaren, erleichtert den Vergleich von Anbietern und verhindert, dass technische Fähigkeit mit der Befugnis zu entscheiden verwechselt wird. Außerdem erhält das Team eine Grundlage, die Vereinbarung neu zu prüfen, wenn sich Aufgabe, Nutzerkreis oder Folgen ändern.

Stellen Sie als Mindestprüfung sicher, dass das Team diese Fragen mit Belegen beantworten kann:

• Welche Eingaben und Bedingungen lösen die Automatisierung aus, und welche Fälle liegen außerhalb ihres Umfangs?
• Welche Handlung führt sie selbst aus, und welche erfordert eine ausdrückliche Genehmigung?
• Wie wird ein Fehler erkannt, seine Wirkung rückgängig gemacht und der betroffenen Person geholfen?
• Welche Informationen ermöglichen die Rekonstruktion des Ablaufs, und wer prüft Vorfälle?
• Welche Tests stützen Aussagen zur Genauigkeit, und unter welchen Bedingungen wurden sie durchgeführt?

Beruhen die Antworten auf allgemeinen Versprechen, fehlen Informationen für eine fundierte Delegation. Automatisierung kann wiederkehrende Arbeit verringern, doch ihre Zweckmäßigkeit hängt von Kontext, Auswirkungen und nachprüfbaren Kontrollen ab. Die zentrale Schlussfolgerung ist vorsichtig: Zuerst werden die Grenzen der Delegation festgelegt, dann wird das Werkzeug bewertet. Die verfügbaren Quellen erlauben weder die Behauptung, eine universelle Kontrolle sei entstanden, noch die Aussage, eine aktuelle Neuerung habe diese Bewertung verändert.