KI-Governance in regulierten Umgebungen

Technologische Beschleunigung und institutionelle Trägheit

Künstliche Intelligenz entwickelt sich in einem Tempo, das bestehende organisatorische, rechtliche und gesellschaftliche Strukturen zunehmend herausfordert. Die öffentliche Verwaltung steht dabei vor einer spezifischen Herausforderung. Während privatwirtschaftliche Unternehmen KI-Systeme vergleichsweise flexibel einführen können, unterliegen Behörden einem anderen Anforderungsprofil. Entscheidungen der öffentlichen Hand betreffen Bürgerinnen und Bürger in unmittelbarer und rechtlich verbindlicher Weise. Sie müssen nachvollziehbar, anfechtbar und im Zweifelsfall juristisch vertretbar sein.

Institutionelle Trägheit ist dabei nicht allein auf fehlenden Willen zur Veränderung zurückzuführen. Sie ist strukturell bedingt: Budgetzyklen, Ausschreibungsverfahren, Personalentwicklungspfade und Rechtssetzungsprozesse sind auf Stabilität ausgerichtet, nicht auf Anpassungsgeschwindigkeit.

Das Spannungsfeld zwischen Innovation und Verantwortung

Insbesondere in regulierten Umgebungen entsteht ein Spannungsfeld zwischen zwei zentralen Anforderungen: der Notwendigkeit, Effizienz und Qualität durch technologische Innovation zu steigern, und der Verpflichtung, Entscheidungen nachvollziehbar, rechtssicher und gemeinwohlorientiert zu treffen.

Die Frage lautet nicht, ob Verwaltungen KI einsetzen sollen, sondern unter welchen Bedingungen, in welchem Umfang und mit welcher Steuerungslogik dies verantwortbar ist.

Die Steuerungslücke

Fehlende Systematik bei Einsatzentscheidungen

Die zentrale Herausforderung liegt nicht in der Technologie selbst, sondern in der fehlenden Fähigkeit vieler Organisationen, ihren Einsatz systematisch zu steuern. Entscheidungen über den KI-Einsatz erfolgen häufig situativ: Ein Werkzeug wird ausprobiert, weil es öffentlich verfügbar ist, oder weil ein Pilotprojekt politischen Rückenwind geniesst. Kriterien wie Eignung der Datenbasis, Überprüfbarkeit der Ergebnisse oder Klärung der Haftungsfrage bleiben dabei oft ungeklärt.

Unklare Abgrenzung der KI-Anwendungsformen

Unterschiedliche Anwendungsformen von KI stellen grundlegend verschiedene Governance-Anforderungen. Eine Organisation, die nicht zwischen diesen Formen unterscheidet, kann keine angemessene Steuerungslogik entwickeln.

Algorithmische Fairness als strukturelles Risiko

KI-Modelle lernen aus historischen Daten. Wenn diese Daten gesellschaftliche Benachteiligungen widerspiegeln, übernimmt das Modell diese Muster und wendet sie auf neue Fälle an. Im Verwaltungskontext hat dies unmittelbare Auswirkungen auf die Gleichbehandlungspflicht. Algorithmische Fairness ist keine optionale ethische Ergänzung, sondern eine rechtlich und organisational verbindliche Anforderung.

Erklärbarkeit als Rechtspflicht

Die DSGVO beschränkt in Art. 22 Entscheidungen, die ausschliesslich auf automatisierter Verarbeitung beruhen und rechtliche Wirkung entfalten. Der EU AI Act ergänzt diese Logik für bestimmte Hochrisiko-Systeme durch Transparenz-, Dokumentations-, Aufsichts- und Erklärungspflichten. Systeme, die keine nachvollziehbare Erklärung ihrer Ausgaben liefern können, dürfen in rechtlich relevanten Kontexten nicht ohne entsprechende Absicherung eingesetzt werden.

Governance als Ermöglichungsstruktur

Ziel einer funktionierenden KI-Governance ist nicht die vollständige Kontrolle technologischer Systeme, sondern die Schaffung eines stabilen, nachvollziehbaren und anpassungsfähigen Rahmens für deren Einsatz. Governance im hier verwendeten Sinne bedeutet weder maximale Einschränkung noch unkritische Freigabe. Es geht um strukturierte Ermöglichung unter definierten Bedingungen.

KI wird nicht als autonomes Entscheidungssystem verstanden, sondern als unterstützendes Element innerhalb klar definierter Grenzen. Die Verantwortung für Entscheidungen verbleibt konsequent beim Menschen — auch dann, wenn KI-Systeme in Qualität und Umfang besser skalieren als menschliche Bearbeitung. Der Grundsatz der menschlichen Letztverantwortung ist nicht primär eine technologische, sondern eine rechtliche und demokratische Anforderung.

KI-Governance kann nicht einmalig definiert und danach statisch angewendet werden. Sie muss lernfähig sein.

Sechs Prinzipien verantwortungsvoller KI-Governance

Von der Abstraktion zur Praxis

Governance entfaltet ihre Wirkung erst, wenn sie in den Arbeitsalltag integriert wird. In vielen Organisationen bleibt Governance abstrakt, weil die Verbindung zwischen Prinzipien und konkretem Handeln fehlt.

Standardisierte Anwendungsmuster

Standardisierte Strukturen für den Einsatz von KI in wiederkehrenden Aufgaben definieren, welche Eingaben zulässig sind, welche Ausgaben geprüft werden müssen und wie Ergebnisse dokumentiert werden. Standardisierung bedeutet nicht Starrheit — sie schafft einen definierten Rahmen, innerhalb dessen situative Anpassungen möglich sind.

Rollen und Verantwortlichkeiten

Für jede Kategorie von KI-Anwendungen muss festgelegt sein, wer die Ausgabe prüft, wer sie freigibt und wer bei Abweichungen oder Fehlern handlungspflichtig ist. Ergänzend empfiehlt sich die Benennung einer übergeordneten Verantwortlichkeit für KI-Governance auf Organisationsebene.

Lifecycle-Management

Ein häufig vernachlässigter Aspekt ist das Management von KI-Systemen über den gesamten Lebenszyklus. KI-Systeme degradieren über Zeit — Trainingsdaten altern, weil sich die Realität verändert, auf die sie bezogen sind. Dieses Phänomen wird als Modelldrift bezeichnet.

Umgang mit Halluzinationsrisiken

Generative KI-Systeme weisen ein spezifisches Fehlerverhalten auf: Das System produziert plausibel klingende, aber faktisch falsche Aussagen. In regulierten Verwaltungskontexten ist dies besonders problematisch. Massnahmen: Beschränkung generativer KI auf inhaltlich prüfbare Aufgaben, Verpflichtung zur Quellenangabe, Schulung der Anwendenden, Ausschluss aus Aufgaben mit schwerwiegenden Folgen.

Was Organisationen konkret leisten müssen

Digitale Transformation als Führungsaufgabe

Führungspersonen müssen KI-Governance nicht als Delegationsaufgabe verstehen, sondern als Führungsverantwortung. Sie müssen in der Lage sein, differenziert über KI zu sprechen: sachlich in der Einschätzung von Möglichkeiten, konsequent in der Benennung von Grenzen.

Kompetenzaufbau als strategische Priorität

Der Aufbau von Kompetenzen im Umgang mit KI kann nicht an einzelne Stabsstellen oder Spezialistinnen delegiert werden. Kompetenz im KI-Umgang umfasst: Verständnis der Möglichkeiten und Grenzen, Fähigkeit zur kritischen Beurteilung von Ausgaben, Wissen um rechtliche Anforderungen sowie situationsgerechte Nutzung.

Change Management

Die Einführung von KI verändert Arbeitsrollen und Arbeitsinhalte. Widerstände gegen KI-Einführungen sind häufig keine irrationale Technikfeindlichkeit, sondern Ausdruck berechtigter Sorgen um Arbeitsplatzsicherheit und Kontrollverlust. Wirksames Change Management erfordert frühzeitige Kommunikation, aktive Einbindung der Betroffenen und ausreichend Zeit für den Kompetenzaufbau.

Wirtschaftlichkeit im öffentlichen Kontext

KI-Investitionen müssen gegenüber politischen Entscheidungsträgern, Rechnungsprüforganen und der Öffentlichkeit begründet werden. Ein realistischer Business Case berücksichtigt auch die Kosten der Governance selbst: Schulungen, Prüfprozesse, Dokumentation und laufende Überwachung sind reale Aufwände. Überhöhte Effizienzversprechen beschädigen das Vertrauen langfristig.

Governance endet nicht an der Organisationsgrenze

Hybride Architekturmodelle

Für regulierte Umgebungen stellt sich die Frage, welche Daten und Prozesse welcher Infrastruktur anvertraut werden dürfen. Personenbezogene oder besonders schützenswerte Daten erfordern in vielen Fällen eine lokale oder zumindest innereuropäische Verarbeitung.

Vendor-Governance

Abhängigkeiten von einzelnen Anbietern (Vendor-Lock-ins) schränken die strategische Handlungsfähigkeit ein. Beschaffungsverfahren für KI-Systeme müssen die spezifischen Eigenschaften dieser Technologie berücksichtigen: Trainings- und Betriebsdatenregelungen, Anforderungen an Erklärbarkeit und Auditierbarkeit, Haftungsfragen bei Systemfehlern.

Interdepartementale Koordination

In föderalen Strukturen wie der Schweiz ist die Frage der überbehördlichen Koordination von KI-Governance ebenso relevant. Was koordiniert werden sollte, sind Grundprinzipien, Mindeststandards, gemeinsame Risikoklassifizierungen und Austauschmechanismen für Erfahrungen und Wissen.

Regulatorischer Rahmen: EU AI Act und Schweizer Kontext

Für die Schweiz ergibt sich die Notwendigkeit, regulatorische Entwicklungen frühzeitig zu beobachten. Als Nicht-EU-Mitglied ist die Schweiz nicht direkt dem EU AI Act unterworfen, aber indirekt betroffen, da viele in der Schweiz eingesetzte KI-Systeme von EU-Unternehmen stammen. Schweizer Verwaltungen, die eigene Governance-Strukturen aufbauen, die mit dem EU AI Act kompatibel sind, schaffen gleichzeitig eine robuste Grundlage für allfällige nationale Regulierungen.

KI-Governance als dynamisches Lernsystem

KI-Governance in regulierten Umgebungen ist mehr als ein Regelwerk. Sie ist die Fähigkeit einer Organisation, technologische Möglichkeiten in verantwortbares, nachvollziehbares und wirksames Handeln zu übersetzen.

Die öffentliche Verwaltung steht dabei vor einer doppelten Aufgabe. Sie muss technologische Innovation nutzen, um Leistungsfähigkeit, Effizienz und Qualität zu verbessern. Zugleich muss sie sicherstellen, dass Entscheidungen rechtmässig, transparent, überprüfbar und gemeinwohlorientiert bleiben.

Governance sollte nicht als Vermeidungsstrategie verstanden werden. Ihr Ziel ist es, kontrollierte Nutzung zu ermöglichen, Verantwortung zu sichern und Entwicklung lernfähig zu gestalten.

Die Zukunftsfähigkeit öffentlicher Verwaltung wird nicht allein davon abhängen, welche KI-Systeme verfügbar sind, sondern davon, ob Verwaltungen die Fähigkeit entwickeln, diese Systeme verantwortlich zu steuern, nachvollziehbar einzubetten und lernfähig weiterzuentwickeln.