Schatten KI im Unternehmen: Verbieten, dulden oder sicher steuern?

Schatten KI präzise definieren

Der Begriff umfasst mehr als private Chatbot-Konten. Dazu gehören Browser-Erweiterungen, automatische Meeting-Protokolle, KI-Funktionen in bereits beschaffter Software, selbst eingerichtete Schnittstellen und die Nutzung eines freigegebenen Systems für nicht freigegebene Zwecke. Entscheidend ist, dass Anwendung oder Nutzungsweise außerhalb des bekannten Freigabe-, Vertrags- oder Kontrollrahmens liegt.

Weil „Schatten KI“ kein eigener Rechtsbegriff des AI Act ist, sollte die Governance nicht mit einem vermeintlichen Spezialverbot arbeiten. Sie muss den konkreten Fall prüfen: Welche Rolle hat das Unternehmen, welche Daten fließen, wer ist betroffen, welchen Einfluss hat der Output und welche Regeln gelten bereits? Art. 4 kann Maßnahmen für die im Auftrag handelnden Nutzer erforderlich machen.

• Unbekannte Werkzeuge und unerlaubte Nutzungsweisen erfassen
• Eingebettete Funktionen und Plugins einbeziehen
• Rechtsfolgen anhand des konkreten Einsatzes statt des Schlagworts prüfen

Quellen: [1] [2] [3]

Risiken nach Daten, Output und Abhängigkeit ordnen

Bei Eingaben drohen insbesondere Offenlegung personenbezogener Daten, Geschäftsgeheimnisse, Zugangsdaten oder vertraulicher Dokumente. Vertragsbedingungen können Speicherung, Training, Unterauftragnehmer und internationale Datenflüsse betreffen. Bei Ausgaben stehen Halluzinationen, Verzerrungen, Urheber- und Lizenzfragen, unsicherer Code und fehlende Nachvollziehbarkeit im Vordergrund. Automatisierte Weiterverwendung vergrößert Reichweite und mögliche Schäden.

Nicht jeder unbekannte Einsatz ist gleich kritisch. Ein Entwurf für eine interne Agenda mit neutralen Stichworten unterscheidet sich von Bewerberbewertung, Kundenprofiling oder dem Upload einer unveröffentlichten Erfindung. Eine schnelle Triage bewertet Datenklasse, betroffene Personen, Entscheidungseinfluss, Veröffentlichung, technische Integration und Reversibilität. Sie entscheidet über Sofortstopp, begrenzte Duldung zur Prüfung oder geregelte Überführung.

• Daten- und Geheimnisschutz getrennt vom Output-Risiko betrachten
• Automatisierung und externe Veröffentlichung als Verstärker werten
• Triage mit klaren Stoppschwellen verbinden

Quellen: [4] [5] [1]

Entdecken ohne eine Kultur der Verheimlichung

Eine reine Verbotsmail kann Nutzung in private Konten und nicht beobachtbare Kanäle verlagern. Die Bestandsaufnahme sollte deshalb einen geschützten Meldeweg, kurze Interviews, anonyme Bedarfserhebung und Hinweise aus Beschaffung, Abrechnung, Browser- oder Netzwerksicherheit kombinieren. Technische Auswertungen müssen rechtlich geprüft, transparent gestaltet und auf einen legitimen Zweck begrenzt werden.

Die Kommunikation trennt zunächst Bedarf und Regelverstoß. Mitarbeitende sollen zeigen können, welche Aufgabe sie schneller oder besser lösen wollten. Dadurch werden produktive Anwendungsfälle und fehlende Alternativen sichtbar. Vorsätzliche Umgehung klarer Schutzregeln bleibt gesondert zu behandeln, doch eine pauschale Schuldigensuche erschwert Früherkennung. Leitung und Arbeitnehmervertretung sollten Ziele und Grenzen der Erhebung nachvollziehbar festlegen.

• Niedrigschwelligen und geschützten Meldeweg anbieten
• Geschäftsbedarf neben Regelabweichung erfassen
• Technische Erkennung mit Datenschutz und Arbeitsrecht abstimmen

Quellen: [4] [1] [3]

Vom Fund zur kontrollierten Entscheidung

Nach einem Hinweis sichert das Team zunächst relevante Fakten: Dienst, Kontoart, Zweck, Nutzerkreis, eingegebene Daten, erzeugte Ergebnisse, Schnittstellen und bisherige Weiterverwendung. Bei möglichem Datenabfluss oder Sicherheitsvorfall greifen die bestehenden Incident-Prozesse. Kritische Zugänge können vorläufig gesperrt werden, ohne die endgültige rechtliche und fachliche Bewertung vorwegzunehmen.

Anschließend entscheidet ein schneller Freigabeweg zwischen Ablehnung, begrenztem Pilot, Ersatz durch ein freigegebenes Werkzeug oder regulärer Zulassung. Bedingungen können Datenminimierung, Unternehmenskonto, deaktivierte Trainingsnutzung, menschliche Prüfung und Protokollierung umfassen. Anbieterangaben sind zu prüfen und vertraglich abzusichern. Eine Freigabe ist stets zweck- und versionsbezogen, keine Generalerlaubnis für jede Nutzung.

• Fakten und mögliche Datenexposition unverzüglich sichern
• Vorläufige Begrenzung von endgültiger Entscheidung trennen
• Freigabe auf Zweck, Konto, Daten und Version begrenzen

Quellen: [4] [5] [1]

Kompetenzmaßnahmen und technische Kontrollen verzahnen

Rollenbezogene Maßnahmen behandeln konkrete Grenzfälle: Welche Daten dürfen eingegeben werden, wie werden Ergebnisse geprüft, welche Tools sind freigegeben und wohin werden neue Bedarfe gemeldet? Art. 4 schreibt dafür keinen Standardkurs vor. Sprechstunden, Systemhinweise, Fallübungen, Richtlinien und Checklisten können je nach Kontext geeigneter oder ergänzend erforderlich sein.

Technische Kontrollen können bekannte Dienste blockieren, Unternehmenskonten erzwingen, sensible Inhalte erkennen oder Schnittstellen begrenzen. Sie verhindern jedoch nicht jede Umgehung und vermitteln kein Verständnis für neue Werkzeuge; für sich allein erfüllen sie daher nicht notwendig die Pflicht zur Unterstützung der Kompetenzentwicklung. Umgekehrt schützt Schulung nicht zuverlässig vor Fehlkonfigurationen oder unzulässigen Standardwerten. Governance sollte deshalb Menschen, Prozesse, Verträge und Technik als mehrere, aufeinander abgestimmte Schutzebenen gestalten.

• Grenzfälle aus realen Funden in Übungen übernehmen
• Erlaubte Alternative direkt in Richtlinie und Workflow nennen
• Technik als Ergänzung, nicht als Ersatz für Kompetenz behandeln

Quellen: [1] [3] [4] [5]

Leitung, Fachbereiche und Kontrollfunktionen entscheiden gemeinsam

Die Leitung legt Risikoappetit, rote Linien und Eskalationsschwellen fest. Fachbereiche formulieren Bedarfe und praxistaugliche Output-Kontrollen. IT und Informationssicherheit gestalten Zugänge und technische Schutzmaßnahmen; Einkauf prüft Verträge; Legal, Datenschutz und Compliance bewerten anwendbare Anforderungen. Ein Systemowner verantwortet Änderungen und laufende Beobachtung nach Freigabe.

Ein monatliches Dashboard kann neue Funde, Bearbeitungsdauer, wiederkehrende Bedarfe, genehmigte Alternativen und offene Hochrisikofälle zeigen. Kennzahlen sind nicht als Erfolgsbeweis zu überdehnen: Mehr Meldungen können bessere Transparenz bedeuten. Wesentliche Vorfälle und unlösbare Kontrolllücken werden an die Leitung eskaliert. Das Programm reduziert blinde Flecken, garantiert aber weder vollständige Erkennung noch Fehlerfreiheit.

• Rote Linien und Entscheidungskompetenzen durch Leitung festlegen
• Bearbeitungszeit und Alternativen neben Fundzahlen berichten
• Wesentliche Restlücken mit konkreter Entscheidung eskalieren

Quellen: [1] [2] [4] [5]

Häufige Fragen