Generative KI sicher nutzen: Was Beschäftigte wirklich können müssen

Kompetenz beginnt vor dem ersten Prompt

Vor der Nutzung muss klar sein, welches Werkzeug über welches Unternehmenskonto für welchen Zweck freigegeben ist. Beschäftigte sollten Standardfunktionen von Plugins, Dateiuploads, Webzugriff und Verlaufsspeicherung unterscheiden können. Eine Freigabe für Textentwürfe erlaubt nicht automatisch Bewerberbewertung, Rechtsberatung, medizinische Aussagen oder automatisierte Kundenentscheidungen. Zweck und Prozess bestimmen die nötige Kontrolle.

Art. 4 richtet den Blick auf die mit Betrieb oder Nutzung befassten Personen. Nach dem Digital Omnibus sind angemessene Maßnahmen zur Unterstützung ihrer Kompetenzentwicklung erforderlich, nicht die Garantie eines bestimmten Niveaus. Deshalb beginnt das Kompetenzprofil mit Tätigkeiten und Fehlerfolgen. Prompt-Technik ist nur ein Baustein neben Datenverständnis, fachlicher Prüfung, Rechteklärung, Dokumentation und Eskalation.

• Freigegebenes Werkzeug, Konto und Zweck kennen
• Zusatzfunktionen und Datenflüsse vor Nutzung prüfen
• Lernziele nach Tätigkeit und Fehlerfolge festlegen

Quellen: [1] [2] [3]

Daten sicher auswählen und minimieren

Personenbezogene Daten, Geschäftsgeheimnisse, Zugangsdaten und vertrauliche Dokumente dürfen nicht allein deshalb eingegeben werden, weil ein Tool bequem verfügbar ist. Nutzer müssen Datenklassen erkennen und wissen, welche interne Freigabe, Rechtsgrundlage, Vertragsgestaltung und Schutzmaßnahme erforderlich ist. Wo möglich werden Inhalte anonymisiert, abstrahiert oder durch synthetische Beispiele ersetzt.

Eine sichere Regel ist konkreter als „keine sensiblen Daten“. Sie benennt etwa Kundennummern, Gesundheitsdaten, Lebensläufe, unveröffentlichte Verträge, Quellcode-Schlüssel und interne Strategiepapiere. Sie erklärt auch Dateimetadaten, Chatverläufe und verbundene Datenquellen. Bei Unsicherheit muss ein erreichbarer Freigabeweg bestehen; sonst wird Zeitdruck zum Anreiz für private Konten oder unkontrollierte Umgehungen.

• Datenklassen mit konkreten Beispielen vermitteln
• Eingaben auf den erforderlichen Inhalt begrenzen
• Unsichere Fälle vor Upload an eine benannte Stelle eskalieren

Quellen: [5] [6] [1]

Ausgaben nach Risiko statt nach Sprachqualität prüfen

Generative Systeme können flüssige, aber falsche Antworten erzeugen. Beschäftigte müssen Tatsachen, Zahlen, Zitate und Quellen gegen verlässliche Originale prüfen. Die Intensität richtet sich nach dem Verwendungszweck: Ein interner Brainstorming-Entwurf braucht weniger Kontrolle als eine öffentliche Rechtsinformation, eine Kundenentscheidung oder sicherheitsrelevanter Code. Gute Sprache ist kein Beleg für sachliche Richtigkeit.

Prüfung umfasst auch Auslassungen, verzerrte Annahmen, veraltete Informationen und unzulässige Schlussfolgerungen. Bei Fachentscheidungen bleibt eine fachlich befugte Person verantwortlich für die Verwendung des Ergebnisses. Wo echte menschliche Aufsicht vorgesehen ist, benötigt sie Zeit, Informationen und Eingriffsmöglichkeiten. Ein automatisches Bestätigungsfeld ohne realistische Prüfungsmöglichkeit ist keine tragfähige Kontrolle.

• Primärquellen für Tatsachen und Zitate heranziehen
• Prüftiefe an Veröffentlichung und möglichem Schaden ausrichten
• Menschliche Kontrolle mit Zeit und Eingriffsbefugnis ausstatten

Quellen: [1] [3] [7]

Text, Bild und Code haben unterschiedliche Risikoprofile

Bei Texten sind Quellen, Persönlichkeitsrechte, Vertraulichkeit, mögliche Diskriminierung und redaktionelle Verantwortung zu prüfen. Bei Bildern kommen Einwilligung, erkennbare Personen, Marken, Stilimitationen und mögliche Offenlegungspflichten hinzu. Art. 50 unterscheidet verschiedene Anbieter- und Betreiberpflichten; daraus folgt keine pauschale Regel, wonach jeder KI-Inhalt sichtbar gleich zu kennzeichnen wäre.

Bei Code stehen Sicherheitslücken, ungeeignete Bibliotheken, Lizenzbedingungen, eingebettete Geheimnisse und fehlende Tests im Vordergrund. Generierter Code gehört in denselben Review-, Test- und Freigabeprozess wie anderer Code, gegebenenfalls mit zusätzlichen Prüfungen. Die bloße Herkunft aus einem bekannten Modell beweist weder Rechtefreiheit noch Sicherheit. Der konkrete Einsatz und bestehende Fachregeln bleiben maßgeblich.

• Medientyp und Veröffentlichungskontext unterscheiden
• Transparenzpflichten rollen- und tatbestandsbezogen prüfen
• Generierten Code reviewen, testen und auf Lizenzen untersuchen

Quellen: [1] [5] [6]

Praxisübungen bilden echte Entscheidungen ab

Wirksame Übungen verwenden typische Arbeitsfälle: einen Kundenentwurf mit falscher Quelle erkennen, einen vertraulichen Upload stoppen, eine verzerrte Zusammenfassung korrigieren oder unsicheren Code identifizieren. Die Teilnehmenden erklären nicht nur den richtigen Klick, sondern auch Prüfschritt und Eskalationsweg. Varianten nach Marketing, HR, Recht, Vertrieb, Entwicklung und Administration machen unterschiedliche Fehlerfolgen sichtbar.

Art. 4 verlangt keinen bestimmten Kurs und kein Zertifikat. Je nach Rolle können kurze Systemhinweise, angeleitete Übungen, Checklisten, Sprechstunden und technische Kontrollen kombiniert werden. Ergebnisse dienen dazu, Maßnahmen anzupassen; sie sollten nicht als pauschale Garantie dauerhafter Kompetenz verstanden werden. Wiederkehrende Fehler weisen möglicherweise auch auf schlechte Systemgestaltung oder unklare Richtlinien hin.

• Reale Daten- und Qualitätsentscheidungen simulieren
• Fachbereichsspezifische Fehlerfolgen einbauen
• Erkenntnisse sowohl in Lernen als auch Systemgestaltung zurückführen

Quellen: [1] [3] [4]

Ein alltagstauglicher Nutzungsablauf

Vor jeder Aufgabe prüft die Person Zweck, freigegebenes Werkzeug, Daten und erforderliche Freigaben. Während der Nutzung minimiert sie Eingaben, setzt keine Zugangsdaten ein und hält relevante Annahmen fest. Danach kontrolliert sie Fakten, Quellen, Rechte, Ton, Sicherheit und mögliche Auswirkungen auf Personen. Bei kritischen Unsicherheiten wird das Ergebnis nicht weitergegeben, sondern fachlich eskaliert.

Führungskräfte stellen Zeit, Ansprechpartner und realistische Qualitätsmaßstäbe bereit. Systemowner beobachten Änderungen, Fachbereiche definieren Prüftiefe, und Governance aktualisiert Regeln und Maßnahmen. Wesentliche Vorfälle werden nach bestehenden Prozessen behandelt. Dieser Ablauf unterstützt sichere Nutzung, verhindert aber nicht jeden Fehler und ersetzt keine rechtliche Einzelfallprüfung bei sensiblen oder neuartigen Anwendungen.

• Vor Nutzung Zweck, Tool, Daten und Freigabe prüfen
• Nach Nutzung Fakten, Rechte, Sicherheit und Personenwirkung kontrollieren
• Unsichere oder folgenreiche Ergebnisse stoppen und eskalieren

Quellen: [1] [3] [5] [6] [7]

Häufige Fragen