KI erlauben, begrenzen oder untersagen: Was die Geschäftsführung entscheiden muss

Die Leitungsentscheidung beginnt beim konkreten Anwendungsfall

Ein pauschales Ja oder Nein zu künstlicher Intelligenz wird der Leitungsverantwortung regelmäßig nicht gerecht. Ein Übersetzungswerkzeug für interne, nicht vertrauliche Texte wirft andere Fragen auf als ein System zur Bewerberauswahl, Kreditprüfung oder Steuerung sicherheitskritischer Anlagen. Das Organ braucht daher eine anwendungsbezogene Sicht: Welcher Geschäftszweck wird verfolgt, wer nutzt das System, welche Personen sind betroffen und wie stark beeinflusst der Output eine Entscheidung?

Für österreichische GmbHs und Aktiengesellschaften bilden § 25 GmbHG beziehungsweise § 84 AktG den gesellschaftsrechtlichen Ausgangspunkt. Die dort verankerte Sorgfalt verlangt keine technische Detailsteuerung durch jedes Organmitglied, wohl aber eine angemessene Organisation und informierte Entscheidung. Wirtschaftliche Chancen dürfen berücksichtigt werden. Sie ersetzen jedoch weder die Prüfung zwingenden Rechts noch die Festlegung, welche Risiken das Unternehmen unter welchen Kontrollen akzeptiert.

• Use Case und Geschäftszweck statt bloßer Produktname
• Entscheidungseinfluss und mögliche Folgen für Betroffene
• Datenarten, Nutzerkreis, Schnittstellen und Einsatzgebiet
• Rolle des Unternehmens und zeitliche Anwendbarkeit der Pflichten

Quellen: [3] [4]

Zwingende rote Linien sind keine Ermessensfrage

Art. 5 des AI Act verbietet bestimmte Praktiken, wenn sämtliche gesetzlichen Voraussetzungen erfüllt sind. Dazu gehören unter anderem bestimmte Formen schädlicher Manipulation, Social Scoring, biometrischer Kategorisierung und Emotionserkennung am Arbeitsplatz. Die Tatbestände sind präzise zu prüfen; weder Gesichtserkennung noch Emotionserkennung sind ohne Rücksicht auf Kontext und Ausnahmen pauschal verboten. Ist ein Verbot erfüllt, besteht kein unternehmerisches Ermessen, die Nutzung aus wirtschaftlichen Gründen dennoch zuzulassen.

Rechtsstand 16. September 2026 ist außerdem zwischen bereits anwendbaren und später anwendbaren Regeln zu unterscheiden. Die ursprünglichen Verbote gelten seit 2. Februar 2025. Die durch die Verordnung (EU) 2026/1744 ergänzten Verbote zu bestimmten intimen Darstellungen und Material über sexuellen Kindesmissbrauch werden erst am 2. Dezember 2026 anwendbar. Unabhängig davon können DSGVO, Arbeitsrecht, Gleichbehandlungsrecht, Urheberrecht, Produktsicherheit oder sektorspezifische Regeln einen Einsatz bereits heute ausschließen oder begrenzen.

• Verbotstatbestände vollständig und kontextbezogen prüfen
• Anwendungsdatum jeder einschlägigen Regel festhalten
• Andere zwingende Rechtsgebiete parallel beurteilen
• Unzulässige Nutzung technisch und organisatorisch sperren

Quellen: [1] [2] [5]

Vier Freigabestufen schaffen eine handhabbare Ordnung

Für zulässige Anwendungen empfiehlt sich eine abgestufte Ordnung. Niedrigriskante Standardnutzungen können innerhalb klarer Daten- und Qualitätsregeln allgemein erlaubt werden. Sensiblere Anwendungen benötigen eine fachliche Freigabe, etwa durch Legal, Datenschutz oder Informationssicherheit. Neue oder unsichere Anwendungen können als befristeter Pilot mit begrenztem Nutzerkreis und ohne unmittelbare Außenwirkung zugelassen werden. Anwendungen außerhalb der Risikobereitschaft oder ohne tragfähige Kontrollen bleiben untersagt.

Die Einordnung darf nicht allein vom Einkaufspreis oder von einer Anbieterwerbung abhängen. Maßgeblich sind unter anderem Personenauswirkung, Autonomiegrad, Reichweite, Sensibilität der Daten, Fehlerfolgen und Reversibilität. Eine Anwendung kann bei verändertem Zweck, neuem Modell oder zusätzlichen Daten in eine höhere Stufe wechseln. Deshalb sollte jede Freigabe Bedingungen, Laufzeit, verantwortliche Stelle und konkrete Auslöser für eine erneute Prüfung enthalten.

• Allgemein erlaubt innerhalb verbindlicher Nutzungsregeln
• Erlaubt erst nach dokumentierter Fachprüfung
• Befristeter Pilot unter kontrollierten Bedingungen
• Untersagt wegen Recht, Risiko oder fehlender Kontrollierbarkeit

Quellen: [1] [3]

Rolle und Risikoklasse bestimmen die Prüftiefe

Zunächst ist zu klären, ob das Unternehmen im konkreten Verhältnis Anbieter, Betreiber, Einführer, Händler oder Produkthersteller ist. Wer ein fremdes System nur intern nutzt, ist häufig Betreiber. Bei Hochrisiko-KI-Systemen können insbesondere das Anbringen des eigenen Namens oder der eigenen Handelsmarke, eine wesentliche Veränderung oder eine so geänderte Zweckbestimmung, dass das System zum Hochrisiko-KI-System wird, nach Art. 25 Anbieterpflichten auslösen. Die interne Bezeichnung als Kunde oder Nutzer ist dafür nicht entscheidend. Auch innerhalb eines Konzerns können verschiedene Gesellschaften unterschiedliche Rollen einnehmen.

Eine mögliche Hochrisikoeinstufung folgt nicht aus dem Schlagwort Personal, Finanzen oder Medizin allein. Entscheidend sind Art. 6, Anhang I oder III, die konkrete Zweckbestimmung und gesetzliche Ausnahmen. Nach der geänderten Rechtslage gelten die zentralen Pflichten der Abschnitte 1 bis 3 des Kapitels III für Anhang-III-Systeme grundsätzlich ab 2. Dezember 2027 und für Anhang-I-Systeme ab 2. August 2028. Diese Fristen verschieben weder bereits geltende Verbote noch andere Rechtsvorschriften.

• Wirtschaftsrolle je System und Gesellschaft bestimmen
• Zweckbestimmung und tatsächliche Nutzung abgleichen
• Anhang I, Anhang III und Ausnahmen getrennt prüfen
• Künftige Pflichten frühzeitig in Beschaffung und Projektplan aufnehmen

Quellen: [1] [2]

Das Leitungsorgan setzt Mandat, Grenzen und Eskalation

Das Organ muss nicht jede einzelne Standardanwendung selbst genehmigen. Es sollte aber den grundlegenden Risikoappetit, die roten Linien und die Kompetenzordnung beschließen. Dazu gehören Freigabestufen, Mindestprüfungen, Mitzeichnungen, Berichtspflichten und ein klarer Vorbehalt für strategische oder besonders sensible Fälle. Delegation funktioniert nur, wenn geeignete Personen ausgewählt, mit ausreichenden Ressourcen ausgestattet und durch nachvollziehbare Anweisungen geführt werden.

Eine Eskalation an Geschäftsführung oder Vorstand sollte jedenfalls vorgesehen werden, wenn Grundrechte erheblich betroffen sein können, sensible Daten verarbeitet werden, die Rechtslage ungeklärt ist, ein wesentliches Budget oder Reputationsrisiko besteht oder Schutzmaßnahmen nicht funktionieren. Ebenso braucht es technisch umsetzbare Stoppschwellen. Warnsignale dürfen nicht in einem Fachsilo verbleiben; der festgelegte Informationsweg muss das zuständige Organ rechtzeitig erreichen.

• Strategische Leitplanken und Risikobereitschaft beschließen
• Operative Freigaben mit klaren Grenzen delegieren
• Wesentliche Abweichungen und Vorfälle zwingend eskalieren
• Abschaltung, Einschränkung und Wiederfreigabe organisatorisch vorbereiten

Quellen: [3] [4]

Freigabe ist ein überprüfbarer Prozess, kein Endpunkt

Eine tragfähige Entscheidung dokumentiert den damaligen Informationsstand, geprüfte Alternativen, verbleibende Unsicherheiten und die Gründe für die gewählte Stufe. Dazu kommen Verantwortliche, Kontrollen, Berichtsintervalle und Kriterien für eine Neubewertung. Das ist besonders wichtig, weil Modelle, Datenquellen, Schnittstellen und Anbieterbedingungen veränderlich sind. Eine einmalige Freigabe ohne Änderungs- und Vorfallprozess wird dieser Dynamik regelmäßig nicht gerecht.

Sorgfältige Vorbereitung kann Entscheidungsqualität und Nachweisbarkeit verbessern, führt aber nicht automatisch zu Haftungsfreiheit. Ob ein Organmitglied pflichtgemäß gehandelt hat, hängt von Entscheidungstyp, Informationsgrundlage, Interessenfreiheit, Umsetzung und Überwachung im konkreten Fall ab. Vor Veröffentlichung oder wesentlichen Umsetzungsentscheidungen sind Rechtsstand, österreichische Behördenlage und sektorspezifische Vorgaben erneut zu prüfen; dieser Beitrag ersetzt keine Rechtsberatung zum Einzelfall.

• Entscheidungsgrundlage und offene Punkte zeitnah sichern
• Freigabe mit messbaren Kontrollen und Fristen verbinden
• Modell-, Zweck-, Daten- und Anbieteränderungen überwachen
• Rechtslage und Behördenzuständigkeit vor Umsetzung aktualisieren

Quellen: [3] [4] [2]

Häufige Fragen