Zum Inhalt springen
DT Nova
Ratgeber

KI-Governance im Unternehmen: Regeln, Rollen und KI-Verordnung

KI-Governance klingt nach Konzern, ist aber für jedes Unternehmen relevant, in dem Mitarbeiter KI-Werkzeuge nutzen. Gemeint ist ein klarer Rahmen: welche KI eingesetzt wird, welche Daten hinein dürfen, wer Ergebnisse prüft und wie die Pflichten der europäischen KI-Verordnung erfüllt werden. Dieser Ratgeber zeigt, wie kleine und mittlere Unternehmen eine schlanke, wirksame KI-Governance aufbauen, ohne Bürokratie, die niemand liest.

Warum KI-Governance jetzt ein Thema ist

KI ist in deutschen Unternehmen angekommen. Nach dem Statistischen Bundesamt nutzten 2025 insgesamt 26 Prozent der Unternehmen künstliche Intelligenz, bei kleinen Unternehmen mit 10 bis 49 Beschäftigten 23 Prozent, bei mittleren mit 50 bis 249 Beschäftigten 36 Prozent und bei großen ab 250 Beschäftigten 57 Prozent (Destatis, Nutzung von künstlicher Intelligenz in Unternehmen, abgerufen am 11. November 2026). Diese Zahlen erfassen den offiziellen Einsatz. Hinzu kommt die private Nutzung im Beruf: Mitarbeiter, die Texte, Tabellen oder Kundendaten in frei verfügbare Werkzeuge kopieren, weil es schneller geht.

Gleichzeitig gilt die KI-Verordnung. Sie ist am 1. August 2024 in Kraft getreten und seit dem 2. August 2026 mit einigen Ausnahmen allgemein anwendbar. Die Verbote bestimmter KI-Praktiken und die Pflichten zur KI-Kompetenz gelten seit dem 2. Februar 2025, die Regeln für KI-Modelle mit allgemeinem Verwendungszweck seit dem 2. August 2025. Durch den AI-Omnibus wurden die Hochrisiko-Regeln für die Anwendungsfälle aus Anhang III auf den 2. Dezember 2027 verschoben, für KI in regulierten Produkten nach Anhang I gilt eine Übergangsfrist bis zum 2. August 2028 (Europäische Kommission, AI Act, abgerufen am 11. November 2026).

Anbieter oder Betreiber: Ihre Rolle bestimmt Ihre Pflichten

Die KI-Verordnung unterscheidet vor allem zwei Rollen (Verordnung (EU) 2024/1689, Art. 3, abgerufen am 11. November 2026):

Die meisten Unternehmen sind Betreiber: Sie nutzen Chat-Assistenten, Übersetzungswerkzeuge, KI-Funktionen in Office-Paketen oder in ihrem CRM. Wer dagegen eine eigene KI-Funktion in ein Produkt einbaut und an Kunden anbietet, etwa einen Chatbot im eigenen Portal, kann zusätzlich Anbieter sein. Klären Sie diese Frage für jedes System einzeln.

Die Pflichten, die heute schon gelten

KI-Kompetenz nach Art. 4

Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind. Dabei sind technische Kenntnisse, Erfahrung, Ausbildung, der Einsatzkontext und die betroffenen Personen zu berücksichtigen; ein bestimmtes Niveau an KI-Kompetenz für jede einzelne Person verlangt die Vorschrift nicht (Art. 4 in der Fassung der Verordnung (EU) 2026/1744, abgerufen am 12. November 2026). Praktisch heißt das: eine Schulung, die zur tatsächlichen Nutzung passt, und ein Nachweis, wer sie erhalten hat.

Verbotene Praktiken nach Art. 5

Verboten sind unter anderem manipulative oder täuschende Techniken, die Verhalten wesentlich verzerren und erheblichen Schaden verursachen, das Ausnutzen von Schwächen aufgrund von Alter, Behinderung oder sozialer Lage, Social Scoring mit ungerechtfertigter Benachteiligung, das ungezielte Auslesen von Gesichtsbildern für Gesichtserkennungsdatenbanken, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen mit engen Ausnahmen sowie biometrische Kategorisierung nach sensiblen Merkmalen (Verordnung (EU) 2024/1689, Art. 5, abgerufen am 11. November 2026). Für die meisten Unternehmen ist relevant: Werkzeuge, die Stimmung oder Emotionen von Mitarbeitern auswerten, gehören auf den Prüfstand.

Transparenz nach Art. 50

Die Transparenzregeln der Verordnung gelten nach der Übersicht der Kommission ab August 2026. Unter anderem müssen Anbieter dafür sorgen, dass Menschen erfahren, wenn sie direkt mit einem KI-System interagieren, sofern das nicht offensichtlich ist. Betreiber müssen Deepfakes kennzeichnen und offenlegen, wenn sie KI-generierten Text zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlichen, es sei denn, der Text wurde menschlich geprüft und jemand trägt die redaktionelle Verantwortung (Verordnung (EU) 2024/1689, Art. 50, abgerufen am 11. November 2026).

Wenn KI über Menschen entscheidet: Hochrisiko-Systeme

Strengere Pflichten gelten für Hochrisiko-KI, etwa Systeme im Personalwesen, die Bewerbungen filtern oder Leistung bewerten. Betreiber solcher Systeme müssen sie nach der Gebrauchsanweisung verwenden, die menschliche Aufsicht Personen mit der nötigen Kompetenz, Ausbildung und Befugnis übertragen, bei eigener Kontrolle über die Eingabedaten deren Eignung sicherstellen, den Betrieb überwachen, automatisch erzeugte Protokolle mindestens sechs Monate aufbewahren und vor dem Einsatz am Arbeitsplatz die Arbeitnehmervertretung und die betroffenen Beschäftigten informieren (Verordnung (EU) 2024/1689, Art. 26, abgerufen am 11. November 2026). Für die Anwendungsfälle aus Anhang III gelten diese Regeln nach dem AI-Omnibus ab dem 2. Dezember 2027. Wer heute ein solches System auswählt, sollte die Anforderungen bereits in die Ausschreibung schreiben.

Wer in Deutschland zuständig ist

Die Bundesnetzagentur ist nach ihrer Mitteilung vom 29. Juli 2026 auf Grundlage des Gesetzes zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-MIG) Marktüberwachungsbehörde, Anlaufstelle und Beschwerdestelle für die KI-Verordnung. Ihr KI-Service Desk bietet niedrigschwellige Informationen, vor allem für kleine und mittlere Unternehmen und Start-ups, darunter ein Online-Werkzeug für eine erste Einschätzung der Risikoklasse und Hinweise zum Aufbau von KI-Kompetenz (Bundesnetzagentur, Pressemitteilung vom 29. Juli 2026, abgerufen am 11. November 2026).

KI-Governance in fünf Bausteinen

  1. Verantwortung: Eine Person ist für KI zuständig, in kleinen Unternehmen meist die Geschäftsführung oder die IT-Leitung, mit einer Vertretung. Bei größeren Vorhaben kommen Datenschutz und, falls vorhanden, Betriebsrat hinzu.
  2. KI-Inventar: eine Liste aller genutzten KI-Werkzeuge und KI-Funktionen in bestehender Software, mit Zweck, Rolle (Anbieter oder Betreiber), Risikoklasse, Datenarten und Vertrag.
  3. Nutzungsregeln: eine Seite, die jeder versteht. Welche Werkzeuge erlaubt sind, welche Daten nie hineingehören, dass Ergebnisse vor der Verwendung geprüft werden und wie KI-erzeugte Inhalte gekennzeichnet werden.
  4. Schulung und Nachweis: eine kurze Einführung für alle, vertiefende Schulung für die, die KI intensiv nutzen oder Systeme auswählen, und eine Liste, wer wann geschult wurde.
  5. Prüfung neuer Anwendungsfälle: bevor ein neues KI-Werkzeug eingeführt wird, ein kurzer Check: Zweck, Daten, Rolle, Risikoklasse, Auftragsverarbeitung, menschliche Kontrolle.

Datenschutz gehört dazu

Die KI-Verordnung ersetzt die DSGVO nicht, sie kommt hinzu. Werden personenbezogene Daten an einen KI-Dienst übermittelt, ist dieser in der Regel Auftragsverarbeiter, und nach Art. 28 DSGVO braucht es Anbieter mit hinreichenden Garantien und einen Vertrag. Art. 25 verlangt Datenschutz durch Technikgestaltung, also nur die Daten, die für den Zweck nötig sind (Verordnung (EU) 2016/679, EUR-Lex, abgerufen am 11. November 2026). Die wirksamste Einzelmaßnahme ist oft die einfachste: Namen und Kennungen entfernen, wenn die Aufgabe sie nicht braucht.

Normen und Rahmenwerke

Wer mehr Struktur möchte, findet in ISO/IEC 42001 eine Norm für KI-Managementsysteme, aufgebaut wie andere Managementsystemnormen mit Zuständigkeiten, Risikobewertung, Zielen und kontinuierlicher Verbesserung. Auch das AI Risk Management Framework des US-amerikanischen NIST wird häufig als Vorlage genutzt. Für die meisten kleinen und mittleren Unternehmen ist keine Zertifizierung nötig. Die fünf Bausteine oben decken das Wesentliche ab und lassen sich später zu einem Managementsystem ausbauen.

Wie wir Sie unterstützen

Wir helfen beim Aufbau einer schlanken KI-Governance: KI-Inventar erstellen, Rollen und Risikoklassen einordnen, Nutzungsregeln schreiben, Schulungen durchführen und neue Anwendungsfälle prüfen. Wie KI in Ihrem Unternehmen sinnvoll eingesetzt wird, klären wir in der KI-Beratung, die Umsetzung in Abläufen übernimmt die KI-Automatisierung, Agenten mit engen Rechten und menschlicher Freigabe entstehen in der Entwicklung von KI-Agenten, und Sicherheitsfragen rund um neue Werkzeuge behandelt die IT-Sicherheitsberatung. Wir sind unabhängig und erhalten keine Provisionen von Softwareherstellern. Die rechtliche Bewertung im Einzelfall bleibt bei Ihrer Rechtsberatung. Anfragen beantworten wir per E-Mail auf Deutsch oder Englisch innerhalb eines Werktags.

Wie Governance in einen Gesamtplan für KI eingebettet wird, zeigt der Ratgeber KI-Strategie.

Ob ein KI-System eine Datenschutz-Folgenabschätzung braucht, klärt unser eigener Ratgeber dazu.

Häufige Fragen

Was ist KI-Governance?

KI-Governance ist der Rahmen, mit dem ein Unternehmen den Einsatz von künstlicher Intelligenz steuert: wer KI-Werkzeuge auswählen darf, welche Daten hinein dürfen, wie Ergebnisse geprüft werden, wer verantwortlich ist und wie gesetzliche Pflichten wie die der KI-Verordnung erfüllt werden.

Brauchen auch kleine Unternehmen eine KI-Governance?

Ja, in angemessenem Umfang. Sobald Mitarbeiter KI-Werkzeuge beruflich nutzen, gelten Pflichten wie die zur KI-Kompetenz nach Art. 4 der KI-Verordnung. Für ein kleines Unternehmen reicht oft eine Seite mit Regeln, eine Liste der genutzten Werkzeuge und eine kurze Schulung.

Sind wir Anbieter oder Betreiber im Sinne der KI-Verordnung?

Wer ein KI-System unter eigener Verantwortung beruflich verwendet, ist Betreiber. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt. Die meisten Unternehmen sind Betreiber; wer eigene KI-Funktionen in Produkte einbaut und anbietet, kann zusätzlich Anbieter sein.

Welche Behörde ist in Deutschland für die KI-Verordnung zuständig?

Die Bundesnetzagentur. Nach ihrer Mitteilung vom 29. Juli 2026 ist sie auf Grundlage des KI-Marktüberwachungsgesetzes Marktüberwachungsbehörde, Anlaufstelle und Beschwerdestelle für die KI-Verordnung. Ihr KI-Service Desk bietet Orientierung, besonders für kleine und mittlere Unternehmen.

Dürfen Mitarbeiter ChatGPT oder ähnliche Werkzeuge nutzen?

Das entscheiden Sie in Ihren Regeln. Wir empfehlen, ein offizielles Werkzeug in einer Geschäftsversion bereitzustellen, festzulegen, welche Daten eingegeben werden dürfen, und bei personenbezogenen Daten einen Vertrag zur Auftragsverarbeitung abzuschließen. Ein Verbot ohne Alternative verleitet leicht zur heimlichen Nutzung privater Konten.

Gibt es einen Standard für KI-Governance?

Ja. ISO/IEC 42001 beschreibt ein Managementsystem für künstliche Intelligenz, vergleichbar mit ISO/IEC 27001 für Informationssicherheit. Für kleine Unternehmen ist eine Zertifizierung selten nötig, die Struktur der Norm ist aber eine gute Vorlage.

Schriftliches Angebot anfordern

Beschreiben Sie in wenigen Zeilen, was Sie brauchen. Innerhalb eines Werktags erhalten Sie ein schriftliches Angebot: Umfang, Zeitplan und Festpreis oder Stundenschätzung. Die Anfrage ist unverbindlich.

Kontakt · Alle Leistungen

Angebot anfragen