KI-Richtlinie fürs Unternehmen: Was Mitarbeiter dürfen – und was nicht

ChatGPT öffnen, einen Text einfügen, auf Enter drücken – fertig. Noch nie war es so einfach, künstliche Intelligenz im Arbeitsalltag einzusetzen.

Doch genau darin liegt für Unternehmen inzwischen eines der größten Probleme.

Welche Informationen dürfen Mitarbeiter überhaupt in ChatGPT, Claude, Gemini, Copilot oder andere KI-Systeme eingeben? Darf ein Mitarbeiter einen Kundenvertrag zusammenfassen lassen? Darf die Buchhaltung Rechnungsdaten analysieren? Darf ein Entwickler internen Quellcode an eine KI senden? Und wer haftet eigentlich, wenn die KI eine falsche Antwort liefert?

Wer diese Fragen nicht beantwortet, bekommt trotzdem KI im Unternehmen. Nur eben unkontrolliert.

Eine KI-Richtlinie für Mitarbeiter soll deshalb KI nicht verhindern. Sie soll festlegen, wie künstliche Intelligenz sicher, nachvollziehbar und produktiv eingesetzt werden darf.

Seit dem 2. Februar 2025 gelten zudem die Bestimmungen des EU AI Act zur KI-Kompetenz. Seit dem 2. August 2026 sind weitere zentrale Teile des AI Act anwendbar und die europäische sowie nationale Aufsicht hat erheblich an Bedeutung gewonnen. Der AI Act wurde zuletzt durch den im Juli 2026 in Kraft getretenen Digital Omnibus angepasst. Die grundlegenden Pflichten für kleine Unternehmen erklärt EU AI Act für kleine Unternehmen: Was KMU jetzt wissen müssen (Zum Artikel)

Für Unternehmen ist deshalb spätestens jetzt der richtige Zeitpunkt gekommen, aus dem ungeklärten „Benutzt halt ChatGPT, aber passt auf" eine klare Unternehmensregel zu machen.

Warum jedes Unternehmen eine KI-Richtlinie braucht

In vielen Firmen sieht der tatsächliche Umgang mit KI ungefähr so aus:

Ein Mitarbeiter nutzt seinen privaten ChatGPT-Account. Ein anderer hat Gemini geöffnet. In der Entwicklungsabteilung läuft Claude. Microsoft Copilot ist möglicherweise bereits Bestandteil vorhandener Software. Jemand kopiert eine Kunden-E-Mail in ein KI-System, während ein Kollege eine Excel-Tabelle analysieren lässt.

Die Geschäftsführung weiß davon häufig nur teilweise.

Dieses Phänomen wird häufig als Shadow AI bezeichnet: Mitarbeiter verwenden KI-Werkzeuge außerhalb eines zentral geregelten und kontrollierten Unternehmensprozesses. Wie verbreitet Shadow AI inzwischen ist und wie Unternehmen darauf reagieren können, zeigt Shadow AI im Unternehmen: Wenn Mitarbeiter heimlich ChatGPT nutzen (Zum Artikel)

Das Problem ist dabei nicht die KI selbst. Das Problem ist die fehlende Governance.

Eine gute KI-Richtlinie beantwortet deshalb mindestens fünf Fragen:

Welche KI-Systeme dürfen verwendet werden? Welche Daten dürfen verarbeitet werden? Für welche Aufgaben ist KI erlaubt? Wann muss ein Mensch das Ergebnis kontrollieren? Und wer entscheidet über neue KI-Anwendungen?

Genau diese Klarheit schützt Unternehmen und Mitarbeiter gleichermaßen.

Das wichtigste Prinzip: KI darf unterstützen – die Verantwortung bleibt beim Menschen

Eine sinnvolle Unternehmensrichtlinie benötigt keinen 80-seitigen Regelkatalog.

Ein zentraler Grundsatz reicht bereits als Ausgangspunkt:

KI-Systeme dürfen Mitarbeiter bei ihrer Arbeit unterstützen. Entscheidungen, Freigaben und die Verantwortung für Arbeitsergebnisse bleiben jedoch beim zuständigen Menschen.

Das bedeutet beispielsweise:

Ein Mitarbeiter darf sich von einer KI einen ersten Entwurf für eine Kundenmail erstellen lassen. Er darf den Text aber nicht ungeprüft versenden.

Ein Administrator darf sich ein PowerShell- oder Bash-Skript erstellen lassen. Er sollte dieses Skript jedoch verstehen, prüfen und – abhängig von der Auswirkung – zunächst in einer Testumgebung ausführen.

Ein Mitarbeiter darf sich bei einer Präsentation unterstützen lassen. Aber erfundene Quellen, falsche Zahlen oder Halluzinationen dürfen nicht ungeprüft in die Präsentation übernommen werden.

Dieser Grundsatz reduziert bereits einen erheblichen Teil der typischen Risiken.

Das Ampelmodell für KI im Unternehmen

Für Mitarbeiter ist eine KI-Richtlinie am verständlichsten, wenn nicht jede Situation juristisch beschrieben wird.

Ein Ampelmodell funktioniert in der Praxis wesentlich besser.

Kategorie	Bedeutung	Beispiele
🟢 GRÜN	Nutzung grundsätzlich erlaubt	Brainstorming, allgemeine Texte, Übersetzungen öffentlicher Inhalte, Formulierungshilfe, Zusammenfassung öffentlich zugänglicher Informationen
🟡 GELB	Nur mit freigegebenem KI-System und definierten Regeln	Kundenkommunikation, interne Dokumente, Quellcode, geschäftliche Auswertungen, Vertragsentwürfe, personenbezogene Informationen
🔴 ROT	Ohne ausdrückliche Freigabe verboten	Passwörter, API-Keys, Zugangsdaten, hochsensible Informationen, unkontrollierte Personaldaten, vertrauliche Geschäftsgeheimnisse, autonome kritische Entscheidungen

Dieses Modell sollte Bestandteil jeder KI-Richtlinie im Unternehmen sein. Mitarbeiter müssen im Alltag innerhalb weniger Sekunden beurteilen können, ob ein Einsatz zulässig ist.

Was Mitarbeiter mit KI normalerweise dürfen

Unkritisch ist KI vor allem dann, wenn keine vertraulichen oder personenbezogenen Informationen übertragen werden und die KI lediglich als Werkzeug zur Unterstützung dient.

Typische Beispiele sind Brainstorming, das Strukturieren eigener Gedanken, das Erstellen allgemeiner Formulierungsvorschläge, die Verbesserung von Rechtschreibung und Stil, Übersetzungen nicht vertraulicher Texte, die Entwicklung von Gliederungen, allgemeine Recherchevorbereitung oder die Erklärung öffentlich bekannter Sachverhalte.

Auch technische Fragen sind grundsätzlich möglich. Ein Administrator könnte beispielsweise fragen:

„Erkläre mir den Unterschied zwischen systemctl restart und systemctl reload."

Problematisch würde es erst, wenn komplette vertrauliche Konfigurationsdateien, interne Hostnamen, Passwörter, Zertifikate oder Kundendaten Bestandteil des Prompts werden.

Die entscheidende Frage lautet daher nicht: „Darf ich ChatGPT benutzen?" Sondern: „Welche Informationen gebe ich an welches KI-System weiter?"

Wann Mitarbeiter besonders vorsichtig sein müssen

Viele geschäftliche KI-Anwendungen liegen zwischen eindeutig erlaubt und eindeutig verboten.

Ein gutes Beispiel ist eine Kunden-E-Mail. Die Aufforderung „Schreibe mir eine freundliche Antwort auf einen Kunden, der sich über eine verspätete Lieferung beschwert" ist zunächst unkritisch.

Das vollständige Einfügen einer realen Kundenmail inklusive Name, Anschrift, Kundennummer, Telefonnummer, Bestelldaten und weiterer personenbezogener Informationen ist dagegen ein völlig anderer Verarbeitungsvorgang.

Die Datenschutzkonferenz empfiehlt Unternehmen bei der Nutzung von KI-Systemen ausdrücklich, Datenschutzfragen bereits bei Auswahl, Implementierung und Nutzung eines KI-Systems zu berücksichtigen.

Deshalb sollte eine KI-Richtlinie personenbezogene Informationen nicht einfach pauschal als „erlaubt" oder „verboten" einstufen. Die bessere Regel lautet:

Personenbezogene oder vertrauliche Daten dürfen nur mit ausdrücklich dafür freigegebenen KI-Systemen und entsprechend dem festgelegten Datenschutz- und Berechtigungskonzept verarbeitet werden.

Damit bleibt auch der Einsatz datenschutzkonformer Unternehmenslösungen möglich.

Welche Informationen niemals unkontrolliert in öffentliche KI-Systeme gehören

Eine der wichtigsten Regeln einer KI-Richtlinie betrifft Geheimnisse.

Mitarbeiter sollten keine Informationen in nicht freigegebene KI-Dienste übertragen, deren Veröffentlichung oder Verlust dem Unternehmen, seinen Kunden oder anderen Personen schaden könnte.

Dazu gehören insbesondere Zugangsdaten, Passwörter, API-Schlüssel, private Keys, Authentifizierungs-Tokens, unveröffentlichte Finanzinformationen, vertrauliche Kundendaten, interne Sicherheitsinformationen und geschützte Geschäftsgeheimnisse.

Das gilt nicht nur für den eigentlichen Chatverlauf, sondern auch für Funktionen wie ChatGPT Memory: Informationen, die ein Mitarbeiter im Chat teilt, können unter Umständen als dauerhafte Erinnerung gespeichert werden und über einzelne Unterhaltungen hinaus bestehen bleiben. Was ChatGPT Memory sich merkt, wie es sich vom Chatverlauf unterscheidet und wie sich Erinnerungen kontrolliert löschen lassen, erklärt der Artikel ChatGPT Memory richtig nutzen: Was sich ChatGPT merken kann – und was nicht (Zum Artikel).

Besonders gefährlich ist Quellcode, wenn darin Zugangsdaten oder Informationen über interne Systeme enthalten sind. Ein Entwickler kann durchaus KI beim Programmieren verwenden. Aber:

DATABASE_PASSWORD=SuperGeheim123
API_KEY=abc123xyz
INTERNAL_SERVER=10.10.50.12

gehört nicht in einen Prompt eines beliebigen öffentlichen KI-Dienstes. Genau hier sollte die Unternehmensrichtlinie eindeutig sein.

Privater ChatGPT-Account oder Firmenaccount?

Auch diese Frage gehört zwingend in eine moderne KI-Richtlinie.

Mitarbeiter sollten für geschäftliche Aufgaben grundsätzlich die vom Unternehmen bereitgestellten und geprüften KI-Systeme verwenden.

Ein privater Account entzieht sich weitgehend der Unternehmensverwaltung. Die IT kann dort unter Umständen weder zentrale Einstellungen noch Zugriffsrechte, Vertragsgrundlagen, Speicherregeln oder Offboarding zuverlässig verwalten.

Deshalb ist folgende Regel sinnvoll: Geschäftliche Daten dürfen ausschließlich über vom Unternehmen freigegebene KI-Dienste und dafür vorgesehene Benutzerkonten verarbeitet werden.

Damit verhindert man nicht die KI-Nutzung. Man verlagert sie lediglich in einen kontrollierbaren Rahmen.

Darf man interne Dokumente von KI zusammenfassen lassen?

Die Antwort lautet: Es kommt auf das Dokument und das verwendete System an.

Eine öffentliche Bedienungsanleitung ist etwas anderes als eine interne Umsatzplanung. Ein öffentliches Whitepaper unterscheidet sich von einem Arbeitsvertrag. Und ein freigegebenes Enterprise-KI-System mit passenden Datenschutz-, Vertrags- und Sicherheitsmechanismen unterscheidet sich von einem beliebigen kostenlosen Webdienst.

Unternehmen sollten Dokumente daher klassifizieren. Ein bewährtes Schema lautet: Öffentlich → Intern → Vertraulich → Streng vertraulich.

Anschließend wird definiert, welche Schutzklasse mit welchem KI-System verarbeitet werden darf. Diese Regel ist für Mitarbeiter deutlich verständlicher als abstrakte Datenschutzformulierungen.

KI und personenbezogene Daten

„Keine personenbezogenen Daten in KI" klingt zunächst nach einer einfachen Regel. Für viele Unternehmen wäre sie aber kaum praktikabel.

CRM-Systeme, Supportlösungen, Microsoft-365-Funktionen, HR-Anwendungen oder interne KI-Assistenten arbeiten unter Umständen gerade mit solchen Informationen.

Die richtige Frage lautet daher: Ist dieses KI-System für diesen konkreten Verarbeitungsvorgang freigegeben?

Unternehmen sollten dabei unter anderem Zweck, Rechtsgrundlage, Datenminimierung, Zugriffsmöglichkeiten, Auftragsverarbeitung, Übermittlung, Löschung und technische Schutzmaßnahmen prüfen.

Die Datenschutzkonferenz stellt hierfür inzwischen umfangreiche Orientierungshilfen zum datenschutzkonformen KI-Einsatz bereit.

Für Mitarbeiter sollte daraus jedoch eine einfache Regel werden: Personenbezogene Daten nur in KI-Systemen verarbeiten, die das Unternehmen ausdrücklich für diesen Zweck freigegeben hat.

KI darf keine Passwörter und Secrets bekommen

Diese Regel sollte ohne Ausnahme für normale KI-Chats gelten.

Passwörter, Private Keys, Recovery Codes, Session Cookies, Zugangstokens und API-Schlüssel gehören nicht in einen KI-Prompt.

Bei technischen Problemen sollte stattdessen anonymisiert werden. Aus:

ssh admin@server-intern-firma.example
Password: MeinEchtesPasswort

wird beispielsweise:

ssh user@example-server
Password: [REDACTED]

Das gleiche Prinzip gilt für Logs. Logs können E-Mail-Adressen, IP-Adressen, Session-IDs, Tokens, Benutzerkennungen oder andere vertrauliche Informationen enthalten.

Vor einer Übergabe an ein KI-System sollten solche Inhalte bereinigt oder über einen dafür freigegebenen Unternehmensprozess verarbeitet werden.

Darf KI Quellcode sehen?

Ein pauschales Verbot wäre in vielen Entwicklungsabteilungen inzwischen unrealistisch.

Coding-Assistenten und KI-Agenten können Entwickler erheblich unterstützen. Entscheidend sind deshalb die Rahmenbedingungen.

Das Unternehmen muss definieren, welche Repositories verarbeitet werden dürfen, welches KI-System zugelassen ist, ob Geheimnisse enthalten sein können, welche Schreibrechte ein Agent erhält und welche Aktionen menschliche Freigaben benötigen.

Besonders KI-Agenten verändern das Risikoprofil. Ein klassischer Chatbot liefert Text. Ein Agent kann möglicherweise Dateien bearbeiten, Shell-Befehle starten, Git-Repositories verändern, APIs aufrufen oder auf Datenbanken zugreifen.

Damit wird aus einer Datenschutzfrage zusätzlich eine klassische Berechtigungs- und IT-Sicherheitsfrage.

Prompt Injection ist dabei ein relevantes Angriffsszenario: Manipulierte Inhalte können versuchen, das Verhalten eines KI-Agenten zu verändern oder unerwünschte Tool-Aufrufe auszulösen. Dieses Thema wird im KI-Buster-Artikel Prompt Injection erklärt: Wie Angreifer KI-Agenten manipulieren (Zum Artikel) ausführlicher behandelt.

KI-generierte Skripte niemals blind ausführen

Gerade Administratoren profitieren enorm von KI. ChatGPT & Co. können PowerShell, Bash, SQL, Python, Dockerfiles, Kubernetes-Manifeste und Konfigurationsdateien erstellen.

Aber ein überzeugend aussehender Befehl ist nicht automatisch richtig.

Deshalb sollte die KI-Richtlinie für technische Mitarbeiter festlegen: Produktivänderungen benötigen weiterhin denselben Prüf-, Test-, Freigabe- und Rollback-Prozess wie von Menschen geschriebene Änderungen.

KI darf keinen „Sonderweg in Produktion" schaffen. Ein von einer KI erstelltes rm -rf /pfad/* wird schließlich nicht ungefährlicher, nur weil ein Sprachmodell es vorgeschlagen hat.

Für Administratoren und Entwickler sollte deshalb gelten: KI → Prüfung → Test → Review → Freigabe → Produktion. Nicht: KI → Produktion.

Mitarbeiter müssen KI-Ergebnisse kontrollieren

Generative KI kann sehr überzeugend falsche Informationen produzieren. Das betrifft Fakten ebenso wie Quellen, Rechtsauskünfte, Programmbefehle, Konfigurationen, Berechnungen oder vermeintliche Produktfunktionen.

Die Unternehmensrichtlinie sollte deshalb festlegen, wann eine menschliche Prüfung verpflichtend ist.

Besonders relevant ist sie bei externer Kundenkommunikation, Verträgen, Angeboten, technischen Änderungen, öffentlich veröffentlichten Informationen, Personalangelegenheiten und finanziellen Entscheidungen.

Je größer der mögliche Schaden eines Fehlers, desto strenger sollte die Kontrolle sein. Für kritische Vorgänge bietet sich ein Vier-Augen-Prinzip an.

Darf KI Entscheidungen über Mitarbeiter treffen?

Hier wird es besonders sensibel.

Der EU AI Act behandelt bestimmte Systeme aus den Bereichen Beschäftigung, Personalmanagement, Bewerberauswahl und Zugang zu selbstständiger Tätigkeit als Hochrisiko-Anwendungen. Dazu können beispielsweise KI-Systeme zur Sortierung und Bewertung von Bewerbungen gehören. Die entsprechenden Hochrisiko-Regeln für bestimmte Anhang-III-Systeme wurden durch die jüngsten Änderungen zeitlich bis Dezember 2027 verschoben.

Unternehmen sollten deshalb sehr genau unterscheiden zwischen „Hilf mir, eine neutrale Stellenausschreibung zu formulieren" und „Bewerte automatisch alle Bewerber und entscheide, wen wir einstellen". Das sind regulatorisch und organisatorisch völlig unterschiedliche Anwendungen.

Emotionserkennung am Arbeitsplatz ist ein besonders kritischer Bereich

Noch deutlicher ist der AI Act bei KI-basierter Emotionserkennung.

KI-Systeme zur Emotionserkennung am Arbeitsplatz gehören grundsätzlich zu den verbotenen KI-Praktiken, abgesehen von eng begrenzten medizinischen oder sicherheitsbezogenen Ausnahmen. Diese Verbote gelten bereits seit Februar 2025.

Ein Unternehmen sollte also nicht einfach ein KI-System installieren, das anhand von Stimme, Gesicht oder Verhalten angeblich erkennt, ob Mitarbeiter motiviert, gestresst, gelangweilt oder unzufrieden sind.

Hier geht es nicht mehr um eine einfache Produktivitätsfunktion. Es geht um Grundrechte und einen ausdrücklich regulierten Anwendungsbereich.

Betriebsrat bei KI nicht vergessen

Existiert im Unternehmen ein Betriebsrat, kann dessen Beteiligung bei der Einführung von KI-Systemen relevant sein.

Nach § 87 Abs. 1 Nr. 6 Betriebsverfassungsgesetz besteht ein Mitbestimmungsrecht bei der Einführung und Anwendung technischer Einrichtungen, die dazu bestimmt sind, Verhalten oder Leistung der Arbeitnehmer zu überwachen.

Auch der AI Act sieht bei bestimmten Hochrisiko-KI-Systemen am Arbeitsplatz Informationspflichten gegenüber Beschäftigten und Arbeitnehmervertretungen vor.

Deshalb sollte die KI-Richtlinie nicht isoliert von HR, Datenschutz, IT-Sicherheit und Arbeitnehmervertretung entwickelt werden.

AI Act: Mitarbeiter brauchen KI-Kompetenz

Eine häufig übersehene Vorschrift ist Artikel 4 des EU AI Act.

Die Verpflichtung zur Förderung von KI-Kompetenz gilt bereits seit dem 2. Februar 2025. Die aktuelle Regelung verlangt von Anbietern und Betreibern von KI-Systemen Maßnahmen zur Unterstützung der KI-Kompetenz der Personen, die in ihrem Auftrag mit diesen Systemen arbeiten. Dabei sollen unter anderem Kenntnisse, Erfahrung, Ausbildung und der konkrete Einsatzkontext berücksichtigt werden.

Das bedeutet jedoch nicht, dass jeder Mitarbeiter zwingend dasselbe Zertifikat benötigt. Die Europäische Kommission stellt ausdrücklich klar, dass kein bestimmtes einheitliches individuelles Kompetenzniveau vorgeschrieben wird.

Ein Mitarbeiter, der gelegentlich einen Text formulieren lässt, benötigt andere Kenntnisse als ein Administrator, der einen KI-Agenten mit Datenbank-, API- oder Serverzugriff betreibt.

Genau deshalb gehören KI-Richtlinie und KI-Schulung zusammen. Mehr dazu erklärt der KI-Buster-Artikel KI-Kompetenz ist Pflicht – aber wo ist eigentlich das vorgeschriebene Zertifikat? (Zum Artikel)

Muss jedes KI-Ergebnis gekennzeichnet werden?

Nein.

Eine pauschale Regel „Alles, was mit ChatGPT erstellt wurde, muss als KI gekennzeichnet werden" beschreibt den AI Act zu undifferenziert.

Der AI Act enthält konkrete Transparenzpflichten, beispielsweise für bestimmte Deepfakes und bestimmte KI-generierte oder manipulierte Inhalte. Die entsprechenden Transparenzvorschriften sind seit August 2026 ein besonders aktuelles Thema.

Unternehmen sollten deshalb in ihrer Richtlinie definieren, wann KI-Nutzung intern dokumentiert oder extern offengelegt werden muss.

Unabhängig von einer gesetzlichen Kennzeichnungspflicht kann Transparenz außerdem aus redaktionellen, vertraglichen oder unternehmensinternen Gründen sinnvoll sein.

Wer haftet für eine falsche KI-Antwort?

Für Mitarbeiter ist vor allem eine praktische Regel entscheidend: „Die KI hat das gesagt" ist kein Freigabeprozess.

Wenn ein Mitarbeiter verantwortlich dafür ist, eine Rechnung zu prüfen, einen Vertrag freizugeben, ein System zu konfigurieren oder eine Veröffentlichung zu kontrollieren, darf KI die erforderliche fachliche Prüfung nicht einfach ersetzen.

Deshalb sollte eine KI-Richtlinie Verantwortlichkeiten ausdrücklich benennen. Derjenige, der einen KI-Output beruflich verwendet, muss wissen, wann er diesen selbst prüfen darf und wann zusätzlich eine fachliche oder organisatorische Freigabe erforderlich ist.

Urheberrecht: KI-Ausgaben sind nicht automatisch frei verwendbar

Auch bei Bildern, Texten, Musik und Programmcode sollte ein verbreiteter Irrtum vermieden werden: Nur weil eine KI etwas erzeugt hat, bedeutet das nicht automatisch, dass das Ergebnis ohne weitere Prüfung beliebig verwendet werden darf.

Bei geschäftlicher Veröffentlichung müssen mögliche Urheber-, Marken-, Lizenz-, Persönlichkeits- und Nutzungsrechte berücksichtigt werden. Das gilt besonders für Werbematerial, Produktbilder, Softwarecode, Logos, Musik und Inhalte, die erkennbar existierende Personen oder geschützte Werke betreffen.

Eine Unternehmensrichtlinie sollte deshalb festlegen, dass KI-generierte Inhalte vor relevanter externer oder kommerzieller Nutzung fachlich geprüft werden.

Die 10 wichtigsten Regeln einer guten KI-Richtlinie

1. Ausschließlich vom Unternehmen freigegebene KI-Systeme für geschäftliche Aufgaben verwenden.
2. Keine Passwörter, API-Keys, Tokens oder anderen Zugangsdaten in KI-Systeme eingeben.
3. Personenbezogene Daten nur mit ausdrücklich dafür freigegebenen Lösungen verarbeiten.
4. Geschäftsgeheimnisse und vertrauliche Informationen nur entsprechend ihrer Schutzklasse verarbeiten.
5. KI-Ergebnisse vor Verwendung auf Fehler und Halluzinationen prüfen.
6. KI-generierten Code und Skripte vor Produktiveinsatz testen und reviewen.
7. Kritische Entscheidungen niemals allein auf ungeprüfte KI-Ausgaben stützen.
8. Neue KI-Tools vor geschäftlicher Verwendung durch die zuständige Stelle freigeben lassen.
9. Verdächtige KI-Ausgaben, Datenschutzprobleme oder Sicherheitsvorfälle melden.
10. Mitarbeiter regelmäßig passend zu ihrer tatsächlichen KI-Nutzung schulen.

Damit entsteht eine Richtlinie, die Mitarbeiter tatsächlich verstehen und anwenden können.

Muster für eine kurze KI-Richtlinie im Unternehmen

Die folgende Vorlage kann als Ausgangspunkt für eine eigene Unternehmensrichtlinie dienen.

1. Zweck

Künstliche Intelligenz darf eingesetzt werden, um Mitarbeiter bei ihrer täglichen Arbeit zu unterstützen, Prozesse effizienter zu gestalten und die Qualität von Arbeitsergebnissen zu verbessern.

Die Verantwortung für Entscheidungen und veröffentlichte beziehungsweise produktiv eingesetzte Ergebnisse verbleibt beim zuständigen Mitarbeiter beziehungsweise der zuständigen Führungskraft.

2. Zugelassene KI-Systeme

Für geschäftliche Tätigkeiten dürfen ausschließlich vom Unternehmen freigegebene KI-Systeme und Benutzerkonten verwendet werden.

Neue KI-Dienste müssen vor geschäftlicher Nutzung durch die zuständige Stelle geprüft und freigegeben werden.

3. Vertrauliche Informationen

Passwörter, Zugangsdaten, API-Schlüssel, Authentifizierungsinformationen und andere Secrets dürfen nicht in KI-Systeme eingegeben werden.

Vertrauliche Informationen und Geschäftsgeheimnisse dürfen ausschließlich mit dafür ausdrücklich freigegebenen Systemen verarbeitet werden.

4. Personenbezogene Daten

Personenbezogene Daten dürfen nur verarbeitet werden, wenn das verwendete KI-System und der konkrete Anwendungsfall vom Unternehmen dafür freigegeben wurden.

5. Prüfung von Ergebnissen

KI-generierte Informationen müssen vor ihrer geschäftlichen Verwendung hinsichtlich Richtigkeit, Vollständigkeit und Plausibilität überprüft werden.

Für kritische Entscheidungen können zusätzliche Freigabe- oder Vier-Augen-Prozesse vorgeschrieben werden.

6. Software und Administration

KI-generierter Programmcode, Skripte, Datenbankbefehle und Konfigurationsänderungen müssen vor produktiver Verwendung denselben Test-, Review- und Freigabeprozess durchlaufen wie manuell erstellte Änderungen.

7. Automatisierte Entscheidungen

KI-Systeme dürfen ohne gesonderte Prüfung und Freigabe keine autonomen Entscheidungen über Bewerber, Mitarbeiter, Kunden oder andere Personen treffen, wenn diese Entscheidungen erhebliche Auswirkungen auf die betroffenen Personen haben können.

8. Urheber- und Nutzungsrechte

Vor der externen oder kommerziellen Verwendung KI-generierter Inhalte müssen erforderliche Rechte, Lizenzen und unternehmensinterne Freigaben berücksichtigt werden.

9. Sicherheitsvorfälle

Verdächtige Ausgaben, mögliche Datenabflüsse, Prompt-Injection-Versuche, unbeabsichtigte Offenlegungen vertraulicher Informationen und andere Sicherheitsvorfälle sind unverzüglich über den festgelegten Meldeweg zu melden.

10. KI-Kompetenz

Mitarbeiter, die KI-Systeme beruflich nutzen, erhalten eine ihrer Tätigkeit und den verwendeten Systemen angemessene Einweisung beziehungsweise Schulung.

Wer sollte für die KI-Richtlinie verantwortlich sein?

Nicht jedes Unternehmen benötigt dafür eine neue Vollzeitstelle.

In einem kleinen Unternehmen kann die Verantwortung beispielsweise gemeinsam bei Geschäftsführung, IT und Datenschutz liegen. Größere Organisationen können zusätzlich Informationssicherheit, Compliance, HR, Rechtsabteilung und Arbeitnehmervertretung einbeziehen.

Wichtiger als der Titel der verantwortlichen Person ist eine eindeutig beantwortete Frage: Wer darf ein neues KI-System im Unternehmen freigeben?

Wenn darauf niemand eine Antwort hat, funktioniert auch die beste Richtlinie nicht.

KI-Richtlinie und KI-Verzeichnis kombinieren

Neben der Richtlinie lohnt sich eine einfache Übersicht der tatsächlich eingesetzten KI-Systeme.

Darin können beispielsweise System, Anbieter, verantwortliche Abteilung, Anwendungszweck, Benutzergruppe, zulässige Datenarten und Freigabestatus dokumentiert werden.

Ein solches internes Verzeichnis ist nicht automatisch für jede gewöhnliche KI-Nutzung als universelle gesetzliche Registerpflicht vorgeschrieben. Organisatorisch kann es jedoch erheblich dabei helfen, den Überblick über KI-Nutzung und Shadow AI zu behalten. Auch der bereits veröffentlichte KI-Buster-Ratgeber zum EU AI Act für kleine Unternehmen empfiehlt eine systematische Erfassung und Bewertung eingesetzter KI-Systeme.

Eine KI-Richtlinie darf KI nicht kaputtregulieren

Es gibt zwei Extreme. Das erste lautet: „Macht einfach. Jeder darf jede KI benutzen." Das zweite: „KI ist verboten."

Beides funktioniert langfristig schlecht. Beim ersten Modell verliert das Unternehmen die Kontrolle. Beim zweiten Modell wandert die Nutzung häufig in private Accounts, private Smartphones oder andere nicht kontrollierte Dienste.

Die bessere Strategie lautet: Erlauben, wo das Risiko gering ist. Kontrollieren, wo sensible Informationen verarbeitet werden. Verbieten, wo die Risiken nicht vertretbar sind.

Das ist der Kern einer modernen KI-Governance.

Fazit: Mitarbeiter brauchen klare Regeln statt pauschaler KI-Verbote

Künstliche Intelligenz ist längst im Arbeitsalltag angekommen. Die Frage lautet nicht mehr, ob Mitarbeiter ChatGPT, Copilot, Claude, Gemini oder andere KI-Systeme verwenden werden. Die entscheidende Frage lautet: Unter welchen Bedingungen dürfen sie es tun?

Eine gute KI-Richtlinie fürs Unternehmen schafft dafür einen einfachen Rahmen. Mitarbeiter wissen, welche Systeme sie verwenden dürfen. Sie wissen, welche Informationen nicht in einen Prompt gehören. Sie verstehen, wann Ergebnisse kontrolliert werden müssen. Und sie kennen einen Ansprechpartner, wenn ein neuer Anwendungsfall entsteht.

Unternehmen wiederum reduzieren Shadow AI, Datenschutzrisiken, unkontrollierten Datenabfluss und Fehlentscheidungen – ohne auf die Produktivitätsvorteile moderner KI verzichten zu müssen.

Welche technischen und organisatorischen Maßnahmen eine solche KI-Richtlinie sinnvoll ergänzen, erklären wir ausführlich in Shadow AI verhindern: Technische und organisatorische Maßnahmen für Unternehmen (Zum Artikel). Eine technisch besonders wirksame Ergänzung ist eine selbst betriebene, lokale KI-Plattform: Wie Unternehmen Ollama und Open WebUI dafür datenschutzfreundlich und DSGVO-konform einsetzen, zeigen wir in Lokale KI im Unternehmen: Ollama und Open WebUI datenschutzfreundlich einsetzen (Zum Artikel).

Gerade mit Blick auf den seit Februar 2025 geltenden KI-Kompetenzrahmen und die seit August 2026 weiter fortgeschrittene Anwendung und Durchsetzung des EU AI Act ist eine dokumentierte, verständliche KI-Governance heute wesentlich sinnvoller als ein loses „Seid vorsichtig mit ChatGPT".

Die beste KI-Richtlinie ist deshalb nicht diejenige mit den meisten Verboten. Es ist diejenige, bei der jeder Mitarbeiter nach dem Lesen weiß: Was darf ich, was darf ich nicht – und wen frage ich, wenn ich unsicher bin?

Häufige Fragen zur KI-Richtlinie im Unternehmen

Braucht jedes Unternehmen eine KI-Richtlinie?

Eine eigenständige KI-Richtlinie ist nicht pauschal für jedes Unternehmen als Dokument mit exakt diesem Namen vorgeschrieben. Sobald Mitarbeiter jedoch KI beruflich einsetzen, ist eine klare interne Regelung organisatorisch sehr sinnvoll. Sie hilft unter anderem dabei, freigegebene Systeme, Datenschutz, Verantwortlichkeiten, Sicherheitsregeln und KI-Kompetenz nachvollziehbar zu regeln.

Darf ein Unternehmen ChatGPT verbieten?

Unternehmen können die Nutzung bestimmter Anwendungen innerhalb ihrer betrieblichen IT und für geschäftliche Tätigkeiten regeln. Sinnvoller als ein pauschales KI-Verbot ist in vielen Fällen jedoch eine Liste freigegebener Dienste und klar definierter Anwendungsfälle.

Darf ich Kundendaten in ChatGPT eingeben?

Nicht pauschal. Personenbezogene Kundendaten sollten nur mit einem vom Unternehmen ausdrücklich für diesen Zweck freigegebenen System verarbeitet werden. Datenschutzrechtliche und vertragliche Rahmenbedingungen müssen zuvor geprüft werden.

Darf ich mit KI geschäftliche E-Mails schreiben?

Grundsätzlich kann KI beim Formulieren geschäftlicher Kommunikation unterstützen. Vertrauliche und personenbezogene Informationen dürfen jedoch nur entsprechend den Unternehmensregeln verarbeitet werden. Vor dem Versand sollte der verantwortliche Mitarbeiter den Inhalt prüfen.

Darf ChatGPT Verträge prüfen?

KI kann bei Strukturierung, Zusammenfassung oder einer ersten Analyse unterstützen. Eine KI-Ausgabe sollte jedoch nicht ungeprüft eine qualifizierte rechtliche Prüfung oder Freigabe ersetzen.

Muss ich meine Mitarbeiter im Umgang mit KI schulen?

Artikel 4 des EU AI Act verpflichtet Anbieter und Betreiber von KI-Systemen seit dem 2. Februar 2025 dazu, Maßnahmen zur Unterstützung der KI-Kompetenz der Personen zu treffen, die in ihrem Auftrag mit KI-Systemen arbeiten. Art und Umfang sollten sich am tatsächlichen Einsatz und Risiko orientieren.

Brauche ich für jeden Mitarbeiter ein KI-Zertifikat?

Nein. Die EU-Kommission verlangt kein bestimmtes einheitliches Zertifikat oder identisches Kompetenzniveau für jeden Mitarbeiter. Maßnahmen sollen zum jeweiligen Wissen, zur Erfahrung und zum Nutzungskontext passen.

Darf KI Bewerber automatisch bewerten?

KI-Systeme für Rekrutierung, Bewerberauswahl und bestimmte Personalentscheidungen können unter die Hochrisiko-Kategorien des AI Act fallen. Solche Anwendungen benötigen deshalb eine deutlich sorgfältigere rechtliche und organisatorische Prüfung als ein normaler generativer KI-Assistent.

Darf KI Mitarbeiter anhand ihrer Emotionen überwachen?

KI-basierte Emotionserkennung am Arbeitsplatz gehört grundsätzlich zu den nach dem AI Act verbotenen Anwendungen. Eng begrenzte Ausnahmen bestehen insbesondere für medizinische oder sicherheitsbezogene Zwecke.

Wer sollte eine KI-Richtlinie erstellen?

Idealerweise arbeiten Geschäftsführung, IT, Datenschutz, Informationssicherheit und – abhängig vom Unternehmen – HR, Compliance, Rechtsabteilung und Betriebsrat zusammen.

Quellen und Aktualität

Faktenprüfung: 1. September 2026. Für die rechtlichen und regulatorischen Angaben wurden insbesondere der aktuelle EU AI Act einschließlich der Änderungen durch den Digital Omnibus, Informationen der Europäischen Kommission und des European AI Office, EUR-Lex, die Datenschutzkonferenz sowie das deutsche Betriebsverfassungsgesetz herangezogen.

10 ChatGPT-Prompts für IT-Support und Helpdesk (Zum Artikel)