Welche KI darf ein Unternehmen einsetzen? Cloud, lokal oder hybrid?

Dürfen Mitarbeiter ChatGPT verwenden? Müssen vertrauliche Unternehmensdaten ausschließlich mit einer lokalen KI verarbeitet werden? Ist eine europäische Cloud automatisch DSGVO-konform? Und braucht ein kleines Unternehmen inzwischen einen eigenen KI-Server?

Die wichtigste Antwort zuerst: Es gibt nicht die eine KI-Betriebsform, die für Unternehmen grundsätzlich erlaubt oder verboten ist.

Entscheidend ist nicht allein, ob eine KI in der Cloud oder im eigenen Serverraum läuft. Relevant sind unter anderem der konkrete Einsatzzweck, die verwendeten Daten, deren Schutzbedarf, die Vertragsbedingungen des Anbieters, mögliche Datenübermittlungen und die Risiken der jeweiligen KI-Anwendung.

Genau deshalb kann eine Cloud-KI für einen bestimmten Anwendungsfall völlig vertretbar sein, während dieselbe Lösung für einen anderen Prozess ungeeignet ist.

Umgekehrt kann ein lokal betriebenes Sprachmodell zwar verhindern, dass Daten das Unternehmen verlassen – eine unsichere Installation, fehlende Zugriffskontrollen oder ein ungeschützter KI-Server können trotzdem ein erhebliches Sicherheitsrisiko darstellen.

Die bessere Frage lautet deshalb nicht „Welche KI dürfen wir benutzen?“, sondern: „Welche KI dürfen wir für welche Daten und welchen Geschäftsprozess einsetzen?“

Cloud, lokal oder hybrid: Was bedeutet das überhaupt?

Bevor Unternehmen eine Entscheidung treffen, müssen drei grundsätzlich unterschiedliche Betriebsmodelle unterschieden werden.

Keine dieser Varianten ist automatisch die richtige. In vielen Unternehmen dürfte sich langfristig sogar ein hybrides KI-Modell durchsetzen.

Ist Cloud-KI im Unternehmen erlaubt?

Grundsätzlich kann ein Unternehmen Cloud-KI einsetzen. Ein pauschales Verbot von Cloud-KI ergibt sich weder daraus, dass ein Dienst außerhalb des eigenen Rechenzentrums betrieben wird, noch daraus, dass generative KI verwendet wird.

Doch Unternehmen müssen wissen, welche Daten sie an den Dienst übertragen und was anschließend mit diesen Daten passiert.

Genau solche Fragen stellt auch das Bundesamt für Sicherheit in der Informationstechnik (BSI) in den Mittelpunkt: Welche Daten werden übertragen? Wohin werden sie übertragen? Können personenbezogene Informationen aus einem KI-System extrahiert werden? Und wie werden sensible Daten geschützt?

Bei externen Cloud-Diensten spielen deshalb unter anderem Informationssicherheit, Transparenz des Dienstleisters und geeignete Nachweise über Sicherheitsmaßnahmen eine wichtige Rolle. Auch das BSI empfiehlt, den Schutzbedarf der verarbeiteten Daten bei der Auswahl von Cloud-Diensten zu berücksichtigen.

Cloud-KI kann beispielsweise gut geeignet sein für Texterstellung mit öffentlichen Informationen, Brainstorming, Übersetzungen nicht vertraulicher Inhalte, allgemeine Recherche, Marketingideen oder Codeunterstützung bei Quellcode, der keine Geschäftsgeheimnisse, Zugangsdaten oder personenbezogenen Informationen enthält.

Problematisch wird es dagegen, wenn Mitarbeiter ungeprüft personenbezogene Daten, Kundeninformationen, Verträge, Personalakten, Geschäftsgeheimnisse oder Zugangsdaten in einen beliebigen öffentlichen KI-Dienst kopieren.

„Wir nutzen die Enterprise-Version“ reicht nicht als Prüfung

Business- und Enterprise-Angebote vieler KI-Anbieter können wesentlich mehr Kontrollmöglichkeiten bieten als kostenlose öffentliche Accounts. Das Unternehmen sollte sich trotzdem nicht ausschließlich auf den Produktnamen verlassen.

Wichtig ist, vertraglich und technisch zu klären, was mit den eingegebenen Informationen geschieht. Unter anderem sollte geklärt werden: Werden Eingaben oder hochgeladene Dateien zum Training von Modellen verwendet? Wo werden Daten verarbeitet und gespeichert? Welche Unterauftragnehmer sind beteiligt? Wie lange werden Prompts, Dateien und Antworten gespeichert? Welche Möglichkeiten zur Löschung bestehen? Welche Zugriffs-, Rollen- und Protokollierungsfunktionen gibt es? Wie werden personenbezogene Daten und internationale Datenübermittlungen behandelt? Gibt es einen geeigneten Vertrag zur Auftragsverarbeitung, wenn eine Auftragsverarbeitung vorliegt? Können Administratoren Funktionen wie Plugins, externe Tools, Datei-Uploads oder Connectoren zentral kontrollieren? Welche Sicherheits- und Compliance-Nachweise stellt der Anbieter zur Verfügung?

Erst danach lässt sich sinnvoll entscheiden, welche Daten mit einem Dienst verarbeitet werden dürfen.

Wann ist eine lokale KI sinnvoll?

Eine lokale KI läuft innerhalb der eigenen Infrastruktur – beispielsweise auf einem Arbeitsplatzrechner, einem leistungsfähigen KI-Server, einem Virtualisierungscluster oder einem dedizierten GPU-System. Typische Plattformen ermöglichen es inzwischen, Sprachmodelle vollständig innerhalb eines Unternehmensnetzes zu betreiben.

Der große Vorteil: Prompts und Unternehmensdaten müssen die eigene Infrastruktur nicht verlassen. Das kann besonders interessant sein, wenn mit sensiblen Informationen gearbeitet wird – etwa interne Dokumentationen, technische Konfigurationen, Sourcecode, Forschungsdaten, Vertragsinformationen, interne Wissensdatenbanken oder geschäftskritisches Know-how.

Lokale KI kann außerdem interessant sein, wenn ein Unternehmen eine interne Wissensplattform mit Retrieval Augmented Generation – kurz RAG – aufbauen möchte. Dabei muss nicht das gesamte Wissen eines Unternehmens direkt in ein Sprachmodell trainiert werden. Stattdessen sucht ein System passende Informationen beispielsweise aus einer internen Dokumentensammlung oder Datenbank und stellt sie dem Sprachmodell gezielt für eine Anfrage zur Verfügung. Wie sich eine solche lokale Plattform mit Ollama und Open WebUI konkret datenschutzfreundlich und DSGVO-konform absichern lässt, zeigt der Artikel Lokale KI im Unternehmen: Ollama und Open WebUI datenschutzfreundlich einsetzen (Zum Artikel).

Lokale KI bedeutet nicht automatisch DSGVO-konforme KI

Das ist einer der häufigsten Irrtümer. Nur weil ein Modell auf einem eigenen Server läuft, verschwinden Datenschutz- und Sicherheitsanforderungen nicht. Verarbeitet eine lokale KI personenbezogene Daten, gelten weiterhin die entsprechenden datenschutzrechtlichen Anforderungen.

Die deutsche Datenschutzkonferenz weist ausdrücklich darauf hin, dass Unternehmen bei Auswahl, Implementierung und Nutzung von KI-Anwendungen datenschutzrechtliche Kriterien berücksichtigen müssen.

Auch ein lokaler KI-Server benötigt daher unter anderem ein vernünftiges Berechtigungskonzept, sichere Authentifizierung, Updates, Netzwerksegmentierung, Protokollierung und Schutz gegen unberechtigten Zugriff. Denn ein schlecht abgesicherter lokaler KI-Server kann ein attraktives Angriffsziel werden. Das BSI weist generell darauf hin, dass Schwachstellen, Fehlkonfigurationen und mangelhaft abgesicherte Server die Vertraulichkeit und Integrität gespeicherter Daten gefährden können.

On-Premises ist also keine Compliance-Funktion. Es ist lediglich eine Betriebsform.

Der wahrscheinlich sinnvollste Weg: hybride KI

Für viele Unternehmen dürfte eine hybride Architektur die interessanteste Lösung sein. Dabei entscheidet nicht ein einzelnes KI-System über sämtliche Aufgaben. Stattdessen werden unterschiedliche Modelle abhängig vom Schutzbedarf eingesetzt.

Ein Unternehmen könnte beispielsweise eine leistungsfähige Cloud-KI für allgemeine Aufgaben verwenden und gleichzeitig ein lokales Modell für vertrauliche Inhalte betreiben. Das könnte in der Praxis so aussehen:

Damit entsteht eine Art KI-Klassifizierung ähnlich einer klassischen Datenklassifizierung. Nicht jeder Prompt benötigt dieselbe Sicherheitsstufe.

Ein praktisches Vier-Stufen-Modell für Unternehmensdaten

Unternehmen können ihre KI-Nutzung erheblich vereinfachen, wenn sie Informationen in Schutzklassen einteilen.

Stufe 1: Öffentlich. Beispiele sind Website-Texte, veröffentlichte Pressemitteilungen, öffentlich zugängliche Produktinformationen oder allgemeines Wissen. Hier kann eine freigegebene Cloud-KI häufig problemlos eingesetzt werden, sofern keine anderen Einschränkungen bestehen.

Stufe 2: Intern. Beispiele sind interne Arbeitsanweisungen, einfache Dokumentationen oder organisatorische Informationen. Hier sollte bereits eine kontrollierte Unternehmenslösung eingesetzt werden.

Stufe 3: Vertraulich. Dazu können Sourcecode, interne Kalkulationen, Verträge, nicht veröffentlichte Produktinformationen oder detaillierte Systemkonfigurationen gehören. Für solche Informationen kann eine lokale oder besonders abgesicherte hybride Lösung sinnvoll sein.

Stufe 4: Besonders schützenswert. Hierzu können beispielsweise bestimmte personenbezogene oder besonders sensible Daten gehören. Solche Anwendungsfälle sollten nicht einfach durch einen Mitarbeiter eigenständig freigegeben werden. Datenschutz, Informationssicherheit und gegebenenfalls weitere zuständige Stellen sollten vorher eingebunden werden.

Damit wird aus „Dürfen wir KI benutzen?“ eine wesentlich sinnvollere Frage: „Welche Datenklasse darf mit welcher freigegebenen KI verarbeitet werden?“

DSGVO und KI: Der Speicherort allein entscheidet nicht

Beim Einsatz von KI mit personenbezogenen Daten spielt die DSGVO weiterhin eine zentrale Rolle.

Der Europäische Datenschutzausschuss hat Ende 2024 ausdrücklich klargestellt, dass bei Entwicklung und Nutzung von KI-Modellen Fragen wie Rechtsgrundlage, Anonymisierung und die Verarbeitung personenbezogener Daten konkret bewertet werden müssen. Ob ein KI-Modell als anonym gelten kann, muss beispielsweise anhand des konkreten Falls beurteilt werden.

Das bedeutet: „Server steht in Europa“ ist noch keine vollständige Datenschutzprüfung. Relevant ist die gesamte Verarbeitungskette. Unternehmen sollten verstehen, wer Daten verarbeitet, für welchen Zweck dies geschieht, ob Unterauftragnehmer beteiligt sind und ob Daten für zusätzliche Zwecke genutzt werden.

Besonders kritisch ist deshalb eine Situation, in der Mitarbeiter ohne Freigabe eigene KI-Accounts verwenden. Damit entsteht schnell Shadow AI: Unternehmensdaten gelangen in Systeme, die weder die IT noch Datenschutz oder Geschäftsführung kontrollieren. Welche technischen und organisatorischen Maßnahmen dagegen wirklich helfen, zeigt der Artikel Shadow AI verhindern: Technische und organisatorische Maßnahmen für Unternehmen (Zum Artikel).

Der EU AI Act entscheidet nicht zwischen Cloud und lokal

Auch beim EU AI Act gibt es einen wichtigen Punkt: Der AI Act bewertet KI vor allem anhand ihrer Funktion und ihres Risikos – nicht danach, ob der Server im Keller oder in der Cloud steht.

Die KI-Verordnung verfolgt einen risikobasierten Ansatz. Je nach konkretem Einsatz ergeben sich unterschiedliche Anforderungen. Damit kann dieselbe technische Grundlage in zwei völlig unterschiedlichen rechtlichen Situationen eingesetzt werden.

Ein Sprachmodell, das einem Mitarbeiter hilft, eine allgemeine E-Mail zu formulieren, ist etwas anderes als ein KI-System, das in einem sensiblen Personal- oder Entscheidungsprozess eingesetzt wird. Der Use Case entscheidet. Nicht das Logo auf dem KI-Tool. Und auch nicht allein das verwendete Sprachmodell.

Seit August 2026 sind weitere AI-Act-Regeln relevant

Für Unternehmen ist besonders wichtig, dass seit dem 2. August 2026 weitere Vorschriften des europäischen AI Acts praktisch relevant geworden sind und die Durchsetzung ausgeweitet wurde. Eine ausführliche Einordnung, was seitdem konkret gilt, liefert der Artikel EU AI Act seit August 2026: Was Unternehmen jetzt wirklich beachten müssen (Zum Artikel).

Unter anderem gelten inzwischen Transparenzpflichten nach Artikel 50 für bestimmte KI-Systeme. Je nach Anwendungsfall müssen Menschen beispielsweise erkennen können, wenn sie mit einem KI-System interagieren. Auch für bestimmte KI-generierte oder manipulierte Inhalte gelten Transparenzanforderungen.

Wichtig ist allerdings, nicht mit veralteten AI-Act-Zeitplänen zu arbeiten. Nach dem aktuellen Stand vom Oktober 2026 gelten für bestimmte High-Risk-Bereiche geänderte Übergangsfristen. Die Europäische Kommission nennt für bestimmte Hochrisiko-Systeme beispielsweise den 2. Dezember 2027, für in regulierte Produkte integrierte Hochrisiko-KI den 2. August 2028. Unternehmen sollten daher bei AI-Act-Projekten immer mit der aktuellen Fassung und dem konkreten Anwendungsfall arbeiten.

KI-Kompetenz betrifft ebenfalls Unternehmen

Ein Punkt wird in vielen KI-Projekten unterschätzt: Nicht nur die Technik muss kontrolliert werden. Auch Mitarbeiter müssen wissen, wie sie KI verantwortungsvoll einsetzen.

Artikel 4 des AI Acts enthält Anforderungen zur Förderung der KI-Kompetenz von Mitarbeitern und anderen Personen, die KI-Systeme im Auftrag eines Unternehmens einsetzen. Diese Verpflichtung gilt grundsätzlich bereits seit dem 2. Februar 2025; die europäischen Vorgaben wurden 2026 nochmals angepasst.

Eine Unternehmens-KI ohne Schulung ist deshalb keine besonders nachhaltige Strategie. Mitarbeiter sollten beispielsweise verstehen, welche Informationen sie eingeben dürfen, welche nicht, warum KI halluzinieren kann, wann Ergebnisse überprüft werden müssen und welche Systeme für welche Aufgaben freigegeben sind.

Warum ein KI-Gateway für Unternehmen interessant wird

Eine weitere Möglichkeit für größere oder technisch gut aufgestellte Unternehmen ist ein zentrales KI-Gateway. Dabei greifen Mitarbeiter nicht unmittelbar auf verschiedene externe KI-Dienste zu. Stattdessen läuft die Kommunikation über eine zentrale Unternehmensplattform.

Das Gateway kann beispielsweise Benutzer authentifizieren, Modelle freigeben, Zugriffe protokollieren, sensible Inhalte filtern und abhängig vom jeweiligen Anwendungsfall unterschiedliche KI-Systeme verwenden. Eine Anfrage könnte beispielsweise automatisch an eine lokale KI geschickt werden, wenn sie vertrauliche Informationen enthält. Eine allgemeine Anfrage könnte dagegen ein leistungsfähigeres Cloud-Modell verwenden.

Damit wird hybride KI nicht nur eine Infrastrukturentscheidung, sondern eine Sicherheitsarchitektur.

Lokal gegen Cloud: Was ist sicherer?

Eine pauschale Antwort wäre unseriös. Eine große professionelle Cloud-Plattform kann hinsichtlich physischer Sicherheit, Redundanz, Monitoring und Patchmanagement erheblich besser abgesichert sein als ein einzelner Server in einem kleinen Unternehmen.

Gleichzeitig bedeutet Cloud-Nutzung, dass zusätzliche Parteien und Infrastrukturkomponenten an der Verarbeitung beteiligt sind. Lokale Systeme reduzieren diese externe Abhängigkeit, erhöhen dafür jedoch die eigene Verantwortung.

Das BSI empfiehlt bei Cloud-Diensten deshalb eine Betrachtung des Schutzbedarfs und der konkreten Sicherheitsanforderungen. Informationssicherheit sollte Teil des Risikomanagements eines Unternehmens sein.

Die Frage sollte deshalb nicht lauten „Was ist sicherer?“, sondern: „Welches Risiko können wir selbst besser kontrollieren?“

Wann Cloud-KI die bessere Wahl sein kann

Cloud-KI hat einen entscheidenden Vorteil: Unternehmen erhalten Zugriff auf leistungsfähige Modelle, ohne selbst GPU-Server, Modelle, Updates und Skalierung verwalten zu müssen.

Gerade kleine und mittlere Unternehmen können dadurch KI einsetzen, ohne zunächst erhebliche Infrastruktur aufzubauen. Wenn die verarbeiteten Informationen einen niedrigen Schutzbedarf haben und ein geeigneter Anbieter sowie passende Vertragsbedingungen ausgewählt wurden, kann dies eine wirtschaftlich sinnvolle Lösung sein.

Wann lokale KI die bessere Wahl sein kann

Lokale KI wird besonders interessant, wenn ein Unternehmen große Mengen vertraulicher interner Informationen analysieren möchte. Das gilt insbesondere dann, wenn Daten möglichst überhaupt nicht an externe KI-Anbieter übertragen werden sollen.

Auch für interne Wissenssysteme, RAG-Architekturen, Loganalysen, Dokumentensuche oder spezielle technische Assistenten kann lokale KI interessant sein. Allerdings benötigt das Unternehmen dann eigene Kompetenz für Hardware, Updates, Backups, Zugriffsschutz, Monitoring und Modellmanagement. Einen ausführlichen praktischen Vergleich zwischen Cloud-KI und einer lokalen Lösung mit Ollama liefert der Artikel Welche lokale KI eignet sich für kleine Unternehmen? Cloud vs. Ollama im Vergleich (Zum Artikel).

Wann Hybrid die bessere Architektur ist

Die hybride Variante bietet sich an, wenn ein Unternehmen weder auf leistungsfähige Cloud-Modelle verzichten noch sensible Informationen unkontrolliert auslagern möchte. Ein gutes hybrides Konzept könnte beispielsweise nach folgendem Prinzip arbeiten: Öffentliche Informationen über Cloud-KI, interne Informationen über eine kontrollierte Unternehmens-KI, vertrauliche Informationen über lokale KI und besonders sensible Prozesse nur nach individueller Prüfung und Freigabe.

Diese Architektur ist wesentlich flexibler als ein pauschales Cloud-Verbot. Und sie verhindert gleichzeitig, dass Mitarbeiter aus Bequemlichkeit auf nicht freigegebene Tools ausweichen.

Die gefährlichste KI ist oft nicht die offiziell eingeführte

Das vielleicht größte Risiko entsteht, wenn ein Unternehmen gar keine Entscheidung trifft. Mitarbeiter werden generative KI trotzdem verwenden. Dann entstehen private Accounts, Browser-Tools, unbekannte Plugins und nicht kontrollierte KI-Dienste.

Aus Sicht der IT ist eine offiziell freigegebene und technisch kontrollierte KI deshalb häufig besser als die Illusion, im Unternehmen werde überhaupt keine KI verwendet.

Eine klare KI-Richtlinie sollte daher festlegen: Welche Systeme sind erlaubt? Welche Daten dürfen verarbeitet werden? Welche Funktionen sind gesperrt? Wer darf neue KI-Dienste freigeben? Wie müssen Ergebnisse kontrolliert werden? Und wer ist Ansprechpartner bei Unsicherheiten? Wie eine solche Richtlinie konkret aussehen kann, zeigt der Artikel KI-Richtlinie fürs Unternehmen: Was Mitarbeiter dürfen und was nicht (Zum Artikel).

Eine sinnvolle KI-Strategie für kleine Unternehmen

Ein kleines Unternehmen benötigt nicht zwangsläufig einen eigenen GPU-Cluster. Ein praktikabler Einstieg kann wesentlich einfacher aussehen.

Zunächst wird eine kontrollierte Cloud-Lösung für allgemeine Aufgaben eingeführt. Parallel definiert das Unternehmen Datenklassen und klare Regeln für Mitarbeiter. Anschließend werden Anwendungsfälle identifiziert, bei denen tatsächlich vertrauliche Daten verarbeitet werden müssen. Erst wenn dafür ein echter Bedarf besteht, kann eine lokale KI oder eine hybride Plattform ergänzt werden.

Damit verhindert man, dass erhebliche Infrastruktur aufgebaut wird, obwohl sie im Alltag kaum benötigt wird.

Beispiel: Ein Unternehmen mit 30 Mitarbeitern

Stellen wir uns ein mittelständisches Unternehmen mit Vertrieb, Buchhaltung, IT und Marketing vor.

Marketing nutzt eine freigegebene Cloud-KI für Social-Media-Ideen und öffentlich verfügbare Produktinformationen. Der Vertrieb verwendet dieselbe Plattform für Formulierungshilfen – darf dort jedoch keine kompletten Kundendaten oder vertraulichen Verträge hochladen. Die IT betreibt zusätzlich ein lokales Sprachmodell, das interne Dokumentationen und Logdateien analysieren kann. Eine interne RAG-Plattform ermöglicht Mitarbeitern die Suche in freigegebenen Unternehmensdokumenten. Besonders sensible Informationen werden nur innerhalb definierter Systeme verarbeitet.

Das Unternehmen besitzt damit nicht eine KI. Es besitzt eine KI-Architektur. Und genau in diese Richtung dürfte sich professionelle Unternehmens-KI entwickeln.

Entscheidungs-Matrix: Cloud, lokal oder hybrid?

Welche KI darf ein Unternehmen also einsetzen?

Die kurze Antwort lautet: Cloud-KI, lokale KI und hybride KI können grundsätzlich Bestandteil einer Unternehmensstrategie sein. Entscheidend ist der konkrete Einsatz.

Eine Cloud-Lösung kann für allgemeine Aufgaben sinnvoll sein. Eine lokale KI kann für vertrauliche Unternehmensinformationen Vorteile bieten. Eine hybride Architektur kann beide Welten verbinden.

Die wichtigste Maßnahme ist daher nicht die Auswahl eines bestimmten Modells. Es ist die Einführung einer KI-Governance. Unternehmen sollten wissen: Wer verwendet welche KI mit welchen Daten für welchen Zweck und unter welchen Regeln?

Wer diese Frage beantworten kann, ist erheblich weiter als ein Unternehmen, das lediglich verkündet: „ChatGPT ist verboten.“

Fazit: Nicht Cloud oder lokal entscheidet – sondern Kontrolle

Die Diskussion um Unternehmens-KI wird häufig auf eine technische Frage reduziert: Cloud oder eigener Server? Dabei ist die eigentliche Herausforderung organisatorischer Natur.

Ein Unternehmen muss Daten klassifizieren, Anwendungen bewerten, Zugriffe kontrollieren, Mitarbeiter schulen und klare Verantwortlichkeiten schaffen.

Cloud-KI kann richtig sein. Lokale KI kann richtig sein. Hybride KI kann richtig sein. Gefährlich wird es vor allem dann, wenn niemand weiß, welche Systeme tatsächlich verwendet werden und welche Informationen dort landen.

Für viele Unternehmen dürfte deshalb eine kontrollierte hybride Strategie besonders interessant sein: leistungsfähige Cloud-Modelle dort, wo sie vertretbar sind, lokale Verarbeitung dort, wo Kontrolle besonders wichtig ist, und klare Regeln darüber, welcher Mitarbeiter welches System für welchen Zweck einsetzen darf.

Die wichtigste Entscheidung lautet 2026 daher nicht mehr „Setzen wir KI ein?“, sondern: „Wie setzen wir KI kontrolliert ein?“

Häufige Fragen zu KI im Unternehmen

Ist ChatGPT im Unternehmen erlaubt?

Der Einsatz eines cloudbasierten KI-Dienstes ist nicht allein deshalb verboten, weil es sich um einen externen Dienst handelt. Unternehmen müssen jedoch unter anderem Einsatzzweck, Datenarten, Vertragsbedingungen, Datenschutz und Informationssicherheit prüfen. Besonders sensible Unternehmens- oder personenbezogene Daten sollten nicht unkontrolliert über private oder nicht freigegebene Accounts verarbeitet werden.

Ist eine lokale KI automatisch DSGVO-konform?

Nein. Auch lokal betriebene Systeme können personenbezogene Daten verarbeiten und unterliegen dann den entsprechenden Datenschutzanforderungen. Zusätzlich muss die eigene Infrastruktur ausreichend abgesichert werden.

Müssen Unternehmen KI lokal betreiben?

Nein. Es gibt keine allgemeine Vorgabe, nach der Unternehmens-KI grundsätzlich auf eigenen Servern betrieben werden muss. Entscheidend sind Daten, Zweck, Risiken und die jeweiligen rechtlichen Anforderungen.

Was ist eine hybride KI?

Bei einer hybriden KI-Architektur werden lokale und cloudbasierte KI-Systeme kombiniert. Sensible Informationen können beispielsweise lokal verarbeitet werden, während allgemeine Aufgaben von leistungsfähigen Cloud-Modellen übernommen werden.

Welche Daten sollten nicht einfach in eine öffentliche KI eingegeben werden?

Dazu können personenbezogene Daten, Zugangsdaten, API-Keys, interne Verträge, Geschäftsgeheimnisse, vertraulicher Sourcecode und andere Informationen mit erhöhtem Schutzbedarf gehören. Entscheidend sind immer die jeweilige Datenklassifikation und die freigegebene Unternehmenslösung.

Gilt der EU AI Act auch für Unternehmen, die KI nur benutzen?

Ja. Der AI Act unterscheidet verschiedene Rollen. Auch Betreiber beziehungsweise „Deployers“ von KI-Systemen können je nach Anwendung Verpflichtungen treffen. Die konkreten Anforderungen hängen vom jeweiligen Einsatz ab.

Was ist für kleine Unternehmen die sinnvollste Lösung?

Häufig ist ein gestufter Einstieg sinnvoll: kontrollierte Cloud-KI für allgemeine Aufgaben, klare KI-Richtlinien und Datenklassen und anschließend lokale oder hybride Systeme für Anwendungsfälle mit höherem Schutzbedarf.

Weitere verständliche Anleitungen rund um KI, Datenschutz und Unternehmens-IT findest du im KI-Buster Blog.

Quellen und weiterführende Informationen

Redaktioneller Stand: 17. Oktober 2026. Grundlage für die rechtlichen und sicherheitstechnischen Aussagen dieses Artikels sind insbesondere Veröffentlichungen der Europäischen Kommission zum AI Act und dessen aktueller Anwendung im Jahr 2026, die Orientierungshilfe der deutschen Datenschutzkonferenz zu KI und Datenschutz, die Stellungnahme des Europäischen Datenschutzausschusses zur Verarbeitung personenbezogener Daten im Zusammenhang mit KI-Modellen sowie Empfehlungen des Bundesamtes für Sicherheit in der Informationstechnik zur Absicherung von KI- und Cloud-Systemen. Dieser Artikel bietet eine allgemeine technische und organisatorische Einordnung und ersetzt keine individuelle Rechts- oder Datenschutzberatung.

Ein konkretes Anwendungsbeispiel für diese Entscheidung findest du unter RAG für kleine Unternehmen: Eigene Dokumente mit KI durchsuchen (Zum Artikel)