"Wir nutzen doch nur ChatGPT", der teuerste Irrtum im Mittelstand

Der Denkfehler: "Zugekauft" heißt nicht "unbeteiligt"

Die KI-VO unterscheidet zwischen Anbietern (wer ein KI-System entwickelt oder unter eigenem Namen in Verkehr bringt) und Betreibern (wer ein KI-System in eigener Verantwortung einsetzt). Ein Unternehmen, das ChatGPT, Microsoft Copilot oder Gemini für Texterstellung, Recherche oder Kundenkommunikation nutzt, entwickelt zwar kein eigenes System – ist damit aber automatisch Betreiber im Sinne der Verordnung. Und Betreiber trifft dieselbe KI-Kompetenzpflicht aus Art. 4 KI-VO wie einen Anbieter, der ein eigenes Modell baut.

Interessant ist dabei eine Ebene, die viele gar nicht auf dem Schirm haben: ChatGPT, Gemini und Claude sind selbst sogenannte KI-Modelle mit allgemeinem Verwendungszweck (General Purpose AI, GPAI) und unterliegen seit August 2025 eigenen Transparenz- und Urheberrechtspflichten – die die Anbieter dieser Tools selbst erfüllen müssen. Das entlastet ein Unternehmen, das diese Tools einsetzt, aber in keiner Weise von seiner eigenen Betreiberpflicht nach Art. 4. Es sind zwei getrennte Pflichtenkreise, die parallel laufen.

"Geschlossenes System" ist nicht dasselbe wie "DSGVO-konform"

Ein zweites, eng verwandtes Missverständnis: "Wir nutzen die kostenpflichtige Version, die ist doch sicher." Hier lohnt sich ein genauer Blick, denn nicht jede kostenpflichtige Version ist automatisch datenschutzkonform für den Unternehmenseinsatz.

Der entscheidende Unterschied liegt zwischen privaten/kostenlosen Accounts und echten Geschäftskund:innen-Lösungen:

• Private oder kostenlose Accounts (z. B. die Gratis-Version von ChatGPT) trainieren standardmäßig auf den eingegebenen Daten und liegen vollständig außerhalb der Kontrolle des Unternehmens. Es gibt keinen Auftragsverarbeitungsvertrag (AVV), keine zentrale Verwaltung und keine Nachweisbarkeit darüber, wer wann welche Daten eingegeben hat.

• Business-, Team- oder Enterprise-Varianten bieten in der Regel einen Trainingsausschluss, einen AVV nach Art. 28 DSGVO und zentrale Verwaltungsmöglichkeiten für Administrator:innen – etwa um Chat-Verlauf oder Memory-Funktionen unternehmensweit zu deaktivieren.

Der Unterschied ist also nicht "kostenlos vs. kostenpflichtig", sondern "privater Endnutzer-Vertrag vs. Geschäftskund:innen-Vertrag mit AVV". Sobald personenbezogene Daten – Kundendaten, Bewerberdaten, Mitarbeiterdaten – in ein KI-Tool eingegeben werden, gilt die DSGVO vollständig, unabhängig davon, wie "geschlossen" oder seriös der Anbieter wirkt.

Warum das genau der Punkt ist, an dem Schatten-KI entsteht

Hier schließt sich der Kreis zu einem Thema, das in eigenen Studien immer wieder auftaucht: Schatten-KI. Laut Bitkom nutzt ein erheblicher Teil der Beschäftigten in deutschen Unternehmen private KI-Zugänge für dienstliche Zwecke – oft, weil kein offizielles, freigegebenes Tool zur Verfügung steht. Eine Erhebung des ZEW Mannheim aus dem Frühjahr 2026 zeigt zusätzlich: Nur eine kleine Minderheit der Unternehmen verbietet die KI-Nutzung explizit. Die große Mehrheit lässt sie zu, ohne sie aktiv zu steuern.

Das Ergebnis ist genau die Konstellation, die den eingangs beschriebenen Irrtum so teuer macht: Mitarbeitende nutzen private ChatGPT-Accounts für echte Kundendaten, weil "wir nutzen doch nur ChatGPT" im Kopf mit "das ist unproblematisch" gleichgesetzt wird – während in Wirklichkeit weder ein AVV vorliegt noch überhaupt bekannt ist, welche Daten das Unternehmen verlassen.

Was das konkret für die Art.-4-Pflicht bedeutet

Die Konsequenz für die KI-Kompetenzpflicht ist unmittelbar: Wer als Betreiber zugekaufte KI-Tools einsetzt, muss dafür sorgen, dass die Mitarbeitenden verstehen,

welche Unterschiede zwischen privaten und dienstlichen Accounts bestehen, welche Daten in ein KI-Tool eingegeben werden dürfen und welche nicht, dass KI-Ausgaben fehlerhaft sein können und geprüft werden müssen, und an wen sie sich wenden können, wenn sie unsicher sind.

Das ist inhaltlich nicht komplizierter als die Schulung für ein selbst entwickeltes System – nur wird es im Mittelstand seltener mitgedacht, weil "Tool einkaufen" sich nach weniger Verantwortung anfühlt als "Tool entwickeln". Rechtlich macht die KI-VO diesen Unterschied nicht. Die kurze Version

"Wir nutzen doch nur ChatGPT" ist als Satz meistens korrekt gemeint – und trotzdem der falsche Schluss. Richtig wäre: "Wir nutzen ChatGPT, sind damit Betreiber im Sinne der KI-VO, und müssen unsere Mitarbeitenden entsprechend schulen und eine geeignete, datenschutzkonforme Variante bereitstellen." Der Unterschied zwischen beiden Sätzen ist selten mehr als ein durchdachtes Rollout eines freigegebenen Tools plus eine kurze, praxisnahe Schulung – aber genau dieser Unterschied entscheidet im Zweifel darüber, ob ein Unternehmen im Schadensfall zeigen kann, dass es seine Sorgfaltspflicht erfüllt hat.

Quellen: Bitkom, Presseinformation "Beschäftigte nutzen vermehrt Schatten-KI" (21.10.2025); ZEW Mannheim, Erhebung März/April 2026; Verordnung (EU) 2024/1689 (KI-VO), Art. 3, 4 und Kapitel V (GPAI-Pflichten); datenschutz-generator.de, "KI-Kompetenzpflicht – FAQ und Ratgeber für Arbeitgeber"; jeanhinz.io, "ChatGPT und DSGVO: Datenschutz-Guide für Unternehmen 2026" (Stand Juli 2026).