Das Wichtigste in Kürze
- Die DSGVO gilt, sobald personenbezogene Daten in eine KI eingegeben oder von ihr erzeugt werden.
- Für externe KI-Dienste brauchen Sie in der Regel einen Vertrag zur Auftragsverarbeitung.
- Datenminimierung ist die wirksamste Maßnahme: so wenig personenbezogene Daten wie möglich eingeben.
- Entscheidungen mit rechtlicher Wirkung dürfen nicht allein der KI überlassen werden.
- Die Orientierungshilfe der Datenschutzkonferenz bietet eine gute Prüfliste.
Keine Rechtsberatung: Dieser Beitrag dient der allgemeinen Information und ersetzt keine Prüfung Ihres konkreten Falls. Maßgeblich sind die verlinkten Originalquellen.
Inhalt
- Wann die DSGVO bei KI gilt
- Vor dem Einsatz: Zweck und Rechtsgrundlage
- Datenminimierung: die wirksamste Maßnahme
- Der Vertrag zur Auftragsverarbeitung
- Datenverarbeitung außerhalb der EU
- Datenschutz-Folgenabschätzung prüfen
- Keine Entscheidung allein durch die KI
- Transparenz und Betroffenenrechte
- Sicherheit nicht vergessen
- Checkliste für den Start
Wann die DSGVO bei KI gilt
Die Datenschutz-Grundverordnung gilt immer dann, wenn personenbezogene Daten verarbeitet werden – also Informationen, die sich auf eine bestimmte oder bestimmbare Person beziehen. Bei der Arbeit mit KI passiert das schneller, als viele denken:
- eine E-Mail mit Namen und Anliegen eines Kunden zusammenfassen lassen
- Bewerbungsunterlagen auswerten
- ein Besprechungsprotokoll mit Teilnehmenden erstellen
- Kundenfeedback mit Namen oder Kundennummern analysieren
Auch das, was die KI ausgibt, kann personenbezogen sein. Die Datenschutzkonferenz (DSK), das Gremium der deutschen Datenschutzaufsichtsbehörden, hat dazu im Mai 2024 eine Orientierungshilfe veröffentlicht. Ihre Gliederung – Konzeption, Implementierung, Nutzung – eignet sich gut als Prüfpfad.
Vor dem Einsatz: Zweck und Rechtsgrundlage
Legen Sie zuerst fest, wofür die KI eingesetzt wird. Erst daraus ergibt sich, welche Daten erforderlich sind und welche Rechtsgrundlage nach Artikel 6 DSGVO greift. In Betracht kommen im Unternehmen häufig:
- die Erfüllung eines Vertrags mit der betroffenen Person
- berechtigte Interessen des Unternehmens, nach Abwägung mit den Interessen der Betroffenen
- in Einzelfällen eine Einwilligung
Für besondere Kategorien personenbezogener Daten nach Artikel 9 DSGVO, etwa Gesundheitsdaten, gelten strengere Anforderungen. Solche Daten sollten nur nach gesonderter Prüfung in eine KI gelangen.
Datenminimierung: die wirksamste Maßnahme
Der Grundsatz der Datenminimierung aus Artikel 5 DSGVO ist bei KI besonders praktisch: Was nicht eingegeben wird, kann nicht abfließen. Die DSK empfiehlt, KI möglichst ohne Personenbezug einzusetzen. Im Alltag heißt das:
- Namen, Adressen und Kennungen durch Platzhalter ersetzen, wo sie für die Aufgabe nicht nötig sind
- nur die Textteile eingeben, die die KI tatsächlich braucht
- keine vollständigen Datenexporte oder Kundenlisten hochladen, wenn ein Auszug genügt
Der Vertrag zur Auftragsverarbeitung
Nutzen Sie einen externen KI-Dienst, verarbeitet der Anbieter Daten in Ihrem Auftrag. Dann brauchen Sie in der Regel einen Vertrag zur Auftragsverarbeitung nach Artikel 28 DSGVO. Achten Sie besonders auf diese Punkte:
- Zweckbindung: Der Anbieter darf Ihre Daten nur für Ihren Auftrag verwenden – nicht zum Training eigener Modelle.
- Unterauftragsverarbeiter: Wer verarbeitet die Daten noch, etwa Modell- oder Hosting-Anbieter?
- Speicherort und -dauer: Wo und wie lange werden Eingaben, Dateien und Verläufe gespeichert?
- Löschung: Wie und wann werden Daten nach Vertragsende gelöscht?
- Technische und organisatorische Maßnahmen: Welche Sicherheitsmaßnahmen nach Artikel 32 DSGVO sind beschrieben?
Datenverarbeitung außerhalb der EU
Werden Daten in Länder außerhalb des Europäischen Wirtschaftsraums übermittelt, gelten zusätzlich die Artikel 44 ff. DSGVO. Eine Übermittlung ist dann nur zulässig, wenn ein Angemessenheitsbeschluss der EU-Kommission vorliegt oder geeignete Garantien wie Standardvertragsklauseln vereinbart sind. Prüfen Sie diesen Punkt für den Anbieter selbst und für seine Unterauftragsverarbeiter. Eine Verarbeitung ausschließlich in der EU vereinfacht die Prüfung erheblich.
Datenschutz-Folgenabschätzung prüfen
Bringt eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten von Personen mit sich, ist nach Artikel 35 DSGVO eine Datenschutz-Folgenabschätzung erforderlich. Beim Einsatz neuer Technologien wie KI ist das zumindest zu prüfen – insbesondere bei umfangreicher Verarbeitung, Bewertung von Personen oder sensiblen Daten. Dokumentieren Sie auch, wenn Sie zu dem Ergebnis kommen, dass keine Folgenabschätzung nötig ist.
Keine Entscheidung allein durch die KI
Nach Artikel 22 DSGVO haben Personen grundsätzlich das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt. Die DSK betont deshalb: Die Letztentscheidung muss beim Menschen liegen – und diese Prüfung muss echt sein, nicht nur formal. Das betrifft etwa Bewerbungen, Kreditentscheidungen oder Kündigungen.
Transparenz und Betroffenenrechte
Informieren Sie Betroffene in Ihren Datenschutzhinweisen, wenn ihre Daten mithilfe von KI verarbeitet werden. Auch die Rechte auf Auskunft, Berichtigung und Löschung gelten weiter. Klären Sie vorab, wie Sie diese Rechte erfüllen können, wenn Daten in Gesprächsverläufen oder hochgeladenen Dokumenten gespeichert sind.
Sicherheit nicht vergessen
KI-Anwendungen bringen eigene Sicherheitsrisiken mit. Die OWASP-Liste der wichtigsten Risiken für LLM-Anwendungen nennt unter anderem die Offenlegung sensibler Informationen und sogenannte Prompt-Injection – manipulierte Inhalte, die eine KI zu unerwünschtem Verhalten bringen. Das BSI empfiehlt zudem, Ein- und Ausgaben zu filtern und eine Übersicht aller KI-Anwendungen mit Verantwortlichen zu führen.
Checkliste für den Start
- Zweck und Einsatzfelder schriftlich festlegen
- Rechtsgrundlage je Einsatzfeld bestimmen
- Vertrag zur Auftragsverarbeitung prüfen und abschließen
- Speicherort, Unterauftragsverarbeiter und Drittlandtransfer prüfen
- Training mit Ihren Daten vertraglich ausschließen
- Datenschutz-Folgenabschätzung prüfen und dokumentieren
- Datenschutzhinweise und Verzeichnis der Verarbeitungstätigkeiten ergänzen
- Regeln für Mitarbeitende in einer KI-Richtlinie festhalten
Die Anforderungen des EU AI Act kommen zur DSGVO hinzu und ersetzen sie nicht. Mehr dazu im Beitrag EU AI Act für Unternehmen. Wie wir Datenverarbeitung und Verträge bei Lurus regeln, beschreiben die Seiten Sicherheit und Auftragsverarbeitung.
Häufige Fragen
Ist die Nutzung von KI-Chatbots im Unternehmen DSGVO-konform möglich?
Ja, wenn die Voraussetzungen stimmen: Rechtsgrundlage, Vertrag zur Auftragsverarbeitung, geeignete Sicherheitsmaßnahmen, Transparenz gegenüber Betroffenen und klare Regeln für Mitarbeitende. Ob das im Einzelfall erfüllt ist, sollten Sie mit Ihren Datenschutzbeauftragten prüfen.
Brauche ich für KI eine Datenschutz-Folgenabschätzung?
Eine Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO ist erforderlich, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für Betroffene mit sich bringt. Beim Einsatz neuer Technologien wie KI sollten Sie das immer prüfen und das Ergebnis dokumentieren.
Darf die KI mit unseren Eingaben trainiert werden?
Für Unternehmensdaten sollte das vertraglich ausgeschlossen sein. Wird mit personenbezogenen Daten trainiert, braucht auch das eine eigene Rechtsgrundlage – und Sie verlieren die Kontrolle über die Informationen.
Was ist mit Daten, die die KI selbst erzeugt?
Auch Ausgaben können personenbezogen sein, etwa wenn die KI Aussagen über eine Person trifft. Die DSK weist darauf hin, dass dann ebenfalls die DSGVO gilt – einschließlich der Pflicht, für richtige Daten zu sorgen.
Quellen
- Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung) Amt für Veröffentlichungen der EU (EUR-Lex)
- Orientierungshilfe Künstliche Intelligenz und Datenschutz (Version 1.0, 6. Mai 2024) Datenschutzkonferenz (DSK)
- Kriterienkatalog zur Integration von extern bereitgestellten generativen KI-Modellen Bundesamt für Sicherheit in der Informationstechnik (BSI)
- OWASP Top 10 for LLM Applications 2025 OWASP Foundation
Erstellt von der Lurus Redaktion nach unserem Quellenstandard. Redaktionsrichtlinie