DSGVO-konforme KI: Was technisch dazugehört
Ob KI datenschutzkonform ist, entscheidet nicht das Modell, sondern wie es gebaut und betrieben wird. Sechs Punkte machen den Unterschied.
KI lässt sich DSGVO-konform einsetzen, wenn sechs Dinge stimmen: Rechtsgrundlage und Vertrag, Verarbeitungsort, kein Training mit Ihren Daten, Zugriffsrechte, Datenminimierung und Protokollierung. Die ersten beiden klärt meist Ihr Datenschutz. Die anderen vier entscheiden sich in der Architektur. Um die geht es hier.
Ist KI überhaupt datenschutzkonform?
KI ist weder grundsätzlich konform noch grundsätzlich verboten. Die DSGVO gilt, sobald personenbezogene Daten verarbeitet werden: im Prompt, in den Dokumenten, die eine KI durchsucht, und in den Protokollen. Entscheidend ist deshalb nicht die Frage „Ist dieses Tool erlaubt?“, sondern „Wie fließen unsere Daten durch dieses System?“.
Die sechs Punkte im Überblick
| Punkt | Was Sie prüfen | Wer zuständig ist |
|---|---|---|
| Rechtsgrundlage und Vertrag | Rechtsgrundlage (Art. 6 DSGVO), Auftragsverarbeitungsvertrag (Art. 28) | Datenschutz, Recht |
| Verarbeitungsort | Wo Eingaben, Antworten, Protokolle und Backups liegen; Übermittlung in Drittländer (Art. 44 ff.) | IT, Datenschutz |
| Training | Ob Ihre Daten zum Training von Modellen genutzt werden | IT, Einkauf |
| Zugriffsrechte | Ob jede Person nur Antworten aus Daten erhält, die sie sehen darf | IT |
| Datenminimierung | Ob personenbezogene Daten vor der Verarbeitung entfernt oder maskiert werden | IT |
| Protokollierung und Löschung | Was gespeichert wird, wie lange, und wer darauf zugreift | IT, Datenschutz |
Wo werden Ihre Daten verarbeitet?
„Hosting in der EU“ reicht als Antwort nicht. Fragen Sie konkret nach:
- Verarbeitung: In welcher Region läuft das Modell, das Ihre Eingaben verarbeitet?
- Speicherung: Wo liegen Protokolle, Zwischenspeicher und Backups?
- Support: Kann Personal außerhalb der EU auf Daten zugreifen, etwa im Störungsfall?
- Unterauftragsverarbeiter: Welche Dienstleister sind beteiligt, und wo sitzen sie?
Eine Verarbeitung außerhalb der EU ist nicht automatisch unzulässig, braucht aber geeignete Garantien. Eine Lösung, die vollständig in EU-Rechenzentren läuft, macht die Prüfung deutlich einfacher.
Werden Ihre Daten zum Training genutzt?
Bei frei verfügbaren KI-Tools für Endkunden können Eingaben je nach Einstellung zur Verbesserung der Modelle verwendet werden. Bei Geschäftsverträgen und über Programmierschnittstellen ist das in der Regel ausgeschlossen. Prüfen Sie beides: den Vertrag und die tatsächlichen Einstellungen.
Bei einem eigenen KI-Assistenten auf Basis von Retrieval Augmented Generation stellt sich die Frage anders: Ihre Dokumente werden nur zum Zeitpunkt einer Frage nachgeschlagen. Das Modell lernt nichts dazu, Ihr Wissen bleibt in Ihren Quellen.
Sieht jede Person nur, was sie sehen darf?
Ein KI-Assistent, der alle Dokumente durchsucht, kann vertrauliche Inhalte an die falsche Person ausgeben, etwa Gehaltsdaten oder Personalakten. Die Lösung: Zugriffsrechte werden schon bei der Suche angewendet, nicht erst in der Oberfläche. Der Assistent findet für jede Person nur die Dokumente, die sie auch im Quellsystem öffnen dürfte.
Wie minimieren Sie personenbezogene Daten?
Was nicht in ein Modell gelangt, muss auch nicht geschützt werden. Bewährt haben sich drei Maßnahmen:
- Nur nötige Felder übergeben. Für eine Zusammenfassung eines Servicefalls braucht die KI meist keine Kontonummer.
- Maskieren oder pseudonymisieren. Namen, E-Mail-Adressen, IBAN und ähnliche Daten werden vor der Verarbeitung ersetzt und erst im Ergebnis wieder eingesetzt, wenn nötig.
- Sensible Kategorien ausschließen. Gesundheitsdaten oder andere besondere Kategorien (Art. 9 DSGVO) gehören nur mit klarer Rechtsgrundlage und zusätzlichen Schutzmaßnahmen in ein KI-System.
Was gehört in die Protokolle und was nicht?
Protokolle sind nötig, um Antworten nachzuvollziehen und Fehler zu finden. Sie sind aber auch eine neue Sammlung personenbezogener Daten. Legen Sie fest:
- welche Inhalte protokolliert werden (wenn möglich pseudonymisiert),
- wie lange Protokolle aufbewahrt werden,
- wer darauf zugreifen darf.
Brauchen Sie eine Datenschutz-Folgenabschätzung?
Eine Datenschutz-Folgenabschätzung (Art. 35 DSGVO) ist nötig, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für Betroffene mit sich bringt, etwa bei der systematischen Bewertung von Personen oder bei umfangreicher Verarbeitung sensibler Daten. Bei vielen internen Assistenten ist das nicht der Fall, bei KI im Personalbereich häufig schon. Klären Sie das früh mit Ihrem Datenschutzbeauftragten. Unabhängig davon gelten für manche Systeme zusätzlich die Pflichten der KI-Verordnung.
Dürfen Mitarbeitende öffentliche KI-Tools nutzen?
Verbote allein helfen selten, wenn die Tools den Alltag erleichtern. Besser ist eine klare Regel, welche Tools für welche Daten erlaubt sind, plus eine freigegebene Alternative für vertrauliche Inhalte. Wie Sie das ohne Bürokratie regeln, lesen Sie im Beitrag zur KI-Governance im Mittelstand.
Häufige Fragen
Reicht ein Auftragsverarbeitungsvertrag aus?
Er ist Pflicht, aber nicht ausreichend. Er regelt die Verantwortung, nicht die Technik. Verarbeitungsort, Training, Zugriffsrechte und Protokolle müssen Sie zusätzlich prüfen.
Ist Hosting in der EU Pflicht?
Nein. Für eine Übermittlung in Drittländer brauchen Sie aber geeignete Garantien. Eine vollständige Verarbeitung in der EU vereinfacht die Prüfung erheblich.
Wer ist verantwortlich: der Anbieter oder wir?
In der Regel Sie als Verantwortlicher. Der Anbieter ist meist Auftragsverarbeiter und handelt nach Ihren Weisungen.
Wie lange dauert eine Datenschutzprüfung für ein KI-Projekt?
Mit klaren Antworten des Anbieters oft nur wenige Abstimmungen. Der Fragenkatalog oben hilft, diese Antworten vollständig zu bekommen.
Dieser Beitrag gibt einen technischen Überblick und ersetzt keine Rechtsberatung.
