%20(2).png)
- Die erste Frage ist nie das Modell, sondern: Welche Daten gehen überhaupt hinein – und sind personenbezogene darunter?
- Viele Anwendungsfälle lassen sich entschärfen, indem personenbezogene Felder vor der Verarbeitung entfernt werden.
- Wo verarbeitet wird, ist eine Architekturentscheidung mit Datenschutzfolge – sie lässt sich später nur teuer ändern.
- Wer ein KI-Werkzeug einsetzt, braucht in der Regel einen Auftragsverarbeitungsvertrag mit dem Anbieter und einen Eintrag im Verarbeitungsverzeichnis.
- Protokolle sind der am häufigsten übersehene Punkt: Sie enthalten oft genau die Daten, die man aus dem System heraushalten wollte.
Dieser Beitrag beschreibt, welche Fragen in der Praxis auftauchen. Er ist keine Rechtsberatung – die Bewertung im Einzelfall gehört zu Ihrem Datenschutzbeauftragten oder Ihrer Rechtsberatung.
Die erste Frage: Welche Daten gehen hinein?
Jede Datenschutzprüfung eines KI-Projekts beginnt bei den Eingabedaten, nicht beim Modell. Solange nicht klar ist, welche Felder, Dokumente und Inhalte verarbeitet werden, lässt sich nichts bewerten. Praktisch heißt das: eine Liste der Datenquellen, und je Quelle die Angabe, ob personenbezogene Daten enthalten sind, ob besonders schützenswerte Kategorien dabei sind und woher die Daten ursprünglich stammen.
Oft stellt sich dabei heraus, dass der Personenbezug für den Anwendungsfall überhaupt nicht gebraucht wird. Ein Agent, der Lieferscheine auswertet, braucht den Namen des Sachbearbeiters nicht. Ein Klassifizierer für Serviceanfragen braucht die Kundennummer, nicht die vollständige Adresse. Jedes Feld, das vorher entfernt oder ersetzt wird, verkleinert die Frage – und das ist der wirksamste Hebel überhaupt.
Die zweite Frage: Wo wird verarbeitet?
Der Verarbeitungsort entscheidet darüber, welche Prüfungen nötig sind – und er ist eine Architekturentscheidung, die sich später nur mit Aufwand ändern lässt. Deshalb gehört sie an den Anfang und nicht in die Abnahme.
| Variante | Was zu klären ist | Typisch geeignet für |
|---|---|---|
| Anbieter-API in der EU | Auftragsverarbeitung, Standort, Speicherdauer, Trainingsnutzung | die meisten internen Anwendungsfälle |
| Anbieter-API außerhalb der EU | zusätzlich Grundlage für den Drittlandtransfer | wenn fachlich kein EU-Angebot passt |
| Modell im eigenen Rechenzentrum | Betrieb, Aktualisierung, Zugriffskonzept, Kosten | sehr sensible Daten, hohe Volumina |
| Hybrid: Vorverarbeitung intern | Qualität der Anonymisierung, Nachvollziehbarkeit | Standardfall, wenn nur Teile sensibel sind |
Die dritte Frage: Wer ist wofür verantwortlich?
Wenn ein externes KI-Werkzeug im Auftrag des Unternehmens Daten verarbeitet, ist das in der Regel Auftragsverarbeitung – mit entsprechendem Vertrag, einer Prüfung der technischen und organisatorischen Maßnahmen beim Anbieter und einem Eintrag im Verzeichnis der Verarbeitungstätigkeiten. Diese drei Dinge sind Routine, aber sie brauchen Zeit, und sie sind der häufigste Grund, warum ein technisch fertiges Projekt nicht live geht.
Deshalb lohnt es, sie parallel zur Entwicklung zu erledigen statt danach. Konkret: Anbieterunterlagen früh anfordern, die Fragen des Datenschutzbeauftragten vor dem Prototyp einsammeln und die Verzeichniseinträge vorbereiten, während noch getestet wird.
Der blinde Fleck: Protokolle und Zwischenspeicher
Ein Punkt, der in fast jedem Projekt zuerst übersehen wird: Logs. Anwendungsprotokolle, Fehlermeldungen mit vollständigem Request, Monitoring-Daten und Entwickler-Debugausgaben enthalten häufig genau die Inhalte, die man sorgfältig aus dem Modellaufruf herausgehalten hat. Dazu kommen Zwischenspeicher: Vektordatenbanken, Caches und Exportdateien, die niemand im Datenfluss eingezeichnet hat.
Praktisch bedeutet das: Protokollinhalte bewusst festlegen, Aufbewahrungsfristen setzen, personenbezogene Felder in Logs maskieren und den Zugriff auf Protokolle genauso regeln wie den auf die Fachdaten. Das ist unspektakulär und erspart die unangenehmste Art von Befund.
Betroffenenrechte und Löschung
Was passiert, wenn eine Person die Löschung ihrer Daten verlangt? Bei einer klassischen Datenbank ist das gelöst. Bei einem KI-System muss man wissen, wo die Daten außerdem gelandet sind: im Vektorindex, in Protokollen, in Konversationsverläufen, in Exportdateien. Ein Löschkonzept, das diese Orte benennt, ist deutlich einfacher zu erstellen, solange das System noch im Bau ist.
Gleiches gilt für Auskunft und Information: Wenn ein Agent gegenüber Kunden auftritt, gehört in der Regel eine Information dazu, dass hier ein automatisiertes System antwortet, und ein Weg zu einem Menschen. Das ist nebenbei auch der Punkt, der die Akzeptanz am meisten beeinflusst.
Reihenfolge für den Start
- Datenquellen auflisten und je Quelle den Personenbezug feststellen.
- Prüfen, welche Felder für den Zweck entbehrlich sind, und sie vorher entfernen.
- Verarbeitungsort festlegen – vor der Entwicklung, nicht danach.
- Anbieterunterlagen und Auftragsverarbeitung früh anfordern.
- Eintrag im Verarbeitungsverzeichnis vorbereiten.
- Protokollinhalte, Maskierung und Aufbewahrungsfristen definieren.
- Löschkonzept über alle Speicherorte schreiben, inklusive Index und Logs.
- Zugriffsrechte und Rollen festlegen, bevor der erste Produktivnutzer dazukommt.
Häufige Fragen (FAQ)
Darf man überhaupt personenbezogene Daten mit KI verarbeiten?
Grundsätzlich gelten dieselben Regeln wie für jede andere Verarbeitung: Es braucht einen Zweck, eine Rechtsgrundlage und angemessene Maßnahmen. KI ist dabei kein Sonderfall mit eigenem Verbot, aber ein Fall mit besonderem Augenmerk auf Datenminimierung und Transparenz. Die Bewertung im Einzelfall gehört zu Ihrem Datenschutzbeauftragten.
Werden unsere Eingaben zum Training verwendet?
Das hängt vom Anbieter und vom gewählten Vertrag ab und ist eine der Fragen, die man schriftlich klären sollte. Geschäftliche Angebote schließen eine Trainingsnutzung häufig aus, kostenlose Varianten häufig nicht. Maßgeblich ist, was in den Vertragsunterlagen steht – nicht, was auf der Produktseite steht.
Brauchen wir ein eigenes Modell im Haus?
Nur selten aus Datenschutzgründen allein. Für viele Anwendungsfälle reicht ein EU-Angebot mit saubererer Auftragsverarbeitung, kombiniert mit einer Vorverarbeitung, die personenbezogene Felder entfernt. Ein eigener Betrieb lohnt sich eher bei sehr sensiblen Daten, hohen Volumina oder besonderen Auflagen.
Wann sollte der Datenschutzbeauftragte einbezogen werden?
So früh wie möglich – idealerweise bei der Auswahl des Anwendungsfalls. Zu diesem Zeitpunkt sind Änderungen am Datenfluss noch kostenlos. Nach dem Prototyp sind sie teuer, und nach dem Rollout sind sie ein Projekt für sich.
Datenschutz ist bei KI-Projekten kein Hindernis, sondern eine Reihenfolgefrage: Wer Datenarten, Verarbeitungsort und Protokolle vor der Entwicklung klärt, verliert am Ende keine Wochen. Wie wir Anwendungsfälle in dieser Reihenfolge aufsetzen, zeigt die Seite KI-Prozessautomatisierung. Für ein Erstgespräch nutzen Sie den Kontakt.