KI-Chatbots und DSGVO: sieben Fragen vor dem Einsatz

1. Was soll der Chatbot konkret tun?

Ein Assistent für allgemeine Formulierungsvorschläge ist anders zu bewerten als ein System, das Personalakten auswertet oder Beschwerden anhand einer Kundendatenbank beantwortet. Beginnen Sie mit einem klar begrenzten Anwendungsfall: Nutzerkreis, Zweck, Eingabedaten, angebundene Systeme und vorgesehene Nutzung der Ausgabe. Zweckbindung und Datenminimierung sind dabei zentrale Maßstäbe nach Art. 5 Abs. 1 DSGVO. [1]

Praktische Empfehlung: Halten Sie in einer kurzen Einsatzbeschreibung auch fest, was das Tool ausdrücklich nicht tun darf. Ein Testbetrieb mit echten Kunden- oder Beschäftigtendaten ist bereits Verarbeitung; das Wort „Pilot“ schafft keine Ausnahme.

2. Welche personenbezogenen Daten fließen wirklich?

Betrachten Sie nicht nur die sichtbare Texteingabe. Dateianhänge, Chatverläufe, Protokolldaten, Nutzerkennungen und angebundene Wissensbestände können ebenfalls personenbezogene Informationen enthalten. Auch eine Ausgabe kann sich auf eine identifizierbare Person beziehen. Eine Pseudonymisierung ist nicht schon deshalb Anonymisierung, weil der Klarname durch eine Kennung ersetzt wurde; vgl. Art. 4 Nr. 1 und 5 DSGVO. [1]

Für die Planung hilft ein einfaches Datenflussbild: vom Endgerät über die Anwendung und Schnittstelle bis zu Modellanbieter, Protokollierung und Support. Der Europäische Datenschutzausschuss betont zudem, dass bei KI-Modellen nicht pauschal von Anonymität ausgegangen werden kann; entscheidend ist die Einzelfallbewertung. [2]

3. Welche Rechtsgrundlage trägt welchen Zweck?

Die bloße Verfügbarkeit eines KI-Dienstes rechtfertigt keine Datenübermittlung. Für personenbezogene Daten ist eine passende Rechtsgrundlage zu bestimmen. Bei besonderen Kategorien, etwa Gesundheitsdaten, muss zusätzlich Art. 9 DSGVO beachtet werden. Art. 6 Abs. 1 Buchst. b DSGVO greift nicht schon deshalb, weil ein Vertrag mit dem Softwareanbieter besteht; erforderlich ist der Bezug zur Vertragsdurchführung mit der betroffenen Person. [1]

Bei Art. 6 Abs. 1 Buchst. f DSGVO sind berechtigtes Interesse, Erforderlichkeit und Interessenabwägung nachvollziehbar zu prüfen. Der EDSA hebt diese Prüfung auch im KI-Kontext hervor. Eine pauschale Aussage „KI ist immer ein berechtigtes Interesse“ hilft daher ebenso wenig wie die Annahme, jede Nutzung erfordere zwingend eine Einwilligung. [2]

4. In welcher Rolle handelt der Anbieter?

Handelt ein Anbieter für einen Verarbeitungsschritt weisungsgebunden im Auftrag, ist Art. 28 DSGVO zu beachten. Verfolgt er eigene Zwecke, etwa ein eigenständiges Training mit Kundeneingaben, ist diese Verarbeitung gesondert einzuordnen. Ob Auftragsverarbeitung, eigene oder gemeinsame Verantwortlichkeit vorliegt, bestimmt sich nach den tatsächlichen Entscheidungen über Zwecke und Mittel, nicht allein nach der Vertragsüberschrift. [1] [3]

Praktische Empfehlung: Lassen Sie sich den konkreten Tarif, den Auftragsverarbeitungsvertrag, die Unterauftragnehmerliste und die relevanten Datenschutzeinstellungen zeigen. Aussagen über ein anderes Produkt desselben Anbieters sind kein Nachweis für die eingesetzte Variante.

5. Was geschieht mit Chats, Logs und Trainingsdaten?

Klären Sie getrennt, ob Eingaben für Modelltraining, Qualitätssicherung, Missbrauchserkennung oder Support genutzt werden und welche Speicherfristen gelten. Diese Vorgänge sind nicht identisch. Zweckbindung, Speicherbegrenzung und Transparenz müssen auch dann geprüft werden, wenn das Training ausgeschaltet werden kann. [1]

Ein praxistaugliches Ergebnis benennt deshalb nicht nur „Training aus“, sondern auch die Aufbewahrung von Chatverläufen, Protokollen und Sicherungen sowie die Möglichkeiten zur Löschung. Lassen sich einzelne Daten nicht sinnvoll entfernen, sollte das bereits vor ihrer Eingabe in die Systemauswahl einfließen.

6. Wo können Anbieter und Support auf Daten zugreifen?

Ein europäischer Speicherort beantwortet noch nicht alle Fragen zu internationalen Datenflüssen. Auch Empfänger, Unterauftragnehmer und mögliche Zugriffe aus Drittländern sind zu erfassen. Soweit eine Drittlandübermittlung vorliegt, müssen zusätzlich die Voraussetzungen des Kapitels V DSGVO erfüllt sein. Die Rechtsgrundlage der Verarbeitung und die Absicherung des Transfers sind getrennte Prüfschritte. [1]

Praktische Empfehlung: Dokumentieren Sie die tatsächliche Anbieter- und Zugriffskette statt nur eine beworbene Hostingregion. Welche Übermittlungsgrundlage und gegebenenfalls welche weiteren Garantien passen, hängt vom konkreten Empfänger und Verarbeitungsvorgang ab.

7. Welche Risiken, Rechte und Zuständigkeiten bleiben?

Prüfen Sie, ob die Verarbeitung voraussichtlich ein hohes Risiko für Rechte und Freiheiten natürlicher Personen zur Folge hat. Dann ist vorab eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO erforderlich. Nicht jeder Chatbot löst automatisch eine DSFA aus; entscheidend sind Art, Umfang, Umstände und Zwecke der Verarbeitung. [1]

Ebenso wichtig sind verständliche Informationen nach Art. 13 bzw. 14 DSGVO, die Bearbeitung von Betroffenenrechten und angemessene technische und organisatorische Maßnahmen. Werden ausschließlich automatisierte Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung getroffen, ist Art. 22 DSGVO gesondert zu prüfen. Eine nominelle Freigabe durch Menschen genügt nicht, wenn eine echte Kontrolle praktisch ausbleibt. [1]

Das organisatorische Ergebnis sollte einen verantwortlichen Fachbereich, einen zulässigen Datenumfang, freigegebene Einstellungen, Eskalationswege und einen Anlass für die erneute Prüfung festlegen. Genau hier verbindet sich Privacy & AI Governance mit dem Produktbetrieb. Dieser Beitrag behandelt den datenschutzbezogenen Teil; eine vollständige Einordnung nach der KI-Verordnung ist nicht sein Gegenstand.