KI Kundenservice DSGVO: Checkliste für Datenschutz und AI Act
KI Kundenservice DSGVO-konform aufsetzen: Checkliste zu AVV, Rechtsgrundlage, Drittland-Transfers, AI-Act-Transparenzpflicht und Löschkonzept.
KI im Kundenservice spart Zeit – aber sie verarbeitet auch viele personenbezogene Daten: Namen, Telefonnummern, E-Mail-Adressen, Bestellnummern und manchmal sehr persönliche Anliegen. Wer einen KI-Telefonassistenten, einen WhatsApp-Bot oder automatische E-Mail-Antworten einführt, sollte den Datenschutz deshalb von Anfang an mitdenken und nicht erst, wenn die erste Auskunftsanfrage kommt.
Diese Checkliste fasst zusammen, worauf es beim Thema KI Kundenservice und DSGVO in der Praxis ankommt – von der Auftragsverarbeitung über Drittlandtransfers bis zur Transparenzpflicht aus dem EU AI Act.
Wichtig: keine Rechtsberatung. Dieser Beitrag gibt einen allgemeinen Überblick und ersetzt keine Rechtsberatung. Für deine konkrete Situation sprich mit deiner oder deinem Datenschutzbeauftragten oder einer spezialisierten Kanzlei.
Die Checkliste auf einen Blick
| Nr. | Prüfpunkt | Kernfrage | Bezug |
|---|---|---|---|
| 1 | Auftragsverarbeitung | Gibt es einen AVV mit dem Anbieter? | Art. 28 DSGVO |
| 2 | Rechtsgrundlage | Auf welcher Grundlage verarbeitest du die Daten? | Art. 6, ggf. Art. 9 DSGVO |
| 3 | Datensparsamkeit | Erhebt die KI nur, was sie wirklich braucht? | Art. 5, Art. 25 DSGVO |
| 4 | Speicherorte & Drittländer | Wo liegen welche Daten, was geht außerhalb der EU? | Art. 44 ff. DSGVO |
| 5 | Transparenz | Erfährt der Kunde, dass er mit einer KI spricht? | Art. 50 AI Act, Art. 13 DSGVO |
| 6 | Aufzeichnungshinweis | Werden Anrufer über Verarbeitung und Aufzeichnung informiert? | Art. 13 DSGVO, § 201 StGB |
| 7 | Löschkonzept | Wann werden Gespräche, Transkripte und Tickets gelöscht? | Art. 5, Art. 17 DSGVO |
1. Auftragsverarbeitungsvertrag (AVV) abschließen
Verarbeitet ein externer Anbieter in deinem Auftrag Kundendaten, ist er in aller Regel Auftragsverarbeiter. Dann brauchst du einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO. Prüfe dabei:
- Liegt ein AVV vor, und hast du ihn wirksam abgeschlossen?
- Sind alle Unterauftragsverarbeiter aufgeführt – also etwa Dienstleister für Telefonie, Sprachverarbeitung, KI-Modelle oder WhatsApp?
- Sind die technischen und organisatorischen Maßnahmen (TOM) beschrieben?
- Ist geregelt, ob der Anbieter deine Daten für eigene Zwecke nutzen darf, zum Beispiel zum Training eigener Modelle?
2. Rechtsgrundlage klären
Jede Verarbeitung personenbezogener Daten braucht eine Rechtsgrundlage nach Art. 6 DSGVO. Im Kundenservice kommen vor allem drei infrage:
- Vertrag oder vorvertragliche Maßnahmen (Art. 6 Abs. 1 lit. b): Der Kunde fragt nach seiner Bestellung, seinem Termin oder einem Angebot.
- Berechtigtes Interesse (Art. 6 Abs. 1 lit. f): eine effiziente Bearbeitung allgemeiner Anfragen – mit dokumentierter Interessenabwägung.
- Einwilligung (Art. 6 Abs. 1 lit. a): etwa für eine dauerhafte Gesprächsaufzeichnung oder für werbliche Nachrichten.
Besonders sorgfältig musst du sein, wenn besondere Kategorien personenbezogener Daten ins Spiel kommen, etwa Gesundheitsdaten in einer Arztpraxis. Dann gelten die strengeren Regeln aus Art. 9 DSGVO, häufig ist eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO angezeigt, und berufliche Schweigepflichten kommen hinzu.
3. Datensparsamkeit umsetzen
Eine KI fragt bereitwillig alles ab, was du ihr aufträgst. Genau deshalb solltest du bewusst festlegen, was sie nicht erfragen soll. Datenschutz durch Technikgestaltung (Art. 25 DSGVO) heißt hier ganz praktisch:
- Nur die Daten erfassen, die für das Anliegen nötig sind. Für einen Rückruf reichen meist Name, Nummer und Thema.
- Keine sensiblen Details abfragen, wenn es nicht nötig ist – etwa vollständige Kontodaten oder ausführliche Krankheitsgeschichten.
- Zugriffsrechte im Team beschränken: Nicht jede Person muss jedes Gespräch sehen.
- Die Wissensbasis prüfen: Keine personenbezogenen Daten in Dokumente packen, aus denen die KI gegenüber Kunden antwortet.
4. Speicherorte und Drittland-Transfers prüfen
Frag deinen Anbieter konkret, wo welche Daten verarbeitet werden. Bei KI im Kundenservice ist das selten ein einziger Ort. Posteingang und Wissensbasis können zum Beispiel in der EU liegen, während Telefonie, Sprachverarbeitung oder Messenger über Dienstleister in Drittländern laufen.
Für Übermittlungen in Drittländer wie die USA braucht es eine Grundlage nach Art. 44 ff. DSGVO. In der Praxis sind das vor allem:
- EU-Standardvertragsklauseln (SCCs), oft ergänzt durch eine Bewertung der Rechtslage im Empfängerland (Transfer Impact Assessment),
- eine Zertifizierung des Empfängers unter dem EU-U.S. Data Privacy Framework, für das ein Angemessenheitsbeschluss der EU-Kommission besteht. Da dessen Bestand rechtlich immer wieder diskutiert wird, setzen viele Unternehmen zusätzlich auf SCCs.
Lass dir die Liste der Unterauftragsverarbeiter mit Standort und Transfergrundlage geben. Und sei skeptisch bei pauschalen Versprechen wie „alles zu 100 % in Deutschland“, wenn gleichzeitig Telefonie- oder Messenger-Dienste großer US-Anbieter beteiligt sind.
5. Transparenz: Die KI muss sich als KI zu erkennen geben
Mit dem EU AI Act gibt es eine klare Transparenzpflicht für KI im Kundenkontakt. Nach Art. 50 Abs. 1 müssen KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so gestaltet sein, dass die Personen erfahren, dass sie mit einer KI interagieren – es sei denn, das ist für eine durchschnittlich informierte Person offensichtlich. Nach dem Zeitplan des AI Act gilt diese Pflicht ab dem 2. August 2026. Behalte trotzdem im Blick, ob laufende Änderungsverfahren auf EU-Ebene einzelne Fristen oder Details verschieben.
Formal richtet sich die Pflicht an den Anbieter des KI-Systems. Als Unternehmen solltest du aber darauf achten, dass dein Setup sie erfüllt, denn gegenüber deinen Kunden trittst du auf. Praktisch heißt das:
- Am Telefon: eine kurze Ansage zu Beginn, dass ein KI-Assistent das Gespräch führt.
- Im Website-Chat und auf WhatsApp: ein klarer Hinweis in der ersten Nachricht oder im Chatfenster.
- Per E-Mail: ein Hinweis in automatisch versendeten Antworten.
Ergänzend verlangt die DSGVO, dass du in deinen Datenschutzhinweisen (Art. 13 DSGVO) über den Einsatz der KI, die beteiligten Dienstleister und mögliche Drittlandtransfers informierst. Trifft die KI ausnahmsweise Entscheidungen mit rechtlicher Wirkung für Kunden, solltest du zusätzlich Art. 22 DSGVO prüfen – im klassischen Kundenservice ist das aber selten der Fall.
6. Aufzeichnungshinweis beim Telefon
Beim KI-Telefonassistenten kommt eine Besonderheit für den Datenschutz hinzu: Das gesprochene Wort ist in Deutschland besonders geschützt. Wer das nichtöffentlich gesprochene Wort eines anderen unbefugt aufnimmt, kann sich nach § 201 StGB strafbar machen. Für einen Assistenten, der Gespräche verarbeitet, transkribiert oder speichert, bedeutet das:
- Zu Beginn klar informieren: dass eine KI das Gespräch führt und ob und wozu es aufgezeichnet oder transkribiert wird.
- Alternativen anbieten: etwa die Weiterleitung an einen Menschen oder einen anderen Kontaktweg.
- Zweck begrenzen: Audio und Transkripte nur für die Bearbeitung des Anliegens nutzen.
- Speicherung klären: Mit deinem Anbieter und deiner Datenschutzberatung besprechen, welche Daten gespeichert werden und ob eine Audioaufzeichnung überhaupt nötig ist.
Eine kurze Ansage könnte so klingen: „Guten Tag, Sie sprechen mit dem KI-Assistenten der Muster GmbH. Zur Bearbeitung Ihres Anliegens wird das Gespräch verarbeitet und protokolliert. Hinweise zum Datenschutz finden Sie auf unserer Website. Wenn Sie lieber mit einem Menschen sprechen möchten, sagen Sie es einfach.“ Mehr zum Einsatz am Telefon liest du im Beitrag zum KI-Telefonassistenten.
7. Löschkonzept festlegen
Daten dürfen nur so lange gespeichert werden, wie es für den Zweck nötig ist (Art. 5 Abs. 1 lit. e DSGVO). Ein Löschkonzept legt fest, was wann gelöscht wird. Diese Fragen helfen dir beim Aufsetzen:
| Datenart | Leitfrage |
|---|---|
| Audioaufnahmen | Braucht es sie überhaupt? Wenn ja, wie lange? |
| Transkripte & Chatverläufe | Wie lange nach Erledigung des Anliegens werden sie noch benötigt? |
| Tickets & Kundenhistorie | Greifen handels- oder steuerrechtliche Aufbewahrungsfristen? |
| Wissensbasis | Ist sie frei von personenbezogenen Daten und aktuell? |
Wichtig ist außerdem, dass du Betroffenenrechte umsetzen kannst: Fragt jemand nach Auskunft oder Löschung (Art. 15 und 17 DSGVO), musst du seine Daten über alle Kanäle hinweg finden und bei Bedarf entfernen können. Ein gemeinsamer Posteingang macht das deutlich einfacher als fünf getrennte Tools.
Was sonst noch auf die Liste gehört
- Verzeichnis von Verarbeitungstätigkeiten (Art. 30 DSGVO) um den KI-Kundenservice ergänzen.
- Datenschutzerklärung aktualisieren: Kanäle, Dienstleister, Drittländer, KI-Einsatz.
- Team schulen: Der AI Act verlangt seit Februar 2025 ein angemessenes Maß an KI-Kompetenz bei Personen, die KI-Systeme einsetzen (Art. 4).
- Regelmäßig prüfen: Anbieter, Unterauftragsverarbeiter und Rechtslage ändern sich. Plane eine jährliche Überprüfung ein.
So geht Zendori mit diesen Punkten um
Transparenz gilt auch für uns als Anbieter: Bei Zendori werden Kerndaten wie Posteingang und Wissensdatenbank in der EU gespeichert. Für Telefonie und Sprachverarbeitung sowie für WhatsApp setzen wir Dienstleister mit Sitz in den USA ein – auf Grundlage von Auftragsverarbeitungsverträgen und EU-Standardvertragsklauseln. Die KI-Agenten geben sich gegenüber deinen Kunden als KI zu erkennen, auf allen Kanälen. Weitere Antworten findest du in unseren häufigen Fragen.
Fazit: Datenschutz ist eine Frage der Vorbereitung
KI im Kundenservice und DSGVO schließen sich nicht aus. Entscheidend ist, dass du die Grundlagen vor dem Start klärst: AVV, Rechtsgrundlage, Datensparsamkeit, Speicherorte, Transparenz, Aufzeichnungshinweis und Löschkonzept. Mit dieser Checkliste hast du die wichtigsten Fragen beisammen – für die verbindliche Bewertung deines Einzelfalls bleibt deine Datenschutzberatung zuständig, denn dieser Beitrag ist keine Rechtsberatung.
Wenn du wissen möchtest, wie das konkret mit Zendori aussieht, buch dir einen Demo-Call. Wir zeigen dir, welche Daten wo verarbeitet werden, wie sich die KI gegenüber deinen Kunden vorstellt und beantworten deine Fragen zu Auftragsverarbeitung und Dienstleistern.
Häufige Fragen
Kann man KI im Kundenservice DSGVO-konform einsetzen?
Ja, wenn die Grundlagen stimmen: ein Vertrag zur Auftragsverarbeitung, eine passende Rechtsgrundlage, sparsame Datenerhebung, geklärte Drittlandtransfers, transparente Hinweise und ein Löschkonzept. Für den Einzelfall solltest du deine Datenschutzberatung einbeziehen.
Muss ein KI-Telefonassistent sagen, dass er eine KI ist?
Nach Art. 50 des EU AI Act müssen KI-Systeme, die direkt mit Menschen interagieren, so gestaltet sein, dass Personen erfahren, dass sie mit einer KI sprechen – es sei denn, das ist offensichtlich. Eine klare Ansage zu Gesprächsbeginn ist der sichere Weg.
Brauche ich einen AVV mit dem KI-Anbieter?
In der Regel ja. Verarbeitet ein Anbieter in deinem Auftrag Kundendaten, ist ein Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO nötig. Achte darauf, dass auch die Unterauftragsverarbeiter, etwa für Telefonie oder Messenger, aufgeführt sind.
Dürfen Kundendaten bei KI-Diensten in die USA übertragen werden?
Das ist möglich, braucht aber eine Grundlage nach Art. 44 ff. DSGVO, zum Beispiel EU-Standardvertragsklauseln oder eine Zertifizierung des Empfängers unter dem EU-U.S. Data Privacy Framework. Lass dir vom Anbieter offenlegen, welche Daten wohin gehen.