Ein DSGVO-konformer Chatbot braucht einen rechtmäßigen Einsatz, nicht nur ein bestimmtes Modell oder einen bestimmten Serverstandort. Lege Zweck und Rechtsgrundlage jeder Verarbeitung personenbezogener Daten fest, erfasse die Datenflüsse, kläre Rollen und Verträge, stelle Informationen und Verfahren für Betroffenenrechte bereit und setze risikogerechte Sicherheitsmaßnahmen um. Die Konformitätsaussage eines Anbieters belegt nicht, dass jede Nutzung durch seine Kunden diese Anforderungen erfüllt.
Du brauchst nicht automatisch eine Einwilligung für jedes Supportgespräch, ausschließlich EU-Hosting oder ein separates Modell für europäische Besucher. Du brauchst jedoch Nachweise, dass die Entscheidungen für deinen konkreten Ablauf den geltenden Regeln entsprechen. Diese Prüfung umfasst auch Modellanbieter, CRM, Analysen, Kanalanbindungen und Betriebsprotokolle.
Die offiziellen Quellen dieses Leitfadens wurden am 4. November 2026 geprüft. Er bietet einen Rahmen zur Bewertung und Umsetzungsbeispiele, zertifiziert aber keinen Einsatz und ersetzt keine Beratung zu dessen konkreten rechtlichen Umständen.
| Entscheidung | Was zu klären ist |
|---|---|
| Zweck und Rechtsgrundlage | Warum werden die einzelnen Kategorien personenbezogener Daten verarbeitet, und welche Grundlage gilt? Einwilligung ist eine mögliche Grundlage. |
| Datenflüsse und Verantwortlichkeiten | Verantwortliche, Auftragsverarbeiter, Empfänger, Verarbeitungsorte und weitere Übermittlungen dokumentieren. |
| Sicherheit | Maßnahmen passend zu Daten, Zugriffswegen und möglichen Schäden auswählen und überprüfen. |
| Betroffenenrechte und Aufbewahrung | Einen nutzbaren Anfrageweg, begründete Aufbewahrungsfristen und ein überprüfbares Löschverfahren vorsehen. |
| Anbieternachweise | Den tatsächlichen Vertrag, Unterauftragsverarbeiter, Einstellungen, Sicherheitsumfang und betriebliche Grenzen prüfen. |
| Pflichten nach dem AI Act | Verwendungszweck, Anbieter- beziehungsweise Betreiberrolle und aktuelle Geltungstermine zusätzlich zur DSGVO prüfen. |
Optionale Beispielprüfungen
- Metadatenschlüssel vorab prüfen. Prüfe, wie angegebene Feldnamen zu Variablenschlüsseln werden, einschließlich doppelter Namen und Fehler bei reservierten Schlüsseln. Werte oder kontospezifische Berechtigungen werden dabei nicht geprüft.
- Testdatensatz validieren. Prüfe einen kleinen bereitgestellten Datensatz auf das unterstützte Format, ohne deinen AI Agent auszuführen.
Diese Prüfungen bewerten keine Rechtskonformität.
Checkliste mit 10 Schritten für Datenschutz und Sicherheit vor dem Start
Weise jedem Punkt eine zuständige Person zu und bewahre Nachweise der Entscheidung oder Prüfung auf:
- Ablauf definieren. Trenne öffentliche Informationen, kontobezogenen Support, Transaktionen, Marketing und Modellverbesserung.
- Personenbezogene Daten erfassen. Berücksichtige Prompts, Antworten, Metadaten, Dateien, abgerufene Datensätze, Protokolle und verbundene Systeme.
- Rechtsgrundlagen wählen. Prüfe jeden Zweck vor der Verarbeitung; richte einen gültigen Einwilligungsprozess ein, wo Einwilligung erforderlich ist.
- Rollen und Verträge klären. Bestimme, wer Zwecke festlegt und wer nach Weisung verarbeitet. Prüfe einschlägige Auftragsverarbeitungsbedingungen und Übermittlungen.
- Datenerhebung minimieren. Entferne unnötige Felder und versende keine vollständigen Kundendatensätze, wenn ein begrenztes Ergebnis genügt.
- Aufbewahrung und Rechte organisieren. Plane Identitätsprüfungen, Auskunft, Berichtigung, Löschung, gegebenenfalls Datenübertragbarkeit und die Umsetzung in nachgelagerten Systemen.
- Risiken bewerten. Kläre, ob eine Datenschutz-Folgenabschätzung (DSFA) erforderlich ist, und schließe sie vor Beginn der betreffenden Verarbeitung ab.
- Zugriffe und Anbindungen absichern. Setze angemessene Verschlüsselung, Authentifizierung, Berechtigungen, Überwachung und Vorfallverfahren um.
- Nutzer informieren. Veröffentliche zutreffende Datenschutzinformationen, liefere erforderliche AI-Hinweise und prüfe die Speicherung durch das Widget gesondert.
- Testen und dauerhafte Zuständigkeit festlegen. Prüfe Fehlerfälle, schule Mitarbeitende und überprüfe die Bewertung, wenn sich Zwecke, Anbieter oder Funktionen ändern.
DSGVO-Grundsätze und ihre Folgen für das Chatbot-Design
Die DSGVO gilt für einschlägige Verarbeitung im Rahmen einer Niederlassung im EWR. Sie kann auch Organisationen außerhalb des EWR erfassen, wenn diese Menschen dort Waren oder Dienstleistungen anbieten oder deren Verhalten dort beobachten. Maßgeblich sind Verarbeitung und räumlicher Bezug, nicht allein die Staatsangehörigkeit. Der EDSA erklärt den räumlichen Anwendungsbereich und die Grundprinzipien.
Namen, Kontaktdaten, Online-Kennungen und zuordenbare Gesprächsinhalte können personenbezogene Daten sein. Auch eine öffentliche FAQ-Oberfläche kann Kennungen oder Freitext mit personenbezogenen Informationen erfassen.
| Anforderung | Konsequenz für die Umsetzung |
|---|---|
| Rechtmäßigkeit, Fairness und Transparenz | Eine Grundlage festlegen und die tatsächliche Verarbeitung verständlich erklären. |
| Zweckbindung | Zulässige Nutzungen bestimmen und weitere Nutzungen wie Marketing oder Training gesondert prüfen. |
| Datenminimierung | Nur erheben, abrufen und offenlegen, was der festgelegte Zweck benötigt. |
| Richtigkeit | Berichtigung unrichtiger personenbezogener Daten ermöglichen und unbelegte Angaben über Menschen nicht als Tatsachen behandeln. |
| Speicherbegrenzung | Begründete Aufbewahrungsfristen oder Kriterien festlegen, durchsetzen und überprüfen. |
| Integrität und Vertraulichkeit | Personenbezogene Daten vor unbefugter Verarbeitung, Verlust und Schäden schützen. |
| Rechenschaftspflicht | Entscheidungen, Zuständigkeiten, Verträge und umgesetzte Maßnahmen nachweisen. |
| Datenschutz durch Technikgestaltung und Voreinstellungen | Erhebung, Nutzung, Aufbewahrung und Zugriff von Anfang an begrenzen. |
| Rechtsgrundlage je Zweck | Einwilligung, vertragliche Erforderlichkeit, berechtigte Interessen oder eine andere einschlägige Grundlage nach Artikel 6 prüfen. |
Für bestimmte Verstöße der höheren Bußgeldstufe beträgt die Obergrenze 20 Millionen Euro oder bei Unternehmen 4% des weltweiten Jahresumsatzes im vorherigen Geschäftsjahr, je nachdem, welcher Betrag höher ist. Die tatsächliche Durchsetzung hängt von den Umständen ab; siehe die Erläuterung des EDSA zu Aufsichtsbefugnissen.
Begriffe in diesem Leitfaden
- Verantwortlicher: die Organisation, die Verarbeitungszwecke und wesentliche Mittel festlegt.
- Auftragsverarbeiter: eine eigenständige Stelle, die personenbezogene Daten im Auftrag des Verantwortlichen verarbeitet. Die Rolle ergibt sich aus der tatsächlichen Tätigkeit, nicht nur aus der Vertragsbezeichnung.
- Pseudonymisierung: eine Verringerung der direkten Zuordenbarkeit, etwa durch Ersetzen eines Namens durch eine Kennung. Dadurch werden Daten nicht automatisch anonym.
- DSFA: eine Bewertung, die erforderlich ist, wenn eine Verarbeitung voraussichtlich hohe Risiken für Rechte und Freiheiten verursacht. Wichtige Faktoren sind Umfang, sensible Daten, schutzbedürftige Personen und erhebliche automatisierte Entscheidungen. AI-Nutzung allein entscheidet die Frage nicht. Beachte die DSFA-Hinweise des EDSA und einschlägige Listen der Aufsichtsbehörden.
DSGVO-Anforderungen in betriebliche Abläufe übersetzen
Beginne beim tatsächlichen Weg einer Besuchernachricht bis zu ihrer endgültigen Löschung. Die folgenden Entwürfe sind beispielhafte Umsetzungsmuster, keine Liste eingebauter Quickchat-AI-Funktionen.
Datenminimierung durch Gestaltung
Definiere für jede Aufgabe ein Schema required_fields. Eine Terminanfrage benötigt vielleicht eine Wunschzeit und einen Kontaktweg; eine Frage zu öffentlichen Öffnungszeiten sollte kein Kundenprofil verlangen.
Die Anleitung zur Lead-Erfassung mit einem Website-Chatbot liefert eine konkrete Konfiguration zum Prüfen: zuerst allgemeine Fragen beantworten und dann Kontaktdaten für eine gewünschte Rückmeldung erfassen. Prüfe Felder und Empfänger anhand deiner eigenen Zwecke, bevor du die Konfiguration für Kunden einsetzt.
Prüfe mehr als das sichtbare Formular. Eine CRM-Abfrage könnte einen vollständigen Datensatz abrufen, obwohl nur der Bestellstatus benötigt wird. Begrenze zurückgegebene Felder und die an das Modell übermittelten Daten. Zugangsdaten und sachfremde Kundeninformationen gehören nicht in Prompts.
Die Maskierung einer Eingabe schützt vor mitlesenden Personen in der Nähe. Sie belegt nicht, dass der zugrunde liegende Wert nie erfasst, protokolliert oder übertragen wurde. Schwärzung kann versehentliche Offenlegung reduzieren; teste aber auch, was sie übersieht, einschließlich Kennungen in normalen Sätzen.
Einwilligung und andere Rechtsgrundlagen
Die Hinweise der Europäischen Kommission zu Rechtsgrundlagen nennen mehrere Möglichkeiten. Für die Vertragserfüllung notwendige Verarbeitung, berechtigte Interessen nach der erforderlichen Prüfung und Einwilligung haben unterschiedliche Voraussetzungen. Wähle die Grundlage vor der Verarbeitung, statt jeder Aufgabe pauschal ein Einwilligungsfeld hinzuzufügen.
Wenn du dich auf Einwilligung stützt, muss der Zweck konkret und die Entscheidung freiwillig, informiert und eindeutig sein. Der Widerruf muss so einfach sein wie die Erteilung. Trenne optionales Marketing vom benötigten Support. Die Bestätigung, eine Datenschutzerklärung gelesen zu haben, ist für sich keine Einwilligung in jede dort beschriebene Nutzung.
Double-Opt-in kann in manchen Fällen den Nachweis unterstützen. Es ist keine allgemeine DSGVO-Pflicht. Die Einwilligungsleitlinien des EDSA unterscheiden gewöhnliche von ausdrücklicher Einwilligung und beschreiben eine zweistufige Prüfung als eine mögliche Methode.
Ist Einwilligung deine Grundlage, dokumentiere Zweck, Informationsversion, bestätigende Handlung, Zeitpunkt und relevante Kennung. Schütze diesen Nachweis und wende eine begründete Aufbewahrungsregel an. Besondere Datenkategorien wie Gesundheitsinformationen benötigen neben einer Grundlage nach Artikel 6 eine einschlägige Voraussetzung nach Artikel 9.
Anfragen zu Auskunft, Löschung und Datenübertragbarkeit bearbeiten
Stelle einen zugänglichen Anfrageweg und eine für den Abschluss verantwortliche Person oder Gruppe bereit. Ein selbst entwickelter Befehl /my_data oder /delete_my_data könnte eine Anfrage eröffnen; keiner der beiden ist jedoch eine verifizierte Standardfunktion von Quickchat AI. Eine Bestätigung im Gespräch beweist nicht, dass eine Anfrage erfüllt wurde.
Ein praktikabler Ablauf prüft die Identität verhältnismäßig, sucht relevante Datensätze, bewertet das Recht und mögliche Ausnahmen, koordiniert Auftragsverarbeiter, führt die Maßnahme aus und dokumentiert die Antwort. Stelle Exporte authentifiziert bereit und verhindere, dass Besucher Daten anderer Personen anfordern können.
Der Verantwortliche muss unverzüglich und normalerweise innerhalb eines Kalendermonats handeln. Eine zulässige Verlängerung um bis zu zwei weitere Monate setzt eine Mitteilung mit Gründen innerhalb des ersten Monats voraus. Löschung hat Voraussetzungen und Ausnahmen, darunter bestimmte gesetzliche Aufbewahrungspflichten. Auskunft und Datenübertragbarkeit sind ebenfalls verschieden: Die Übertragbarkeit nach Artikel 20 gilt unter bestimmten Bedingungen für automatisierte Verarbeitung bereitgestellter Daten auf Grundlage von Einwilligung oder Vertrag. Siehe den Leitfaden des EDSA zu Betroffenenrechten.
Die Löschwege in Quickchat AI haben unterschiedliche Wirkungen. Beim Löschen eines AI Agent werden seine Gespräche unzugänglich, aber nicht gelöscht. Beim Löschen eines Kontos werden Gespräche seiner aktuellen Agents im Hintergrund gelöscht; die Dokumentation nennt Ausnahmen wie Gespräche zuvor gelöschter Agents, Anhänge, Exporte, Suchindizes und externe Datensätze. Wende dich für das passende Löschverfahren an den Support. Das Trennen eines Meta-Kanals beendet die künftige autorisierte Verarbeitung, löscht aber nicht automatisch frühere Gespräche.
Für den übergeordneten Supportablauf gibt es unseren Leitfaden zur Einrichtung eines Kundenservice-Assistenten; er ist vom Verfahren für Betroffenenanfragen zu unterscheiden.
Speicherbegrenzung und geplante Aufbewahrung
Die DSGVO schreibt keine allgemeine Höchstfrist von 30 oder 90 Tagen für Chatprotokolle vor. Definiere die Aufbewahrung nach Zweck und Datenkategorie einschließlich einschlägiger gesetzlicher Pflichten. Unterscheide aktive Gespräche, Exporte, Einwilligungsnachweise, Sicherheitsprotokolle und Sicherungskopien.
Dieser konzeptionelle Pseudocode veranschaulicht Planung und Überprüfung, nicht eine vollständige Löschimplementierung oder eine vorhandene Produkteinstellung:
function scheduleRetention(record, policy) {
return {
recordId: record.id,
purpose: record.purpose,
reviewOrDeleteAt: policy.dateFor(record),
};
}
function processDueRecord(item) {
if (requiresRetentionReview(item)) {
return queueManualReview(item);
}
queueErasureAcrossRecordedSystems(item);
recordVerificationPending(item.recordId);
}
Dokumentiere die zuständige Person, Aufbewahrungskriterien, zulässige Ausnahmen, Löschmethode und Abschlussnachweise. Überwache Fehler, statt anzunehmen, dass ein geplanter Auftrag jedes System erreicht hat.
Sicherungskopien brauchen eine ausdrückliche Regelung. Der Löschbericht des EDSA vom Februar 2026 beschreibt praktische Schwierigkeiten und die Notwendigkeit, Löschungen bei der Wiederherstellung zu berücksichtigen. Er belegt weder, dass sofortige Entfernung aus jeder Sicherung stets die rechtlichen Anforderungen erfüllt, noch dass das Abwarten einer beliebigen regulären Ablaufzeit diese Anforderungen immer erfüllt. Beschreibe tatsächliche Beschränkungen, Löschfristen und Wiederherstellungsverfahren, ohne die Löschung aller Kopien innerhalb eines Monats zu versprechen.
Artikel 22 und eine wirksame menschliche Überprüfung
Artikel 22 betrifft ausschließlich automatisierte Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung. Eine normale FAQ-Antwort ist nicht automatisch eine solche Entscheidung. Kreditwürdigkeit, Zulassung oder Zugang zu wesentlichen Leistungen benötigen eine genauere Prüfung.
Identifiziere diese Entscheidungspunkte vor dem Aufbau des Ablaufs. Wenn die Vorschrift gilt, prüfe die einschlägige Ausnahme und Schutzmaßnahmen. Bei Ausnahmen wegen vertraglicher Erforderlichkeit oder ausdrücklicher Einwilligung gehören dazu die Möglichkeit menschlichen Eingreifens, die Darlegung des eigenen Standpunkts und die Anfechtung der Entscheidung. Für besondere Datenkategorien gelten zusätzliche Beschränkungen.
Die prüfende Person muss Informationen und Befugnisse haben, das Ergebnis neu zu bewerten. Ein Übergabebutton genügt nicht, wenn das Ergebnis faktisch feststeht. Dokumentiere tatsächliche Entscheidungskriterien, Eingaben und Prüfungsergebnisse verhältnismäßig; eine generierte Modellerklärung beweist nicht, wie eine folgenreiche Entscheidung zustande kam.
Sicherheitsmaßnahmen passend zu den Chatbot-Risiken
Artikel 32 verlangt angemessene technische und organisatorische Maßnahmen. Er schreibt keinen universellen Verschlüsselungsalgorithmus und kein bestimmtes Authentifizierungsprodukt vor. Nutze die Sicherheitshinweise des EDSA, um Schutzmaßnahmen mit möglichen Schäden, Verarbeitungskontext und verfügbarer Technik zu verbinden.
Verschlüsselung bei Übertragung und Speicherung
Schütze Netzwerkverbindungen und gespeicherte Datensätze durch geeignete Verschlüsselung und Schlüsselverwaltung. Prüfe die Verbindung zwischen Besucher und Widget, Anbindungen, Verwaltungszugriffe, Datenbanken, Exporte und Sicherungskopien einzeln.
TLS schützt eine Transportverbindung; Verschlüsselung gespeicherter Daten schützt den Datenbestand. Zusammen begründen sie nicht automatisch Ende-zu-Ende-Verschlüsselung, bei der Zwischenstellen den Inhalt nicht lesen können. Ein Dienst, der Nachrichteninhalte verarbeitet, muss sie gegebenenfalls entschlüsseln. Stelle TLS 1.3 oder AES-256 nicht als zwingende DSGVO-Vorgaben oder Konformitätsbeweis dar.
Authentifizierung, Zugriffsrollen und Identitätsanbindung
Verwende starke Authentifizierung für Verwaltungszugriffe, einschließlich MFA, wo angemessen. Für kontobezogene Anfragen ist eine bestehende authentifizierte Kundensitzung meist geeigneter, als in einem öffentlichen Chat eine Kontokennung abzufragen.
Prüfe Autorisierung gesondert: Eine gültige Anmeldung darf keine fremden Kundendaten freigeben. Gewähre Mitarbeitenden Zugriff entsprechend ihrer Aufgaben und entziehe ihn, wenn er nicht mehr benötigt wird. Quickchat AI dokumentiert seine Teamrollen; prüfe, ob diese deine Anforderungen erfüllen.
Bewerte bei Bedarf Enterprise-SSO, leite aber aus gewöhnlicher Google-Anmeldung keine SAML-Unterstützung ab. Biometrische Identifizierung kann zusätzliche Datenschutzpflichten auslösen und ist nicht generell die sicherste Möglichkeit.
API-Sicherheit und begrenzte Integrationsberechtigungen
Nutze eingeschränkte Zugangsdaten und setze Autorisierung in der verbundenen Anwendung durch. Eine Anweisung an das Modell, nur Daten eines bestimmten Kunden abzurufen, bildet keine technische Zugriffsgrenze.
Verwende passende Rate Limits, validiere strukturierte Parameter und Ausgaben und prüfe, was jede Action oder Anbindung lesen und ändern darf. Teste Zugriffe auf fremde Kundendaten und widerrufene Zugangsdaten. Erfasse, welche Dritten personenbezogene Daten erhalten, einschließlich Fehlerberichts- und Analysediensten.
Überwachung, Protokolle und Vorfallreaktion
Protokolliere genügend Informationen zur Untersuchung von Zugriffen und Fehlern, ohne automatisch jedes vollständige Gespräch in jedes Überwachungssystem zu kopieren. Definiere Zugriff, Aufbewahrung und Schwärzung für Betriebsprotokolle gesondert.
Ein Vorfallverfahren sollte Eindämmung, Untersuchung, Wiederherstellung, Dokumentation und Meldeentscheidungen umfassen. Nach der DSGVO meldet ein Verantwortlicher eine meldepflichtige Verletzung des Schutzes personenbezogener Daten unverzüglich und möglichst binnen 72 Stunden nach Bekanntwerden an die zuständige Behörde, es sei denn, dass die Verletzung voraussichtlich nicht zu einem Risiko für die Rechte und Freiheiten von Personen führt. Bei voraussichtlich hohem Risiko kann eine unverzügliche Information betroffener Personen erforderlich sein, vorbehaltlich der Ausnahmen nach Artikel 34. Ein Auftragsverarbeiter informiert seinen Verantwortlichen unverzüglich.
Das sind unterschiedliche Pflichten und Schwellen; die Hinweise der irischen DPC zu Datenschutzverletzungen erklären den Unterschied. Vorgeschlagene Änderungen im GDPR Digital Omnibus rechtfertigen aktuell keine andere Meldefrist.
Checkliste zur Sicherheitsbewertung
| Kontrollbereich | Zu prüfende Nachweise |
|---|---|
| Verschlüsselung bei Transport und Speicherung | Tatsächliche Verbindungen, Speicherumfang, Schlüssel und Ausnahmen. |
| Authentifizierung und Autorisierung | Mitarbeiterzugriffe, Besucheridentität und Trennung von Kundendaten. |
| Integrationsberechtigungen | Benötigte Felder und Aktionen, eingeschränkte Zugangsdaten und Widerruf. |
| Sicherheitstests | Relevanter Testumfang, Befunde, Behebung und erneute Prüfung. |
| Ein- und Ausgabehandhabung | Strukturierte Validierung und sichere Anzeige; gesonderte AI-Angriffstests. |
| Minimale Rechte | Zugriff nur für Personen und Komponenten, die ihn benötigen. |
| Softwarepflege | Zuständigkeit für Abhängigkeiten, Aktualisierungen und Änderungsprüfung. |
| Datenminimierung | Unnötige Felder und Kopien aus dem tatsächlichen Ablauf entfernen. |
| Überwachung | Nützliche Warnmeldungen und geschützte Protokolle mit begründeter Aufbewahrung. |
| Vorfallreaktion | Zuständige Personen, Meldeprüfung und Wiederherstellungsübungen. |
| Aufbewahrung und Sicherungskopien | Löschprüfung, Fehlerbehandlung und Wiederherstellungsverfahren. |
| Mitarbeiterschulung | Rollenspezifische Anweisungen und ein Weg zur Eskalation von Fehlern. |
AI-spezifische Chatbot-Risiken beherrschen
Eine AI-Bewertung muss sowohl die Informationen für das Modell als auch die durch seine Ausgabe möglichen Aktionen erfassen. Allgemeine Maßnahmen zur Softwaresicherheit bleiben notwendig.
Prompt Injection und Angriffstests
Prompt Injection kann über eine Besuchernachricht oder abgerufene Inhalte erfolgen, die das Modell umzulenken versuchen. Ein Dokument könnte es beispielsweise auffordern, private Daten offenzulegen oder eine sachfremde Action aufzurufen.
Trenne vertrauenswürdige Anweisungen von nicht vertrauenswürdigen Inhalten, begrenze Berechtigungen, validiere Aktionsargumente und teste unbefugte Zugriffsversuche. Filter und Anweisungen können helfen, garantieren aber keinen Schutz. Die OWASP-Hinweise zu Prompt Injection stellen ausdrücklich fest, dass RAG und Fine-Tuning die Schwachstelle nicht vollständig beseitigen.
Nutze synthetische oder entsprechend vorbereitete Testdaten. Dokumentiere, ob das System ablehnte, Informationen preisgab, ein Tool aufrief oder eskalierte; ein beruhigender Abschlusssatz allein belegt kein sicheres Verhalten.
Halluzinationen und Antwortprüfung
Ein Modell kann plausible Antworten erzeugen, die durch die verfügbaren Nachweise nicht gedeckt sind. Eine gepflegte Knowledge Base kann Antworten auf Quellen stützen, garantiert aber weder sachliche Richtigkeit noch die Durchsetzung von Berechtigungen.
Teste veraltete Richtlinien, widersprüchliche Quellen, fehlende Datensätze und Anfragen außerhalb des vorgesehenen Umfangs. Schaffe einen Weg, Fehler zu melden und ungelöste Fälle an Menschen zu übergeben. Vergleiche kontobezogene Antworten mit autorisierten Quelldaten, statt auf die Selbsteinschätzung des Modells zu vertrauen. Unsere Erklärung zu AI-Halluzinationen behandelt das zugrunde liegende Verhalten.
Datenabfluss, Training und Schwärzung
Trainingsnutzung, Inferenz, Anwendungszustand und Protokolle sind getrennte Verarbeitungstätigkeiten. Gehe weder davon aus, dass jede Nachricht ein Modell trainiert, noch dass ein Trainingsverzicht bedeutet, es würden keine Daten übertragen oder gespeichert.
Die Legal FAQ von Quickchat AI erklären, dass Kundenmaterial nicht zum LLM-Training verwendet wird und PII-Scrubbing auf Anfrage verfügbar ist. Das verspricht weder die Bereinigung jeder Nachricht noch die Erkennung aller personenbezogenen Daten. Prüfe die gewählte Konfiguration und die Anbieterbedingungen.
Eingabeschwärzung muss vor der Verarbeitung erfolgen, die sie verhindern soll; Ausgabeschwärzung erfolgt nach der Generierung. Auch nach Entfernen eines Namens kann identifizierender Kontext verbleiben. Der EDSA unterscheidet Pseudonymisierung und Anonymisierung, und seine Stellungnahme zu AI-Modellen verlangt eine Einzelfallprüfung der Anonymität.
Nachweise für Erklärungen und Prüfprotokolle
Bewahre verhältnismäßige Nachweise über abgerufene Quellen, Aktionen, relevante Einstellungen und menschliche Prüfungen auf. Eine generierte Erklärung, ein interner Konfidenzwert oder ein Erklärungsverfahren ist kein automatischer Beleg für Rechtskonformität.
In der Quickchat-AI-Inbox kann Why AI said that abgerufene Quellen und Ausführungsnachweise zeigen. Das hilft bei der Untersuchung einer Antwort, ist aber keine vollständige kausale Darstellung der Modellinternas und ersetzt nicht die Prüfung von Erklärungspflichten bei erheblichen Entscheidungen.
Internationale Verarbeitung und Serverstandorte
Erfasse Speicherung, Modellverarbeitung, Supportzugriffe, Anbindungen und weitere Übermittlungen. Die Region einer Datenbank beantwortet nur einen Teil der Standortfrage.
Hosting im EWR und Verarbeitung außerhalb des EWR
Die DSGVO schreibt kein allgemeines reines EU-Hosting vor. Übermittlungen außerhalb des EWR benötigen einen einschlägigen Weg nach Kapitel V sowie die Erfüllung der übrigen DSGVO-Anforderungen. Der Übermittlungsleitfaden des EDSA erklärt Angemessenheit, geeignete Garantien und begrenzte Ausnahmen.
Die Legal FAQ von Quickchat AI beschreiben GCP-Speicherung in Belgien. Die Datenschutzerklärung behandelt gesondert US-Übermittlungen und vertragliche Garantien. Speicherung in Belgien belegt daher keine ausschließlich europäische Verarbeitung. Die FAQ beschreiben außerdem Enterprise-Optionen wie Private Cloud, selbst gehostete LLMs und On-Premises-Betrieb; Architektur, Verfügbarkeit und Zuständigkeiten müssen für den konkreten Einsatz vereinbart werden.
Standardvertragsklauseln und EU-US Data Privacy Framework
Die aktuelle Angemessenheitsliste der Kommission umfasst US-Handelsorganisationen, die am EU-US Data Privacy Framework teilnehmen. Prüfe aktive Teilnahme und den für die Übermittlung geltenden Umfang. Eine US-Adresse allein genügt nicht.
Bei Standardvertragsklauseln oder einem anderen Instrument nach Artikel 46 ist zu prüfen, ob Recht und Praxis des Ziellandes die Garantien beeinträchtigen und ergänzende Maßnahmen nötig sind. Von einer Angemessenheitsentscheidung erfasste Übermittlungen erfordern nicht automatisch dieselbe zusätzliche Übermittlungsprüfung. Keiner der Wege beseitigt Pflichten zu Zweck, Rechtsgrundlage, Sicherheit oder Auftragsverarbeitungsverträgen.
Verwechsle den Status eines Cloud-Anbieters nicht mit dem des Chatbot-Anbieters. Quickchat AI beschreibt in seinen FAQ eine laufende DPF-Angleichung, keine verifizierte Teilnahme.
Anbieterbeispiel: Datenkontrollen der OpenAI API
Laut OpenAIs API-Datendokumentation werden API-Eingaben und -Ausgaben standardmäßig nicht zum Training verwendet, sofern der Kunde nicht zustimmt. Die Dokumentation unterscheidet Protokolle zur Missbrauchsüberwachung und Anwendungszustand. Standardprotokolle zur Missbrauchsüberwachung können bis zu 30 Tage aufbewahrt werden, mit rechtlichen oder sicherheitsbezogenen Ausnahmen.
Zero Data Retention und Modified Abuse Monitoring benötigen eine Genehmigung und unterliegen Einschränkungen je Endpunkt. Prüfe tatsächliches Konto, Endpunkt, Vertrag und Verarbeitungsorte. Die Verlaufseinstellungen im Verbraucherprodukt ChatGPT belegen keine Einstellungen einer API-Integration. Diese allgemeinen Anbieterbedingungen beweisen nicht, dass ein bestimmtes Quickchat-AI-Konto ohne Aufbewahrung arbeitet.
Auftragsverarbeitungsverträge und Anbieterpflichten
Verarbeitet ein Anbieter personenbezogene Daten in deinem Auftrag, verlangt Artikel 28 einen bindenden Vertrag oder einen anderen geeigneten Rechtsakt. Prüfe gesonderte Nutzungen, etwa Verarbeitung für eigene Zwecke des Anbieters, statt für jede Tätigkeit dieselbe Rolle anzunehmen. Die EDSA-Leitlinien zu Verantwortlichen und Auftragsverarbeitern erläutern die Unterscheidung und Vertragsanforderungen.
Erforderliche Vertragsinhalte und zusätzliche AI-Fragen
Prüfe, ob die Vereinbarung Folgendes abdeckt:
- Gegenstand, Dauer, Art und Zweck der Verarbeitung, Datenarten, Kategorien betroffener Personen sowie Rechte und Pflichten des Verantwortlichen.
- Dokumentierte Weisungen einschließlich Übermittlungen, mit den einschlägigen Ausnahmen nach EU- oder mitgliedstaatlichem Recht.
- Vertraulichkeit und angemessene Sicherheitsmaßnahmen nach Artikel 32.
- Vorherige besondere oder allgemeine schriftliche Genehmigung von Unterauftragsverarbeitern, Änderungsmitteilung und Widerspruchsmöglichkeit bei allgemeiner Genehmigung sowie Weitergabe der erforderlichen Pflichten.
- Unterstützung bei Betroffenenrechten, Sicherheit, Datenschutzverletzungen und Folgenabschätzungen.
- Löschung oder Rückgabe nach Wahl des Verantwortlichen nach Ende der Verarbeitungsleistungen sowie Löschung vorhandener Kopien, soweit EU- oder mitgliedstaatliches Recht keine Speicherung verlangt.
- Erforderliche Informationen zum Konformitätsnachweis und Regelungen für Prüfungen und Inspektionen.
Frage gesondert nach Modelltraining, Feedback, Aufbewahrung und weiteren Nutzungen. Die DSGVO verlangt nicht einfach ein allgemeines Verbot jeder denkbaren Trainingsnutzung; jeder Zweck benötigt eine angemessene Bewertung von Rolle, Zweck und rechtlichen Voraussetzungen.
Quickchat AI veröffentlicht einen Auftragsverarbeitungsvertrag. Prüfe die tatsächlich geltenden unterzeichneten Bedingungen und ergänzenden Informationen. Die Verfügbarkeit eines Vertrags belegt allein nicht, dass ein bestimmter Vertrag oder Einsatz alle genannten Anforderungen erfüllt.
Verhandlungspunkte für AI-Anbieter
Verlange konkrete Angaben zu Verarbeitungsorten, Unterauftragsverarbeitern, betrieblicher Aufbewahrung, Kontokontrollen, Kommunikation bei Datenschutzverletzungen und Beendigung. Unterscheide dokumentierte Produkteinstellungen von vertraglichen Einzelzusagen.
Frage, was beim Abschalten einer Funktion, Trennen eines Kanals, Löschen eines Agents oder Vertragsende geschieht. Kläre Exportumfang, Löschbelege, verbleibende gesetzlich erforderliche Daten und Sicherungskopien. Haftung und Service Levels sind auch kaufmännische Fragen; akzeptiere eine allgemeine Sicherheitsaussage nicht als vollständige technische Anlage.
Personalisierung und Datenminimierung
Beginne mit den wenigen Informationen, die zur Beantwortung der aktuellen Frage nötig sind. Dauerhafte Profile brauchen einen eigenen Zweck und eine eigene Bewertung.
Differential Privacy und Verarbeitung auf dem Endgerät
Differential Privacy kann bei geeigneten Statistik- oder Trainingsanwendungen helfen, die Offenlegung von Informationen über Einzelne zu begrenzen. Der Schutz hängt von Umsetzung und Parametern ab; die Erwähnung des Verfahrens belegt weder Anonymisierung noch rechtmäßige Verarbeitung.
Die Verarbeitung einer Präferenz auf dem Gerät des Besuchers kann serverseitige Erhebung verringern. Prüfe, was dennoch das Gerät verlässt, einschließlich Kennungen und Telemetrie. Speicherung oder Zugriff auf dem Endgerät kann ePrivacy-Fragen aufwerfen, auch ohne personenbezogene Informationen.
Segmentbezogene Antworten und individuelle Profile
Eine Antwort anhand einer genannten Produktkategorie anzupassen, kann weniger Daten benötigen als ein langfristiges Verhaltensprofil. Die Zuordnung eines bekannten Kunden zu einem Segment kann trotzdem personenbezogene Daten verarbeiten.
Prüfe tatsächlichen Zweck, Rechtsgrundlage, Information, Aufbewahrung und Zugriffskontrollen. Einwilligung ist nicht allgemein für jede Personalisierung erforderlich, und erhebliche automatisierte Entscheidungen brauchen eine gesonderte Artikel-22-Prüfung. Biete einen nützlichen Basisdienst, wenn optionale Profilbildung abgelehnt wird.
Chatbots in regulierten Branchen
Branchenregeln hängen von Organisation, Tätigkeit und Rechtsordnung ab. Ein AI-Chatbot für eine Kanzlei und ein AI-Chatbot für Finanzdienstleistungen benötigen klare Grenzen zwischen allgemeinen Informationen, Kontozugriff und fachlicher Beratung. Ein Haftungshinweis allein klärt diese Grenzen nicht.
Gesundheitswesen: sensible Daten und einschlägige HIPAA-Pflichten
Gesundheitsdaten benötigen neben einer Grundlage nach Artikel 6 eine einschlägige Voraussetzung für besondere Datenkategorien. Terminbuchung, Verwaltung, Symptomeinschätzung und klinische Entscheidungen bergen unterschiedliche Risiken. Ein AI-Chatbot für eine Zahnarztpraxis sollte einen klinischen Eskalationsweg passend zu seiner vorgesehenen Rolle haben.
In den USA gilt HIPAA für Covered Entities und Business Associates, nicht automatisch für alle Gesundheitsdaten. Eine einschlägige Business-Associate-Beziehung benötigt die erforderliche Vereinbarung. Prüfe Berechtigungen, Schutzmaßnahmen und datensatzspezifische Aufbewahrung mit der verantwortlichen Organisation. Leite HIPAA-Eignung nicht aus einem DSGVO-Auftragsverarbeitungsvertrag, einer Verschlüsselungsaussage oder einer Gesundheits-Landingpage ab.
Finanzwesen: Aufbewahrung und Entscheidungskontrollen
Bestimme vor Festlegung der Aufbewahrung die Regeln für das Unternehmen und den Datensatztyp. Die FINRA-Regel 4511 betrifft beispielsweise Mitgliedsunternehmen und sieht sechs Jahre für FINRA-Unterlagen vor, für die keine andere Frist festgelegt ist. Sie ist keine allgemeine Aufbewahrungsregel für jedes Chatprotokoll.
Unterscheide öffentliche Produktinformationen, persönliche Beratung und Entscheidungen über Berechtigungen. Prüfe Autorisierung, Berufspflichten, Dokumentation und wirksame Überprüfung, wo erforderlich. Verlasse dich weder auf ein pauschales Verbot automatisierter Finanzabläufe noch auf einen allgemeinen Hinweis, der sie angeblich erlaubt.
Öffentliche Dienste: Bewertung und zugängliche Informationen
Öffentliche Stellen benötigen grundsätzlich einen Datenschutzbeauftragten, vorbehaltlich einschlägiger Ausnahmen. Ob eine konkrete DSFA erforderlich ist, hängt dagegen von den Verarbeitungsrisiken ab. Ein öffentlicher FAQ-Chatbot und ein System, das über Leistungsansprüche mitentscheidet, benötigen unterschiedliche Bewertungen.
Erkläre, wer den Dienst betreibt, wie Daten genutzt werden und wie Menschen Hilfe erhalten oder Rechte ausüben. Berücksichtige schutzbedürftige Nutzer, zugängliche Alternativen und Folgen falscher Antworten oder fehlgeschlagener Übergaben. Prüfe einschlägige Barrierefreiheits- und Branchenanforderungen, statt ihre Erfüllung durch die Chatoberfläche vorauszusetzen.
Chatbot-Anbieter und Technik bewerten
Verlange Nachweise für den vorgesehenen Ablauf. Unser Kaufleitfaden für AI-Chatbots bietet weiteren Bewertungskontext; die Datenschutzprüfung muss weiterhin deine tatsächlichen Datenflüsse erfassen.
Was ISO 27001, SOC 2 und Cyber Essentials aussagen
ISO/IEC 27001 betrifft ein Informationssicherheitsmanagementsystem. Prüfe Organisation, Dienste, Standorte und Gültigkeit des Zertifikats, statt das Logo als Abdeckung jedes Produkts zu betrachten.
SOC 2 ist ein Prüfbericht, keine Zertifizierung. Ein Type-2-Bericht untersucht die Wirksamkeit der Kontrollen im angegebenen Zeitraum. Prüfe Systeme, Kriterien, Ausnahmen und Kundenverantwortlichkeiten im tatsächlichen Bericht.
Cyber Essentials ist ein britisches Programm für grundlegende technische Kontrollen gegen verbreitete Internetbedrohungen. Keiner dieser Nachweise allein belegt DSGVO-Konformität deiner Nutzung. Die Legal FAQ von Quickchat AI beschreiben SOC 2 als laufendes Vorhaben; behandle dies nicht als abgeschlossenen Bericht.
15 Fragen an mögliche Anbieter
- Wo werden Prompts, Antworten, Dateien, Protokolle und Sicherungen gespeichert und verarbeitet, und wer kann aus der Ferne darauf zugreifen?
- Welche Rollen und Verarbeitungstätigkeiten umfasst der vorgeschlagene Auftragsverarbeitungsvertrag?
- Wie wird der Zugriff auf Kundendaten von den Daten anderer Kunden getrennt?
- Welche Verbindungen und gespeicherten Daten sind verschlüsselt, und wie werden Schlüssel verwaltet?
- Welche Aufbewahrungs- und Löschregeln gelten je Datenkategorie?
- Wie werden Auskunft, Berichtigung, Löschung und Datenübertragbarkeit unterstützt und überprüft?
- Welche Unterauftragsverarbeiter sind beteiligt, und wie werden Änderungen mitgeteilt?
- Werden Kundendaten für Training, Bewertung oder Feedback genutzt, und zu welchen Bedingungen?
- Wie werden Vorfälle untersucht und einschlägige Datenschutzverletzungen kommuniziert?
- Welche aktuellen Zertifikate oder Prüfberichte decken den konkreten Dienst ab?
- Welche Authentifizierung, Rollen und Identitätsanbindungen sind tatsächlich verfügbar?
- Welche Nachweise gibt es zu Prompt Injection, unbefugten Aktionen und Datenabfluss?
- Welche Datenschutz- und Sicherheitsentscheidungen sind Standard, Einstellungen oder Enterprise-Vereinbarungen?
- Welche Protokolle und Quellen- beziehungsweise Aktionsnachweise erhalten Kunden, und wo liegen ihre Grenzen?
- Wie können wir Konformitätsnachweise einsehen, Daten exportieren und den Prozess nach Leistungsende überprüfen?
Eine Vergleichsmatrix für Anbieter
Dokumentiere Nachweise und offene Fragen neben Bewertungen. Eine unbekannte vertragliche oder betriebliche Tatsache sollte unbekannt bleiben, statt Punkte für Marketingformulierungen zu erhalten. Eine nicht erfüllte Pflichtanforderung darf nicht in einer günstigen Gesamtwertung verschwinden.
| Kategorie | Anbieter A | Anbieter B | Anbieter C | Priorität | Zu dokumentierende Nachweise |
|---|---|---|---|---|---|
| Rollen und Auftragsverarbeitung | Hoch | Tätigkeiten, Weisungen, Unterstützung und Prüfrechte | |||
| Verarbeitungsorte | Hoch | Speicherung, Inferenz, Support und weitere Übermittlungen | |||
| Informationen und Einwilligung | Soweit einschlägig | Tatsächliches Oberflächenverhalten und Einwilligungsnachweise | |||
| Betroffenenrechte | Hoch | Anfrageweg, Identitätsprüfung und Antwortzuständigkeit | |||
| Export und Löschung | Hoch | Umfang, Ausnahmen, Prüfung und Sicherungen | |||
| Sicherheitsmaßnahmen | Hoch | Zur vorgesehenen Verarbeitung passende Kontrollen | |||
| Verschlüsselung | Hoch | Übertragung, Speicherung, Schlüssel und Ausnahmen | |||
| Zugriffskontrollen | Hoch | Rollen, Authentifizierung und Trennungsnachweise | |||
| Prüfungsnachweise | Soweit einschlägig | Berichts- oder Zertifikatsumfang, Datum und Befunde | |||
| Vorfallbearbeitung | Hoch | Kontakte, Benachrichtigung und Wiederherstellung | |||
| AI-Verarbeitungsbedingungen | Hoch | Training, Inferenz, Protokolle und Anwendungszustand | |||
| AI-Bewertung | Hoch | Relevante Tests, Grenzen und Eskalation | |||
| Eignung für den Ablauf | Mittel | Benötigte Anbindungen und Aufgabenqualität | |||
| Gesamtkosten | Mittel | Nutzung, Umsetzung, Prüfung und Betrieb | |||
| Support und Service Levels | Mittel | Tatsächliche Zusagen und Reaktionswege | |||
| Fortbestand des Anbieters | Mittel | Ausstiegsplan und Datenübertragbarkeit | |||
| Entscheidung | Pflichtbedingungen erfüllt; offene Punkte und Zuständige |
Lade ein Register für die Datenflüsse deiner Bereitstellung herunter
Lade das bearbeitbare Datenflussregister herunter. Das gemeinsame englischsprachige Paket enthält drei leere CSV-Dateien, ein separates fiktives Beispiel und eine Anleitung. Halte damit Komponenten, Datenbewegungen, Nachweise und offene Fragen für deine geplante Bereitstellung fest. Es beschreibt keine verifizierte Quickchat AI Architektur.
- Erfasse in
components.csvBrowser, Anwendung, Wissensspeicher, Modellanbieter, verbundene Dienste, Logs und Backups, die tatsächlich relevant sind. Halte Verarbeitungs- und Speicherorte getrennt fest, zusammen mit Trainingsnutzung, Aufbewahrung, Löschumfang und Zuständigkeit für den Zugriff. Lass unbekannte Sachverhalte offen. - Verbinde in
data-flows.csvdie Komponenten-IDs und beschreibe Zweck, Datenkategorien und Zugriffsbedingungen jedes Datenflusses. Erfasse Kategorien und Dokumentverweise, keine privaten Transkripte oder Zugangsdaten. - Verknüpfe in
evidence-register.csvjede Aussage mit einer datierten Quelle und deren Geltungsbereich. Unterscheide Anbieteraussagen, Verträge und Konfiguration von Testplänen und Nachweisen beobachteter Tests. Ein geplanter Test bleibtnot_run. Weise offenen Fragen eine verantwortliche Person zu.
Importiere die UTF-8-CSV-Dateien als separate Tabellenblätter und behalte ihre Kennungen bei. Die optionale Offline-Prüfung kontrolliert Format und Verweise; sie kann weder eine Anbieteraussage verifizieren noch Rechtskonformität feststellen. Nutze das Register zusammen mit den Fragen und der Vergleichsmatrix oben und der Prüfung, die deine tatsächliche Bereitstellung erfordert.
Praktischer Fahrplan für kleinere Teams
Begrenze den ersten Ablauf auf das, was dein Team betreiben und überprüfen kann. Öffentliche Informationen können die Komplexität reduzieren, obwohl Freitext und technische Kennungen weiterhin bewertet werden müssen.
Selbst gehostete Software und SaaS im Vergleich
Self-Hosting kann mehr direkte Kontrolle über Architektur und Datenverarbeitung ermöglichen. Zugleich musst du das System betreiben, aktualisieren, überwachen und absichern. Lizenz- und Infrastrukturkosten variieren; Open Source garantiert weder einen kostenlosen Einsatz noch den Wegfall externer Auftragsverarbeiter.
SaaS kann verwaltete Infrastruktur und Support bieten, doch Kunden müssen weiterhin Zwecke, Rechtsgrundlagen, Konfiguration und geeignete Bedingungen festlegen. Vergleiche die für dein Team verbleibende Arbeit, nicht nur den Abopreis. Prüfe Private-Cloud- oder Self-Hosting-Angebote als konkrete Vereinbarung, statt sie für jeden Tarif vorauszusetzen.
Kontrollen mit begrenzten Ressourcen umsetzen
Verwende gepflegte Software, sichere Übertragung, angemessene Authentifizierung und eingeschränkte Zugriffe. Halte Zugangsdaten aus Prompts und unnötige Datensätze aus der Knowledge Base fern. Richte einen betreuten Posteingang für Betroffenenanfragen und ein Aufbewahrungsverzeichnis ein, das die tatsächlichen Systeme abbildet.
Nutze Vorlagen der Behörden zur Strukturierung der Prüfung, schreibe Datenschutzinformationen aber anhand deiner eigenen Datenflüsse. Ein allgemeiner Richtliniengenerator kann nicht feststellen, was dein Chatbot tut. Teste neben Sicherungen auch die Wiederherstellung, dokumentiere Vorfälle und halte menschliche Eskalation bereit. Wenn notwendige Schutzmaßnahmen oder rechtliche Prüfungen offen sind, reduziere den Umfang vor dem Start.
Drei hypothetische Umsetzungsbeispiele
Dies sind Designbeispiele, keine Kundenfallstudien, gemessenen Ergebnisse oder Nachweise behördlicher Genehmigung.
- Informationsassistent einer Privatkundenbank. Begrenze den Bot auf freigegebene öffentliche Produktinformationen und verweise Kontotransaktionen an einen authentifizierten Dienst. Prüfe Rechtsgrundlagen, Anbieter und Unterlagen. Teste, ob Besucher die Offenlegung von Kontodaten provozieren können. Auch dieses Design muss anhand der Regeln der Bank geprüft werden.
- Assistent für Hochschulzulassungen. Trenne allgemeine Zulassungsinformationen vom Bewerbungsstatus und Zulassungsentscheidungen. Ein eigenes Rechteportal könnte Identitäten prüfen und relevante Unterlagen zur Prüfung und sicheren Bereitstellung sammeln. JSON kann für einschlägige Übertragbarkeitsanfragen nützlich sein; eine erzeugte Datei allein belegt weder vollständige Auskunft noch Fristeinhaltung.
- Verwaltungsassistent im Gesundheitswesen. Definiere erlaubte Buchungs- und Informationsaufgaben, minimiere abgefragte Angaben und stelle einen passenden klinischen Eskalationsweg bereit. Prüfe Schwärzung bei unerwarteten Gesundheitsinformationen und berücksichtige übersehene Angaben. Ein Hinweis oder eine Schwärzungsschicht belegt nicht, dass der verbleibende Text anonym oder uneingeschränkt zum Training geeignet ist.
Der EU AI Act neben der DSGVO
Der AI Act trat im August 2024 in Kraft und gilt stufenweise. Er ersetzt die DSGVO nicht. Zum Prüfdatum dieses Leitfadens berücksichtigt der aktuelle Umsetzungszeitplan der Kommission verabschiedete Änderungen und nicht nur den ursprünglichen Plan.
Aktuelle Transparenzpflichten und Geltungstermine für Hochrisikosysteme
Artikel 50 gilt seit 2. August 2026. Anbieter müssen sicherstellen, dass Menschen bei direkter Interaktion mit AI darüber informiert werden, sofern dies im Kontext nicht offensichtlich ist. Erforderliche Informationen müssen bei der ersten Interaktion klar und zugänglich sein. Prüfe weitere Pflichten aus Artikel 50, soweit sie für erzeugte Inhalte oder das konkrete System einschlägig sind.
Der verabschiedete AI Omnibus trat am 27. Juli 2026 in Kraft. Die betreffenden Hochrisikoanforderungen gelten nun ab 2. Dezember 2027 für Systeme nach Anhang III und ab 2. August 2028 für produktbezogene Systeme nach Anhang I. Die Einstufung hängt vom Verwendungszweck und gesetzlichen Kriterien ab; ein Chatbot ist nicht allein wegen seiner regulierten Branche automatisch ein Hochrisikosystem.
Prüfe Anbieter- und Betreiberpflichten getrennt, einschließlich einschlägiger Dokumentation, Aufsicht, Protokollierung und Konformitätspflichten. Der geänderte Artikel 4 verlangt weiterhin Maßnahmen zur Förderung der AI-Kompetenz von Mitarbeitenden, ohne ein bestimmtes individuelles Niveau garantieren zu müssen.
Das gesonderte Gesetzgebungsverfahren zum GDPR/ePrivacy Digital Omnibus war bei der Prüfung am 4. November 2026 noch anhängig. Vorgeschlagene Änderungen dieser Regeln sind nicht als geltendes Recht zu behandeln.
ISO/IEC 42001 und AI-Governance
ISO/IEC 42001:2023, veröffentlicht im Dezember 2023, beschreibt einen Rahmen für AI-Managementsysteme. Er kann helfen, Zuständigkeiten, Risikobewertung und laufende Prüfung zu organisieren. Ausrichtung oder Zertifizierung belegt nicht automatisch, dass ein Chatbot die DSGVO oder alle einschlägigen AI-Act-Pflichten erfüllt.
Umsetzungszeitplan und Zuständigkeitsmatrix
Nutze einen gestuften Plan, um fehlende Nachweise vor dem öffentlichen Start zu erkennen. Der Zeitplan ist ein Beispiel, keine gesetzliche Frist und kein Versprechen, dass jedes Projekt in 90 Tagen fertig wird.
Ein 90-Tage-Plan mit Prüfpunkten
- Tage 1-30: Bestandsaufnahme. Definiere Aufgaben, Datenflüsse, Rechtsgrundlagen, Rollen und Branchenanforderungen. Prüfe den DSFA-Bedarf, bestimme Entscheidungsträger und sammle Anbieternachweise.
- Tage 31-60: Umsetzung. Vereinbare einschlägige Auftragsverarbeitungsbedingungen; konfiguriere Informationen, Zugriffe, Anbindungen und Aufbewahrung. Baue die erforderlichen Rechte- und Vorfallabläufe auf. Schließe Bewertungen ab, sobald das Design konkret wird.
- Tage 61-90: Überprüfung. Teste normale Aufgaben, unbefugte Anfragen, falsche Antworten, Löschumfang und Wiederherstellung. Schule das Team, kläre notwendige Schutzmaßnahmen und prüfe eine erforderliche DSFA vor Beginn der betreffenden Verarbeitung. Auch ein begrenzter Pilot benötigt angemessenen Schutz.
Wähle den Start nach tatsächlicher Bereitschaft, nicht allein nach dem Kalender. Der Leitfaden zu Conversational-AI-Plattformen bietet zusätzlichen Bewertungskontext.
RACI-Beispiel mit unabhängiger DSB-Beratung
R bezeichnet die ausführende Zuständigkeit, A die projektverantwortliche Person der Organisation, C eine konsultierte und I eine informierte Rolle. Dieses betriebliche Beispiel überträgt keine gesetzliche Verantwortung des Verantwortlichen oder Auftragsverarbeiters.
Der Datenschutzbeauftragte (DSB) berät und überwacht unabhängig. Die DSB-Leitlinien ordnen die Verantwortung für Konformität und DSFA dem Verantwortlichen zu und warnen vor Rollenkonflikten durch die Festlegung von Verarbeitungszwecken und -mitteln. Nicht jede Organisation muss einen DSB bestellen.
| Aufgabe | DSB, falls bestellt | Rechtsberatung | Sicherheitsleitung | IT/Betrieb | Projektleitung des Verantwortlichen |
|---|---|---|---|---|---|
| Zwecke und Rechtsgrundlagen festlegen | C | R | C | C | A |
| Erforderliche DSFA abschließen | C | R | R | C | A |
| Datenschutzinformationen erstellen | C | R | C | C | A |
| Anbieter auswählen | C | C | R | R | A |
| Auftragsverarbeitungsbedingungen vereinbaren | C | R | C | C | A |
| Erforderliche Einwilligungsabläufe umsetzen | C | C | C | R | A |
| Sicherheitsmaßnahmen umsetzen | C | C | R | R | A |
| Betroffenenrechte bearbeiten | C | R | C | R | A |
| Aufbewahrung definieren und durchsetzen | C | R | C | R | A |
| Sicherheit testen und Mängel beheben | I | C | R | R | A |
| Vorfälle bearbeiten | C | R | R | R | A |
| Mitarbeitende schulen | C | R | R | C | A |
| Einsatz und Rechtsänderungen prüfen | C | R | R | C | A |
Vor der Freigabe des Einsatzes
Prüfe Datenübersicht, einschlägige Verträge, Aufbewahrungsregeln und betriebliche Testergebnisse gemeinsam. Kläre, wer Betroffenenanfragen oder Vorfallmeldungen erhält und was beim Wechsel eines Anbieters, einer Anbindung oder eines Zwecks passiert.
Unterscheide bei Quickchat AI dokumentierte Kontrollen von Anforderungen, die eine besondere Vereinbarung benötigen. Konto- oder Agent-Löschung, Datenschutzhinweise, Scrubbing auf Anfrage und ein angegebener Speicherort haben jeweils einen begrenzten Umfang. Kläre die Anforderungen des tatsächlichen Einsatzes, bevor du dich darauf verlässt.
Häufige Fragen zum Datenschutz bei Chatbots
Kann ein GPT-basierter Chatbot DSGVO-konform sein?
Er kann Teil eines rechtmäßigen Einsatzes sein, abhängig von Zwecken, Daten, Rollen, Verträgen, Sicherheit, Betroffenenrechten und Übermittlungen. Ein Modellname, eine Einstellung ohne Trainingsnutzung oder ein EU-Server reicht allein nicht. Pseudonymisierung kann Risiken reduzieren, während die Daten weiterhin der DSGVO unterliegen.
Wie lösche ich Daten eines Nutzers auf Anfrage?
Prüfe die Identität verhältnismäßig, ermittle relevante Datensätze, bewerte Löschgründe und Ausnahmen, koordiniere Auftragsverarbeiter und überprüfe das Ergebnis. Handle unverzüglich und normalerweise innerhalb eines Kalendermonats; teile zulässige Verlängerungen rechtzeitig mit. Beziehe Protokolle, Exporte und Sicherungen ein. Das Löschen eines Quickchat AI Agent ist nicht gleichbedeutend mit dem Löschen seiner Gespräche.
Welche Authentifizierung sollte ein Chatbot nutzen?
Richte sie nach der Aufgabe aus. Eine öffentliche FAQ benötigt möglicherweise keine Besucheranmeldung, Kontodetails oder Transaktionen hingegen einen angemessen authentifizierten und autorisierten Weg. Schütze Verwaltungszugriffe, erwäge MFA und prüfe Rollenbeschränkungen. Weder SSO noch Biometrie ist die allgemeine Antwort für jeden Ablauf.
Wie lange darf ich Chatprotokolle nach der DSGVO speichern?
Nur so lange, wie es für den jeweiligen Zweck gerechtfertigt ist, vorbehaltlich einschlägiger gesetzlicher Pflichten. Lege Fristen oder Kriterien je Datenkategorie fest und erläutere sie in den Datenschutzinformationen. Beispielsweise genannte 30 oder 90 Tage sind kein DSGVO-Standard; auch die Aufbewahrung von Einwilligungsnachweisen braucht eine Begründung.
Brauche ich bei einem selbst gehosteten Modell einen Auftragsverarbeitungsvertrag?
Prüfe, ob eine andere Stelle personenbezogene Daten in deinem Auftrag verarbeitet. Der eigene Betrieb von Software begründet nicht automatisch Auftragsverarbeitung durch ihren Herausgeber; Hosting, Support, Analysen oder andere Dienste können dies aber tun. Für Auftragsverarbeiter bleiben einschlägige Artikel-28-Bedingungen notwendig, und Self-Hosting beseitigt deine eigenen Pflichten nicht.
Darf ein Chatbot nach Artikel 22 vollständig automatisierte Entscheidungen treffen?
Die Beschränkung nach Artikel 22 betrifft ausschließlich automatisierte Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung. Wo sie gilt, prüfe eine einschlägige Ausnahme und notwendige Schutzmaßnahmen einschließlich wirksamen menschlichen Eingreifens, soweit erforderlich. Gewöhnliche Supportantworten fallen nicht automatisch darunter; erhebliche Berechtigungs- oder Zugangsentscheidungen brauchen eine genauere Prüfung.
Was gehört in die Datenschutzhinweise eines Chatbots?
Erkläre Verantwortlichen und Kontakte, Zwecke und Rechtsgrundlagen, relevante Empfänger und Übermittlungen, Aufbewahrung sowie einschlägige Rechte und Beschwerdewege. Ergänze weitere nach Artikel 13 oder 14 für die tatsächliche Erhebung erforderliche Angaben, einschließlich Widerruf bei Einwilligung und relevanter Informationen über automatisierte Entscheidungen. Halte die Informationen zugänglich und aktuell. Erforderliche Hinweise zur AI-Interaktion sind von der Einholung einer Einwilligung zu trennen.
Wie kann ich das Risiko von Prompt Injection reduzieren?
Behandle Besuchernachrichten und abgerufene Inhalte als nicht vertrauenswürdig. Begrenze Berechtigungen, setze Autorisierung außerhalb des Modells durch, validiere Aktionsparameter und teste Versuche, unbefugt Daten abzurufen oder fremde Aktionen auszuführen. Anweisungen, Filter und RAG garantieren keinen Schutz. Halte einen Weg zur Untersuchung und menschlichen Eskalation bereit.
Brauchen Chat-Widgets Cookie-Einwilligungen?
Prüfe jeden Speicher- oder Zugriffsvorgang und seinen Zweck nach der einschlägigen ePrivacy-Umsetzung. Die Hinweise des EDSA betreffen mehr als Cookies. Unbedingt notwendige Vorgänge für einen vom Besucher ausdrücklich angeforderten Dienst können ausgenommen sein; andere können vorherige Einwilligung benötigen. Das Quickchat-AI-Widget verwendet lokalen Browserspeicher für Gesprächskontinuität und Präferenzen. Gehe weder davon aus, dass jede Widget-Speicherung ausgenommen ist, noch dass jedes Widget vollständig vor einer Einwilligungsentscheidung blockiert werden muss.
Ersetzt der EU AI Act die DSGVO für Chatbots?
Nein. Die DSGVO regelt weiterhin einschlägige Verarbeitung personenbezogener Daten; der AI Act ergänzt Pflichten abhängig von System, Rolle und Nutzung. Die Transparenzpflichten nach Artikel 50 gelten bereits seit 2. August 2026. Prüfe für Hochrisikoanforderungen den aktuellen geänderten Zeitplan, statt dich auf die ursprünglichen Erwartungen für 2025/2026 zu stützen.
Beginne die Bewertung der Quickchat-AI-Plattform mit einem definierten Ablauf und den dafür nötigen Daten. Vergleiche anschließend dokumentierte Kontrollen und geltende Bedingungen mit deinen Anforderungen.