DSGVO-konforme KI: AVV, TOM und Löschkonzept praktisch prüfen

Kurz zusammengefasst: DSGVO-konforme KI entsteht nicht durch einen einzelnen Vertrag, sondern durch saubere Vorarbeit: Zweck, Datenarten, Rechtsgrundlage, Auftragsverarbeitung, technische und organisatorische Maßnahmen sowie ein Löschkonzept müssen vor dem produktiven Einsatz geklärt sein. Für Unternehmen ist das besonders wichtig, wenn KI-Systeme mit Kunden-, Mitarbeiter-, Projekt- oder Gesundheitsdaten arbeiten.

Dokumente, Datenschutzschild und KI-Prüfpfad für DSGVO-konforme KI
KI-generiertes Bild

Viele Unternehmen starten KI-Projekte heute pragmatisch: ein Assistent für E-Mails, ein Wissenssystem für interne Dokumente oder eine Automatisierung für Supportfälle. Genau dort beginnt aber die Datenschutzarbeit. Sobald personenbezogene Daten verarbeitet werden, reicht es nicht, ein beliebtes Tool einzukaufen und die Nutzung intern freizugeben. Die Datenschutz-Grundverordnung verlangt nachvollziehbare Verantwortlichkeiten, begrenzte Zwecke, Schutzmaßnahmen und klare Regeln, wann Daten wieder gelöscht werden.

Der EU AI Act ersetzt diese Pflichten nicht. Er ergänzt sie je nach Einsatzfall um Anforderungen an Transparenz, Risikomanagement und Dokumentation. Für deutsche KMU ist deshalb eine praktische Prüflogik sinnvoll: erst Daten und Prozess verstehen, dann Anbieter und Betriebsmodell auswählen, danach AVV, TOM und Löschfristen sauber dokumentieren. Mit Unterstützung von KI erstellt.

1. Erst den KI-Prozess beschreiben, dann das Tool auswählen

Der häufigste Fehler ist eine Toolentscheidung ohne Prozessbeschreibung. Datenschutzkonform lässt sich ein KI-Einsatz nur bewerten, wenn klar ist, welche Aufgabe die KI übernimmt, welche Personen betroffen sind und welche Daten in Eingabe, Verarbeitung und Ausgabe vorkommen. Ein interner Chatbot für öffentlich freigegebene Handbücher ist anders zu bewerten als ein Assistent, der Bewerbungen, Kundenverträge oder Krankmeldungen zusammenfasst.

Praktisch hilft eine kurze Use-Case-Karte: Zweck, Nutzergruppen, Datenquellen, Datenarten, Empfänger, Speicherorte, Modellanbieter, Integrationen und erwartete Ausgabe. Daraus ergibt sich, ob personenbezogene Daten überhaupt nötig sind. Viele KI-Projekte lassen sich datenschutzärmer gestalten, indem Namen, Kontaktdaten oder Vertragsnummern vor der Verarbeitung entfernt oder getrennt gespeichert werden.

Für Unternehmen, die mehrere Ideen gleichzeitig prüfen, passt diese Vorarbeit gut in eine KI-Potenzialanalyse. Dort wird nicht nur der Nutzen bewertet, sondern auch, ob ein Use Case datenschutzrechtlich, technisch und organisatorisch realistisch betrieben werden kann.

2. AVV prüfen: Wer verarbeitet Daten in wessen Auftrag?

Wenn ein externer KI-Dienst personenbezogene Daten für das Unternehmen verarbeitet und keine eigene Entscheidung über Zweck und Mittel trifft, ist regelmäßig ein Vertrag zur Auftragsverarbeitung nötig. Artikel 28 DSGVO nennt dafür konkrete Mindestinhalte: Gegenstand, Dauer, Art und Zweck der Verarbeitung, Kategorien betroffener Personen, Pflichten des Verantwortlichen, Vertraulichkeit, Unterstützung bei Betroffenenrechten, Löschung oder Rückgabe sowie Regeln für Unterauftragsverarbeiter.

Bei KI-Diensten lohnt sich ein genauer Blick auf drei Punkte. Erstens: Werden Eingaben oder Ausgaben zum Training, zur Produktverbesserung oder zur Qualitätssicherung verwendet? Zweitens: Wo findet die Verarbeitung statt und welche Unterauftragnehmer sind beteiligt? Drittens: Gibt es eine klare Möglichkeit, Daten zu löschen oder Mandantendaten aus Protokollen zu entfernen? Allgemeine Marketingaussagen wie „enterprise-ready“ ersetzen keine Vertragsprüfung.

Wenn der Anbieter keinen belastbaren AVV, keine transparente Subprozessorenliste oder keine belastbaren Angaben zum Datenstandort liefert, sollte der Use Case entweder angepasst oder ein anderes Betriebsmodell gewählt werden. Für besonders sensible Daten kann eine Architektur mit RAG, eigenem Zugriffskonzept und begrenztem Datenraum sinnvoller sein als ein offener Allzweck-Chat. Ein Beispiel dafür ist ein kontrollierter RAG-Wissensassistent.

3. TOM und Löschkonzept müssen praktisch umsetzbar sein

Technische und organisatorische Maßnahmen sind kein Formularanhang, sondern die Sicherheitsbasis des KI-Betriebs. Dazu gehören Zugriffskontrollen, Rollen, Protokollierung, Verschlüsselung, sichere Schnittstellen, Mandantentrennung, Backup- und Wiederherstellungsprozesse sowie Regeln für Freigaben und menschliche Kontrolle. Bei KI-Systemen kommen weitere Fragen hinzu: Wer darf Prompts mit Kundendaten senden? Werden Ausgaben gespeichert? Gibt es Audit-Logs? Können falsche Antworten korrigiert oder gesperrt werden?

Für kleinere Unternehmen muss das nicht überbürokratisch sein. Ein pragmatisches TOM-Set kann mit fünf Bereichen starten: Berechtigungen, Datenminimierung, Protokolle, Qualitätskontrolle und Notfallprozess. Wichtig ist, dass diese Maßnahmen nicht nur dokumentiert, sondern technisch umgesetzt werden. Wenn eine KI-Automatisierung etwa E-Mails vorbereitet, sollte sie nicht selbstständig versenden, solange keine Freigabe- und Prüfregel definiert ist.

Bei automatisierten Workflows ist außerdem Kosten- und Qualitätsmonitoring sinnvoll. Datenschutz, Sicherheit und Wirtschaftlichkeit gehören zusammen, weil unkontrollierte KI-Ausgaben, unklare Logs oder zu breite Rechte schnell zu Betriebsrisiken werden. Hinweise zur wirtschaftlichen Bewertung finden sich ergänzend bei KI-Prozessautomatisierung und ROI.

Löschkonzept: Daten dürfen nicht unbegrenzt im KI-System liegen

Ein DSGVO-konformer KI-Einsatz braucht ein Löschkonzept, das zur realen Verarbeitung passt. Es sollte festlegen, welche Eingaben, Ausgaben, Protokolle, Vektordaten, Zwischenergebnisse und Feedbackdaten gespeichert werden, wie lange sie nötig sind und wer die Löschung auslösen kann. Gerade bei RAG-Systemen wird dieser Punkt oft unterschätzt: Wenn ein Dokument im Ursprungssystem gelöscht oder gesperrt wird, muss auch der Suchindex aktualisiert werden.

Für die Praxis empfiehlt sich eine einfache Löschmatrix. Operative Logs können kurze Fristen haben, Abrechnungs- oder Sicherheitsprotokolle längere. Trainings- oder Feedbackdaten sollten nur verwendet werden, wenn Zweck, Rechtsgrundlage und Widerspruchsmöglichkeiten geklärt sind. Bei sensiblen Daten ist es oft besser, keine produktiven Inhalte für Modellverbesserung zu verwenden und stattdessen mit Testdaten, Freigabesets oder anonymisierten Beispielen zu arbeiten.

Auch Betroffenenrechte müssen bedacht werden. Wenn eine Person Auskunft oder Löschung verlangt, muss das Unternehmen wissen, in welchen Systemen KI-bezogene Daten liegen. Ohne Dateninventar, Anbieterübersicht und Index-Aktualisierung wird das schnell unpraktisch.

Praktische Prüfliste vor dem Start

  • Use Case, Zweck und Datenarten schriftlich beschreiben.
  • Prüfen, ob personenbezogene Daten nötig sind oder minimiert werden können.
  • Rolle des Anbieters klären: Auftragsverarbeiter, Verantwortlicher oder Mischform.
  • AVV, Unterauftragnehmer, Datenstandorte und Trainingsnutzung prüfen.
  • TOM konkret auf den KI-Prozess beziehen: Rollen, Logs, Freigaben, Verschlüsselung, Notfallregel.
  • Löschfristen für Eingaben, Ausgaben, Logs, Vektordaten und Feedback definieren.
  • Interne Nutzungsregeln und Freigabeprozesse dokumentieren.
  • Vor Produktivstart mit einem begrenzten Pilot und echten Prüfbeispielen testen.

FAQ: DSGVO-konforme KI im Unternehmen

Braucht jedes KI-Tool einen AVV?

Nein. Ein AVV ist vor allem dann nötig, wenn ein Dienstleister personenbezogene Daten im Auftrag des Unternehmens verarbeitet. Die Rollen müssen im konkreten Einsatz geprüft werden.

Darf ein Unternehmen Kundendaten in KI-Systeme eingeben?

Nur wenn Zweck, Rechtsgrundlage, Sicherheitsmaßnahmen, Anbieterrolle und Informationspflichten passen. Oft ist Datenminimierung oder Pseudonymisierung der bessere Startpunkt.

Was gehört in ein Löschkonzept für KI?

Mindestens Eingaben, Ausgaben, Protokolle, Vektordaten, Feedbackdaten, Fristen, Verantwortliche und der Prozess zur Aktualisierung von Indizes oder Wissensdatenbanken.

Reicht der EU AI Act als Orientierung?

Nein. Der AI Act regelt KI-Risiken und Transparenzpflichten, ersetzt aber nicht die DSGVO. Datenschutzpflichten gelten weiterhin, sobald personenbezogene Daten verarbeitet werden.

Wie startet ein KMU ohne große Rechtsabteilung?

Mit einem begrenzten Pilot, einer Use-Case-Karte, Anbieterprüfung, einfachen TOM und klaren Löschfristen. Komplexe oder sensible Prozesse sollten separat vertieft geprüft werden.

Fazit: DSGVO-konforme KI ist machbar, wenn Unternehmen nicht beim Tool beginnen, sondern beim Prozess. GO-ITC unterstützt bei KI-Beratung für den Mittelstand, technischer Architektur, Anbieterprüfung und einer pragmatischen Umsetzungsplanung für sichere KI-Projekte.

Quellen

Gefällt Ihnen dieser Beitrag?

Zum Newsletter anmnelden

Wollen Sie noch heute den Boost für Ihr Unternehmen aktivieren?

„Ergreifen Sie jetzt die Gelegenheit und treten Sie mit uns in Kontakt. Wir freuen uns darauf, gemeinsam mit Ihnen neue Wege zu beschreiten und Ihr Geschäft zu neuen Höhen zu führen.“
Kontakt