KI-Anbieter Due Diligence in Deutschland: Checkliste

KI-Anbieter Due Diligence: Kurzantwort

Unternehmen in Deutschland sollten KI-Anbieter vor Vertragsschluss in vier Schichten pruefen: DSGVO, Unterlagen zur KI-Verordnung, vertragliche Risikoverteilung und operative Schutzmassnahmen wie Hosting, Vorfallsmanagement und Auditierbarkeit. Ein AVV nach Art. 28 DSGVO ist dafuer notwendig, aber gerade bei KI-Tools nur ein Teil der Due Diligence.

• Zuerst Rollen, Datenfluesse, Subprozessoren und Trainingsnutzung klaeren.
• Danach Betreiberpflichten, Anhang-III-Risiken und Nutzungsanweisungen abfragen.
• Haftung, IP, Auditrechte und Incident-Prozesse gemeinsam verhandeln.
• Freigabe nur mit dokumentierten Nutzungsgrenzen und internen Ownern erteilen.

KI-Anbieter Due Diligence in Deutschland bedeutet: Vor Unterschrift sollten Unternehmen einen Anbieter in vier Schichten pruefen, naemlich DSGVO, Unterlagen zur KI-Verordnung, vertragliche Risikoverteilung und operative Schutzmassnahmen wie Hosting, Incident-Prozesse und Auditierbarkeit. Genau diese vier Ebenen sollten Einkauf, Rechtsabteilung, Datenschutz und IT vor Freigabe eines KI-Tools abarbeiten.

Ein Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO ist dafuer wichtig, aber nicht ausreichend. Der AVV beantwortet gerade nicht, ob Prompts fuer Modelltraining genutzt werden, ob der Anbieter Ihre Daten an weitere Subprozessoren weitergeben darf, ob ein Einsatz im Bereich Anhang III der KI-Verordnung denkbar ist oder ob die Haftungsregelung im Vertrag das reale Risiko des Unternehmens abbildet.

Fuer Unternehmen in Deutschland lautet die eigentliche Frage deshalb nicht, ob KI-Beschaffung eine Due Diligence braucht, sondern wie frueh diese Pruefung starten muss. Die richtige Antwort ist: vor Vertragsschluss und vor jedem Pilot mit echten Mitarbeiter-, Kunden- oder Vertragsdaten.

Warum KI-Anbieterpruefung mehr ist als AVV plus Datenschutzfrage

Bei klassischer SaaS-Beschaffung reicht oft ein begrenzter Pruefpfad. Bei KI-Anbietern funktioniert das nicht mehr sauber, weil mehrere Risikobloecke gleichzeitig zusammenlaufen:

• personenbezogene Daten und Geschaeftsgeheimnisse im selben Tool,
• US- oder sonstige Drittlandbezuege in der Verarbeitungskette,
• moegliche Nutzung von Kundendaten fuer Training, Benchmarking oder Produktverbesserung,
• Ausgaben des Systems mit IP-, Vertraulichkeits- oder Diskriminierungsrisiken,
• Einsatz in HR-, Kunden- oder Compliance-Prozessen mit erhoehter Rechtsfolge,
• Standardvertraege mit niedrigen Haftungscaps und weit gefassten Gewaehrleistungsausschluessen.

Deshalb sollte eine belastbare KI-Anbieter Due Diligence immer vier Rechts- und Governance-Ebenen verbinden:

1. DSGVO: Rollenverteilung, AVV, TOMs, SCC, Loeschung, DSFA.
2. KI-Verordnung: Anbieter- oder Betreiberrolle, Anhang III, Art. 25, Art. 26 und Art. 50.
3. Vertrag: Haftung, Auditrechte, IP, Vertraulichkeit, Exit und Subprozessorsteuerung.
4. Operative Freigabe: erlaubte Daten, interne Owner, Incident-Eskalation, Re-Assessment und Offboarding.

Wer die datenschutzrechtliche Basisschicht noch nicht sauber aufgebaut hat, sollte zuerst unsere DSGVO-Checkliste fuer KI-Tools und den Leitfaden zu KI-Beschaffung unter der DSGVO durchgehen.

Schritt 1: Use Case und Rolle des Anbieters einordnen

Jede Due Diligence beginnt mit dem Anwendungsfall. Ein internes Schreibtool ohne Produktivanbindung ist anders zu bewerten als ein Recruiting-System, ein KI-gestuetzter Support-Workflow oder ein Assistent mit Zugriff auf CRM, Tickets, Personalakten oder Vertragsarchive.

Danach folgt die Rollenfrage:

• Ist der Anbieter Auftragsverarbeiter?
• Verwendet er Daten teilweise fuer eigene Zwecke und wird damit zumindest teilweise Verantwortlicher?
• Praegt der Anbieter den Zweck mit, sodass ein gemeinsamer Verantwortungsbereich entstehen kann?
• Ist Ihr Unternehmen nach der KI-Verordnung nur Betreiber oder bewegt sich der Einsatz in einer Konstellation, in der weitergehende Anbieterunterlagen benoetigt werden?

Besonders wichtig ist die Frage, ob der Einsatz Mitarbeiter, Bewerber, Kunden oder andere Betroffene mit spuerbaren Auswirkungen betrifft. Denn genau dort steigen das DSFA-Risiko, die Relevanz von Art. 22 DSGVO und die Naehe zu Hochrisiko-KI nach Anhang III.

Eine einfache Erstpruefung sollte mindestens festhalten:

1. Fachbereich und Business Owner
2. Datenkategorien und Integrationen
3. geplante Outputs und Verwendungszweck
4. Betroffenengruppen
5. moegliche Auswirkungen auf Entscheidungen oder Ueberwachung

Schritt 2: DSGVO, SCC und Subprozessoren pruefen

Im zweiten Schritt folgt die eigentliche Datenschutz-Due-Diligence. Hier reicht es nicht, nur zu fragen, ob ein AVV vorhanden ist.

Geprueft werden sollten insbesondere:

• Liegt ein belastbarer AVV nach Art. 28 DSGVO vor?
• Verarbeitet der Anbieter Daten ausschliesslich auf Weisung?
• Wo werden Inhalte gespeichert und von wo erfolgt Support oder Fernzugriff?
• Welche Subprozessoren sind eingebunden und wie werden Aenderungen mitgeteilt?
• Welche Standardvertragsklauseln (SCC) oder sonstigen Drittlandmechanismen greifen?
• Welche Loeschfristen, Exportmoeglichkeiten und Retention-Einstellungen bestehen?
• Sind Modelltraining, Serviceverbesserung oder Benchmarking mit Kundendaten ausgeschlossen oder zumindest klar begrenzt?

Gerade in Deutschland ist diese Schicht oft der Punkt, an dem die Pruefung in Richtung Beschaeftigtendaten und Betriebsrat kippt. Sobald ein KI-Tool in Recruiting, Leistungsbewertung, Wissenssuche ueber Mitarbeiterkommunikation oder Produktivitaetsmessung eingesetzt werden soll, muessen Datenschutz, HR und gegebenenfalls der Betriebsrat frueh eingebunden werden.

Fuer den Transfer- und Vertragsrahmen ist die Seite zu AVV und Auftragsverarbeitung ein sinnvoller Vertiefungspunkt.

Schritt 3: Unterlagen zur KI-Verordnung und Betreiberpflichten abfragen

Mit Stand 21. Mai 2026 gehoert die KI-Verordnung in jede ernsthafte KI-Beschaffung. Die Verordnung ist am 1. August 2024 in Kraft getreten. Die Verbote aus Art. 5 gelten seit 2. Februar 2025. Die GPAI- und Governance-Regeln gelten seit 2. August 2025. Fuer die meisten weiteren Pflichten ist der 2. August 2026 das zentrale Datum.

Das bedeutet praktisch: Unternehmen sollten heute schon vom Anbieter Unterlagen verlangen, die sie fuer ihre Rolle als Betreiber spaeter benoetigen.

Abzufragen sind insbesondere:

• Einordnung des Systems und des vorgesehenen Zwecks
• Informationen zu Grenzen und bestimmungsgemaesser Nutzung
• Hinweise zur menschlichen Aufsicht
• Aussagen zu Logging, Incident-Meldung und Eskalation
• Transparenzunterstuetzung, wenn Nutzer direkt mit KI interagieren
• Einschaetzung, ob der Einsatz in eine Anhang-III-Konstellation geraten kann

Fuer Deutschland ist wichtig, die Aufsichtslage sauber zu formulieren: Die Bundesnetzagentur (BNetzA) bereitet bereits zentrale Koordinierungs- und Marktueberwachungsfunktionen zur KI-Verordnung vor und veroeffentlicht entsprechende Orientierungshilfen. Unternehmen sollten deshalb davon ausgehen, dass ihre Anbieterpruefung spaeter gegenueber interner Revision, Aufsicht oder Business-Stakeholdern nachvollziehbar sein muss.

Eine Fristen- und Pflichtenuebersicht finden Sie in unserer Checkliste zum 2. August 2026 sowie in den Beschaffungsanforderungen nach der KI-Verordnung.

Schritt 4: Vertrag, Haftung und IP-Risiken verhandeln

Viele Probleme entstehen nicht beim Datenschutz, sondern im Hauptvertrag. Gerade KI-Anbieter liefern haeufig Standardklauseln, die fuer den Einsatz in sensiblen Unternehmensprozessen zu duenn sind.

Besonders sorgfaeltig geprueft werden sollten:

• Rechte an Inputs, Outputs, Feedback und Fine-Tuning-Daten
• Vertraulichkeitsregelungen und Geheimnisschutz
• Ausschluss oder Begrenzung von Trainingsnutzung
• Auditrechte oder belastbare Ersatznachweise wie SOC 2 oder ISO 27001
• Reaktionszeiten bei Sicherheitsvorfaellen
• IP-Freistellungen fuer Produkt und gegebenenfalls fuer bestimmte Output-Risiken
• allgemeine Haftungscaps, Carve-outs und Gewaehrleistungsausschluesse
• Exit-, Export- und Loeschpflichten bei Beendigung

Unter deutschem Recht sollte dabei immer mitgeprueft werden, wie belastbar diese Klauseln unter AGB-Kontrolle nach §§ 305-310 BGB tatsaechlich sind. Dass eine SaaS-Klausel “marktueblich” ist, bedeutet nicht automatisch, dass sie fuer den konkreten KI-Einsatz angemessen oder unangreifbar ist.

Der praktische Bewertungsmassstab lautet: Traegt der Anbieter einen sinnvollen Teil des Risikos mit oder schiebt der Vertrag faktisch fast jede relevante Verantwortung auf das Unternehmen ab?

Schritt 5: Operative Freigabe und Governance absichern

Selbst ein akzeptabler Vertragsstand reicht nicht, wenn der operative Einsatz im Unternehmen unkontrolliert bleibt. Deshalb braucht jede KI-Anbieter Due Diligence einen Governance-Teil.

Vor der Freigabe sollten Unternehmen schriftlich festlegen:

• welche Daten eingegeben werden duerfen und welche tabu sind,
• ob Training-Opt-outs, Admin-Settings und Retention-Vorgaben aktiviert sind,
• wer intern fuer Incident-Eskalation, Re-Assessment und Offboarding zustaendig ist,
• wie Subprozessor-Aenderungen ueberwacht werden,
• wann eine erneute Pruefung ausgeloest wird, etwa bei neuen Modulen oder HR-Einsatz.

Genau hier kommen auch Betriebsrat und Fachbereiche ins Spiel. Wenn das Tool Beschaeftigtendaten oder Verhaltensinformationen verarbeitet, sollte die Freigabe nicht isoliert in Legal oder IT stattfinden. Fuer HR-nahe Szenarien sind auch unsere Inhalte zu AI Employee Monitoring und zu spezialisierten Recruiting-Pruefungen relevant.

Checkliste: Was vor der Freigabe eines KI-Anbieters abgehakt sein sollte

1. Use Case dokumentiert? Fachbereich, Daten, Integrationen und Ziel des Tools sind eindeutig beschrieben.
2. Rolle des Anbieters geklaert? Auftragsverarbeiter, Verantwortlicher oder Mischmodell.
3. AVV und Datenschutzpaket vorliegend? AVV, TOMs, SCC, Subprozessoren, Loeschung, Retention.
4. Trainingsnutzung bewertet? Prompts, Uploads, Outputs und Telemetrie sind vertraglich sauber eingegrenzt.
5. DSFA- oder Arbeitsrechtsrisiken erkannt? Mitarbeiterbezug, Profiling, Monitoring oder erhebliche Entscheidungen sind geprueft.
6. Unterlagen zur KI-Verordnung angefordert? Betreiberinformationen, Anhang-III-Hinweise, Transparenz und Incident-Support.
7. Vertrag wirtschaftlich tragfaehig? Haftung, IP, Audit, Support und Exit passen zum realen Risiko.
8. Interne Nutzungsgrenzen festgelegt? Wer das Tool nutzen darf und mit welchen Daten.
9. Freigabe dokumentiert? Entscheidung, Auflagen und Verantwortliche sind schriftlich festgehalten.

FAQ: KI-Anbieter Due Diligence, DSGVO und KI-Verordnung

Was ist KI-Anbieter Due Diligence?

KI-Anbieter Due Diligence ist die rechtliche und operative Pruefung eines KI-Anbieters vor Vertragsschluss oder Rollout. Dazu gehoeren DSGVO, Drittlandtransfers, Unterlagen zur KI-Verordnung, vertragliche Risikoverteilung und die Frage, ob das Tool im konkreten Unternehmenskontext sicher und vertretbar betrieben werden kann.

Wie unterscheidet sich die Due Diligence von einer reinen AVV-Pruefung?

Eine reine AVV-Pruefung deckt nur den Auftragsverarbeitungsrahmen nach Art. 28 DSGVO ab. Vollstaendige KI-Anbieter Due Diligence bewertet zusaetzlich Trainingsrechte, Betreiberpflichten nach der KI-Verordnung, IP- und Haftungsrisiken, Auditierbarkeit, Incident-Prozesse und arbeitsrechtliche Auswirkungen.

Muss die KI-Verordnung schon in den Einkauf aufgenommen werden?

Ja. Unternehmen sollten die KI-Verordnung bereits vor Go-live im Einkauf verankern. Sonst fehlen spaeter oft genau die Unterlagen, die fuer Betreiberpflichten, Transparenz, menschliche Aufsicht oder Anhang-III-Einschaetzungen notwendig sind.

Wann sollte der Betriebsrat eingebunden werden?

Der Betriebsrat sollte frueh eingebunden werden, wenn das KI-Tool Verhalten, Leistung, Kommunikation, Arbeitszeit oder Bewerberauswahl von Beschaeftigten betrifft. In solchen Faellen greifen haeufig nicht nur DSGVO- und DSFA-Fragen, sondern auch Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG.

Naechster Schritt fuer Unternehmen

Wenn Ihr Unternehmen ein KI-Tool fuer HR, Legal, Vertrieb, Kundenservice oder interne Wissensarbeit einkaufen will, sollte die KI-Anbieter Due Diligence vor Pilot und vor Vertragsunterschrift beginnen. Compound Law begleitet Unternehmen in Deutschland bei AVV-Pruefung, Vertragsverhandlung, Betreiberpflichten nach der KI-Verordnung und der rechtssicheren Freigabe von KI-Tools.

Dieser Beitrag enthaelt allgemeine rechtliche Informationen und ersetzt keine Beratung zum konkreten Einzelfall.