KI-Anbieter-Due-Diligence: Checkliste fuer Unternehmen

KI-Anbieter-Due-Diligence: Kurzantwort

KI-Anbieter-Due-Diligence sollte in Deutschland vor Vertragsabschluss und vor jedem Pilot mit Echtdaten erfolgen. Geprueft werden sollten mindestens Use Case und Datenkategorien, DSGVO- und AVV-Rahmen, SCC und Subprozessoren, Unterlagen zur KI-Verordnung, Security und Auditierbarkeit, IP und Vertraulichkeit, Haftung sowie Exit- und Loeschregeln. Ein AVV ist notwendig, aber nur ein Teil der Beschaffungspruefung.

• Der Startpunkt ist immer der konkrete Use Case und nicht die Marketingbeschreibung des Anbieters.
• AVV, SCC, Training, Subprozessoren und Retention sollten vor Freigabe dokumentiert sein.
• Auch Betreiberinformationen nach der KI-Verordnung gehoeren heute in die Beschaffung.
• Vertragliche Haftung, Audit, Incident-Prozesse und Exit muessen zum realen Risiko passen.

KI-Anbieter-Due-Diligence sollte in Deutschland vor Vertragsabschluss und vor jedem Pilot mit Echtdaten stattfinden. Die Beschaffungspruefung sollte mindestens Use Case und Datenkategorien, DSGVO und AVV, SCC und Subprozessoren, Unterlagen zur KI-Verordnung, Security und Auditierbarkeit, IP und Vertraulichkeit, Haftung sowie Exit- und Loeschregeln abdecken. Ein AVV ist notwendig, aber nur ein Teil der Freigabe.

Gerade bei KI-Tools reicht klassische SaaS-Pruefung oft nicht mehr aus. Ein einziges Tool kann Mitarbeiterdaten, Kundendaten, Geschaeftsgeheimnisse, Trainingsnutzung, Drittlandtransfers und rechtlich sensible Outputs zugleich betreffen. Deshalb sollte die zentrale Frage lauten: Welche Unterlagen und Vertragsregeln braucht das Unternehmen, bevor der erste produktive oder pilotierte Einsatz startet?

Direkte Antwort: Welche Due Diligence ist vor dem Kauf eines KI-Tools noetig?

Vor der Freigabe eines KI-Anbieters sollten Unternehmen in Deutschland diese zehn Punkte abarbeiten:

Pruefpunkt	Warum er vor dem Kauf wichtig ist
1. Use Case und Owner	Der konkrete Einsatz bestimmt das rechtliche Risiko.
2. Rollen nach DSGVO	Nur so laesst sich AVV, Weisung und Haftung sauber einordnen.
3. AVV und Transfers	Art. 28 DSGVO, SCC und Verarbeitungsorte muessen dokumentiert sein.
4. Subprozessoren und Retention	Weitergabe, Loeschung und Aenderungsmechanismen brauchen Transparenz.
5. Trainingsnutzung	Prompts, Uploads und Outputs duerfen nicht stillschweigend weiterverwendet werden.
6. Security und Audit	Das Unternehmen braucht belastbare Nachweise und Incident-Regeln.
7. KI-Verordnungsbezug	Betreiberinformationen und Zweckgrenzen gehoeren heute in die Beschaffung.
8. IP und Vertraulichkeit	Inputs, Outputs und Geschaeftsgeheimnisse muessen geschuetzt sein.
9. Haftung und Incident-Prozesse	Niedrige Caps koennen das echte Risiko des Unternehmens nicht abbilden.
10. Exit und Re-Assessment	Loeschung, Export und Neubewertung bei Aenderungen muessen moeglich sein.

Kann der Anbieter diese Punkte nicht strukturiert beantworten, ist das selbst ein Due-Diligence-Befund. Dann sollte die Beschaffung regelmaessig noch nicht in die Freigabe gehen.

Warum diese Checkliste mehr ist als eine allgemeine Anbieterpruefung

Bei klassischer Softwarebeschaffung stehen oft Preis, Security-Fragebogen und Datenschutzunterlagen im Mittelpunkt. Bei KI-Anbietern kommt regelmaessig mehr zusammen:

• personenbezogene Daten und vertrauliche Unternehmensinformationen im selben Tool,
• moegliche Trainings- oder Produktverbesserungsnutzung mit Kundendaten,
• Outputs mit Bezug zu Vertriebs-, HR-, Legal- oder Kundenentscheidungen,
• Standardvertraege mit niedrigen Haftungscaps und breiten Gewaehrleistungsausschluessen,
• ein Rechtsrahmen aus DSGVO, KI-Verordnung, BDSG, BGB, AGG und gegebenenfalls BetrVG.

Deshalb sollte diese Seite zusammen mit unserem uebergreifenden Leitfaden zu KI-Rechtsrisiken fuer Unternehmen gelesen werden. Fuer die Datenschutz-Basis sind ausserdem die DSGVO-Checkliste fuer KI-Tools und die Seite zu KI-Beschaffung unter DSGVO und AI Act relevant.

10-Punkte-Checkliste fuer Legal, Einkauf und Datenschutz

1. Use Case zuerst, Anbieterbeschreibung danach

Jede Due Diligence beginnt mit dem Einsatz. Ein internes Schreibtool ohne Produktivdaten ist anders zu bewerten als ein HR-System, ein Support-Chatbot oder ein Copilot mit Zugriff auf CRM, Tickets oder Vertragsarchive.

Dokumentiert werden sollten mindestens:

• Fachbereich und Business Owner,
• betroffene Datenkategorien,
• Integrationen und angebundene Systeme,
• erwartete Outputs,
• moegliche Auswirkungen auf Mitarbeiter, Bewerber, Kunden oder regulierte Entscheidungen.

Ohne diese Einordnung bleibt die spaetere Vertrags- und Datenschutzpruefung zu abstrakt.

2. Rollen nach DSGVO, AVV und Transfers pruefen

Die erste juristische Schicht ist der Datenschutzrahmen. Unternehmen sollten klaeren, ob der Anbieter Auftragsverarbeiter, Verantwortlicher oder ein Mischmodell ist und ob die Unterlagen dazu passen.

Zu pruefen sind mindestens:

• AVV nach Art. 28 DSGVO,
• Verarbeitungs- und Zugriffsorte,
• SCC oder andere Drittlandmechanismen,
• Retention- und Loeschregeln,
• Weisungsgebundenheit,
• Umgang mit Prompts, Dateien, Telemetrie und Outputs.

Bei Mitarbeiter- oder Bewerberdaten sollten § 26 BDSG und moegliche DSFA-Pflichten frueh mitlaufen.

3. Subprozessoren, Retention und Trainingsnutzung bewerten

Viele KI-Anbieter arbeiten mit mehreren Infrastruktur-, Support-, Safety- oder Hosting-Dienstleistern. Unternehmen sollten deshalb nicht nur die Hauptfirma, sondern die Verarbeitungskette verstehen.

Kernfragen sind:

• Welche Subprozessoren sind eingebunden?
• Wie werden Aenderungen mitgeteilt?
• Welche Daten koennen diese Stellen sehen?
• Werden Inputs, Uploads oder Outputs fuer Training, Benchmarking oder Verbesserung genutzt?
• Wie schnell kann das Unternehmen Daten loeschen oder exportieren?

Gerade bei vertraulichen Vertriebsunterlagen, Vertragsanlagen, Personalinformationen oder internen Wissensdatenbanken darf die Antwort nicht in allgemeinen Marketingformulierungen stecken bleiben.

4. Security, Auditierbarkeit und Incident-Prozesse absichern

Eine Due Diligence ist lueckenhaft, wenn Security nur ueber PDFs mit Marketingcharakter geprueft wird. Einkauf und Legal sollten belastbare Nachweise und Vertragsklauseln sehen.

Typische Mindestanforderungen sind:

• Beschreibung der technischen und organisatorischen Massnahmen,
• SOC 2, ISO 27001 oder vergleichbare Reports, soweit verfuegbar,
• Regeln fuer Incident- und Breach-Meldungen,
• Logging- und Admin-Kontrollen,
• Audit-Rechte oder praktikable Ersatzmechanismen.

Fehlen solche Unterlagen oder Bindungen, sollte das Risiko in der Freigabe offen benannt werden.

5. Unterlagen zur KI-Verordnung einholen

Mit Stand 22. Mai 2026 gehoert die KI-Verordnung bereits in jeden ernsthaften KI-Einkauf. Sie ist am 1. August 2024 in Kraft getreten. Verbotene Praktiken und KI-Kompetenzpflichten gelten seit dem 2. Februar 2025. Governance- und GPAI-bezogene Pflichten gelten seit dem 2. August 2025. Die Verordnung gilt grundsaetzlich ab dem 2. August 2026, waehrend Art. 6 Abs. 1 und korrespondierende Pflichten ab dem 2. August 2027 greifen.

Deshalb sollte der Anbieter heute schon mindestens liefern koennen:

• seine Rolle nach der KI-Verordnung,
• Informationen zur Zweckbestimmung und zu Einsatzgrenzen,
• Betreiberinformationen fuer menschliche Aufsicht, Logging und Incident Support,
• Hinweise auf moegliche Anhang-III-Konstellationen,
• Transparenzinformationen, wenn Art. 50 betroffen sein kann.

Fuer die Zeitachse und die procurement-nahe Vertiefung sind unsere Seiten zu den EU-AI-Act-Fristen fuer Unternehmen und zu den Beschaffungsanforderungen nach der KI-Verordnung relevant.

6. IP, Vertraulichkeit und Output-Nutzung klaeren

Viele KI-Vertraege geben dem Anbieter moeglichst weite Rechte und dem Kunden moeglichst wenige Garantien. Das ist gerade bei vertraulichen oder kreativ relevanten Workflows problematisch.

Geprueft werden sollten:

• Rechte an Inputs und Outputs,
• Schutz von Geschaeftsgeheimnissen,
• Wiederverwendung von Daten fuer Training oder Produktverbesserung,
• IP-bezogene Freistellungen,
• interne Regeln fuer die Nutzung von KI-Outputs ohne menschliche Endpruefung.

Dabei geht es nicht nur um Urheberrecht, sondern auch um Vertraulichkeit, fehlerhafte Aussagen und ungepruefte Weiterverwendung.

7. Haftung, Freistellungen und wirtschaftliche Tragfaehigkeit pruefen

Die Vertragspruefung sollte sich nicht daran orientieren, was bei Standard-SaaS ueblich ist, sondern daran, welches Risiko das Unternehmen im konkreten Einsatz traegt.

Wichtig sind insbesondere:

• allgemeine Haftungscaps,
• Carve-outs fuer Vertraulichkeit, Datenschutz und Vorsatz,
• Stellung von IP-Freistellungen im oder ausserhalb des Caps,
• Unterstuetzung bei Regulatoren- oder Incident-Aufklaerung,
• wirtschaftliche Tragfaehigkeit der gesamten Risikoverteilung.

Wenn der Anbieter praktisch alles ausschliesst, ist die Due Diligence nicht abgeschlossen.

8. Mitarbeiter- und HR-Use-Cases separat eskalieren

Recruiting-, Monitoring-, Scheduling- oder Performance-Tools brauchen fast immer eine vertiefte Pruefung. Dort koennen zugleich DSFA, § 26 BDSG, AGG und Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG relevant werden.

Diese Use Cases sollten nicht wie Standard-IT beschafft werden, sondern frueh an Datenschutz, HR, IT-Security und gegebenenfalls den Betriebsrat eskaliert werden.

9. Interne Nutzungsgrenzen vor Freigabe festlegen

Auch ein guter Anbieter ist nur dann kontrollierbar, wenn das Unternehmen seine eigenen Grenzen dokumentiert. Vor Freigabe sollte festgelegt werden:

• welche Daten eingegeben werden duerfen,
• welche Teams oder Rollen Zugriff erhalten,
• welche Admin- und Trainingseinstellungen aktiv sein muessen,
• welche Outputs menschlich geprueft werden muessen,
• wann eine erneute Pruefung noetig wird.

Erst dadurch wird aus der Due Diligence ein betriebsfaehiger Governance-Prozess.

10. Exit, Loeschung und Re-Assessment vorbereiten

Der letzte Punkt wird oft uebersehen, bis es zu spaet ist. Unternehmen sollten vor Vertragsschluss klaeren:

• wie Daten exportiert werden koennen,
• wann und wie der Anbieter Loeschung bestaetigt,
• wie auf neue Subprozessoren oder Modellwechsel reagiert wird,
• wie sich das Tool bei geaenderter Risikolage schnell stoppen laesst.

Ein Anbieter, der leicht zu beschaffen und schwer zu verlassen ist, schafft dauerhaftes Folge-Risiko.

Unterschied zur allgemeinen Anbieterpruefung

Die allgemeine Anbieterpruefung fragt oft nur, ob ein Tool kaufbar ist. KI-Anbieter-Due-Diligence fragt, ob der konkrete Einsatz rechtlich, organisatorisch und wirtschaftlich vertretbar ist und ob das Unternehmen die spaetere Nutzung gegenueber Management, Aufsicht und interner Governance begruenden kann.

Deshalb sollte die Checkliste immer mit der uebergreifenden Seite zu KI-Rechtsrisiken fuer Unternehmen und bei Bedarf mit der DSGVO-Checkliste fuer KI-Tools zusammengedacht werden.

FAQ

Welche Due Diligence sollte ein Unternehmen bei einem KI-Anbieter durchfuehren?

Mindestens die Pruefung von Use Case, DSGVO-Rollen, AVV und Transfers, Subprozessoren, Trainingsnutzung, Security und Audit, KI-Verordnungsunterlagen, IP und Vertraulichkeit, Haftung sowie Exit und Loeschung. Ziel ist die Bewertung des spaeteren Einsatzes, nicht nur des Vertragsdokuments.

Reicht ein AVV fuer die Due Diligence eines KI-Anbieters aus?

Nein. Ein AVV ist notwendig, deckt aber nur den Auftragsverarbeitungsrahmen ab. Training, SCC, Security, KI-Verordnungsbezug, Haftung und die konkrete Unternehmensnutzung muessen zusaetzlich bewertet werden.

Welche Fragen sollte der Einkauf vor dem Kauf eines KI-Tools stellen?

Er sollte nach Datenarten, Verarbeitungsorten, Trainingsnutzung, Subprozessoren, Security-Nachweisen, Betreiberinformationen, Incident-Prozessen, Auditmoeglichkeiten, Haftung, IP und Loeschung fragen. Bleiben zentrale Antworten offen, ist die Freigabe regelmaessig verfrueht.

Seit wann gehoert die KI-Verordnung in die Beschaffung?

Sie gehoert bereits heute hinein. Seit dem 1. August 2024 ist sie in Kraft, seit dem 2. Februar 2025 gelten Verbote und KI-Kompetenzpflichten, seit dem 2. August 2025 Governance- und GPAI-Pflichten, grundsaetzlich ab dem 2. August 2026 die Verordnung und ab dem 2. August 2027 Art. 6 Abs. 1 samt korrespondierender Pflichten.

Brauchen HR- oder Mitarbeiter-Tools eine vertiefte Due Diligence?

Ja. Dort kommen haeufig DSFA, Beschaeftigtendatenschutz, AGG und Mitbestimmung zusammen. Diese Tools sollten vor Pilot und Vertrag besonders eng geprueft werden.

Welche Vertragsklauseln sind vor Freigabe besonders wichtig?

Wichtig sind Trainingsverbote oder Opt-outs, Vertraulichkeit, Audit, Incident-Meldung, Haftungscaps und Carve-outs, Rechte an Inputs und Outputs, Subprozessor-Aenderungen sowie Exit- und Loeschregeln.

Naechster Schritt fuer Unternehmen

Wenn Ihr Unternehmen ein KI-Tool fuer HR, Legal, Vertrieb, Support oder interne Wissensarbeit einkaufen will, sollte die KI-Anbieter-Due-Diligence vor Vertrag und vor Pilot beginnen. Unsere Seite zur KI-Rechtsberatung fuer Unternehmen zeigt, wie Compound Law AVV-Pruefung, Vertragsverhandlung, Betreiberpflichten nach der KI-Verordnung und die rechtssichere Freigabe von KI-Tools gemeinsam begleitet.

Dieser Beitrag enthaelt allgemeine rechtliche Informationen und ersetzt keine Beratung zum konkreten Einzelfall.