KI-Rechtsrisiken für Unternehmen vor dem Rollout (2026)
Die Kurzantwort
KI-Rechtsrisiken für Unternehmen in Deutschland liegen meist in fünf Bereichen: DSGVO und Datenflüsse, Pflichten nach der EU-KI-Verordnung, IP und Vertraulichkeit, Vertrags- und Haftungsfragen sowie Arbeitsrecht bei mitarbeiterbezogenen Systemen. Vor dem Rollout braucht es deshalb eine strukturierte Risikobewertung mit Use-Case-Einordnung, Anbieterprüfung, Human Oversight und klaren Nutzungsgrenzen.
- Schon der Pilot mit Echtdaten kann DSGVO-, SCC- und AVV-Fragen auslösen.
- Betreiberpflichten nach der KI-Verordnung müssen im Unternehmen selbst verankert werden.
- Vertragsmuster des Anbieters decken Vertraulichkeit, Output-Risiken und Bußgeldexposure oft nur unzureichend ab.
- HR- und Betriebsratsfragen sollten vor Freigabe und nicht erst vor Go-live geprüft werden.
KI-Rechtsrisiken für Unternehmen in Deutschland liegen beim Einsatz von KI meist gleichzeitig in DSGVO und Datenflüsse, Betreiberpflichten nach der EU-KI-Verordnung, IP und Vertraulichkeit, Vertrags- und Haftungsfragen sowie Arbeitsrecht und Mitbestimmung. Vor Pilot und Rollout sollten Rechtsabteilung, Datenschutz, Einkauf, IT-Security und die betroffenen Fachbereiche deshalb gemeinsam prüfen, ob der konkrete Use Case rechtlich und organisatorisch tragfähig ist.
Genau dort scheitern viele Einführungen: Nicht weil KI im Unternehmen generell unzulässig wäre, sondern weil ein konkretes Tool mit Echtdaten, sensiblen Workflows oder Mitarbeiterbezug zu spät geprüft wird. Für deutsche Unternehmen reicht es daher nicht, nur auf Datenschutzhinweise oder ein Security-Fact-Sheet zu schauen. Entscheidend ist eine belastbare Risikobewertung vor dem Rollout.
Direkte Antwort: Welche KI-Rechtsrisiken sind vor dem Rollout zu prüfen?
Vor dem Rollout sollten Unternehmen in Deutschland vor allem diese fünf KI-Rechtsrisiken prüfen:
- DSGVO- und Transfer-Risiken, wenn Personenbezug, Drittlandzugriffe, fehlende AVV-Regelungen oder Trainingsnutzung im Raum stehen.
- Pflichten nach der KI-Verordnung, wenn Transparenz, Logging, menschliche Aufsicht oder Hochrisiko-Kontexte relevant werden können.
- IP- und Vertraulichkeitsrisiken, wenn Vertriebsdaten, Verträge, Produktpläne oder andere Geschäftsgeheimnisse in das System gelangen.
- Vertrags- und Haftungsrisiken, wenn der Anbieter seine Verantwortung stark begrenzt und das wirtschaftliche Rest-Risiko beim Unternehmen bleibt.
- Arbeitsrechtliche und mitbestimmungsrechtliche Risiken, wenn Bewerber, Beschäftigte, Leistung, Kommunikation oder Monitoring betroffen sind.
Für die operative Erstprüfung hilft die folgende Matrix:
| Risikobereich | Typischer Auslöser | Was Unternehmen vor Go-live klären sollten |
|---|---|---|
| DSGVO und BDSG | Kunden-, Mitarbeiter-, Support- oder Vertragsdaten im Tool | Rollen, Rechtsgrundlage, AVV, SCC, Löschung, DSFA |
| KI-Verordnung | Chatbots, HR-KI, Scoring, sensible Entscheidungsunterstützung | Betreiberrolle, Transparenz, Dokumentation, Hochrisiko-Nähe |
| IP und Vertraulichkeit | Prompts mit internen Unterlagen, Code, Vertragsmustern oder Roadmaps | Training, Wiederverwendung, Geheimnisschutz, Output-Nutzung |
| Vertrag und Haftung | Standardbedingungen mit niedrigen Caps und breiten Ausschlüssen | Freistellungen, Incident-Prozesse, Audit, Bußgeld- und Schadensrisiken |
| Arbeitsrecht | Recruiting, Performance, Schichtplanung, Monitoring | § 26 BDSG, AGG, Betriebsrat, Human Review |
Wenn Sie den Datenschutz- und Beschaffungspfad zuerst strukturieren möchten, bauen unsere Leitfäden zur KI-Beschaffung unter DSGVO und AI Act, zur DSGVO-Checkliste für KI-Tools und zur KI-Anbieter-Due-Diligence darauf auf.
Governance-Landkarte: DSGVO, KI-Verordnung, Vertraulichkeit, Arbeitsrecht und Einkauf
Eine saubere Governance-Landkarte hilft, bevor einzelne Teams aneinander vorbeiprüfen. Denn das rechtliche Risiko entsteht oft gerade an den Schnittstellen.
Die wichtigsten Ebenen sind:
- DSGVO und BDSG Wer ist Verantwortlicher, wer Auftragsverarbeiter, welche Daten dürfen in das Tool, wo wird verarbeitet und ob eine Datenschutz-Folgenabschätzung nötig ist.
- EU-KI-Verordnung Ob Transparenzpflichten, Betreiberpflichten oder eine Nähe zu Anhang III-Konstellationen besteht und welche Unterlagen dafür vorliegen.
- IP und Vertraulichkeit Ob Prompts, Dateien und Outputs Geschäftsgeheimnisse, urheberrechtlich sensibles Material oder vertrauliche Vertragsinformationen betreffen.
- Einkauf und Vertrag Ob Haftung, Auditierbarkeit, Subprozessoren, Incident-Meldung, Trainingsnutzung und Exit-Rechte zum realen Unternehmensrisiko passen.
- Arbeitsrecht und Mitbestimmung Ob Beschäftigtendaten, Recruiting, Leistungsbeurteilung oder Monitoring betroffen sind und der Betriebsrat eingebunden werden muss.
Ein allgemeines KI-Policy-Dokument kann diese Landkarte vorbereiten. Es ersetzt aber nicht die konkrete Freigabeprüfung für ein einzelnes Tool.
So führen Unternehmen vor dem Go-live eine KI-Risikobewertung durch
Für die Praxis braucht es keinen abstrakten Großprozess, sondern eine belastbare Vorab-Prüfung. Diese sieben Schritte haben sich für Unternehmen in Deutschland bewährt:
- Use Case und Owner festlegen Welcher Fachbereich will das Tool wofür einsetzen, welche Systeme werden angebunden und welche Outputs sollen entstehen?
- Rechtliche Relevanz klassifizieren Betrifft der Einsatz Mitarbeiter, Bewerber, Kundenkommunikation, Scoring oder andere sensible Entscheidungen?
- Datenflüsse erfassen Welche personenbezogenen Daten, internen Dokumente und Geschäftsgeheimnisse können in das System gelangen?
- Anbieterunterlagen prüfen AVV, SCC, Subprozessorenliste, Trainingsnutzung, Retention, Security-Unterlagen und AI-Act-bezogene Informationen einsammeln.
- Human Oversight und interne Kontrollen festlegen Welche Outputs müssen zwingend von Menschen freigegeben werden und wie werden Vorfälle oder Policy-Verstöße eskaliert?
- Vertragliche Risikoverteilung bewerten Haftungscaps, Vertraulichkeit, Audit-Rechte, Incident-Pflichten, IP-Klauseln und Löschung gemeinsam lesen.
- Nutzungsgrenzen dokumentieren Festhalten, welche Daten erlaubt sind, welche Abteilungen zugreifen dürfen und wann ein Re-Assessment ausgelöst wird.
Diese Checkliste schafft nicht nur Compliance, sondern auch Nachvollziehbarkeit gegenüber Management, Einkauf, Datenschutzaufsicht oder interner Revision.
Use Case, Zweckbestimmung und Einordnung nach der KI-Verordnung
Die Bewertung sollte immer mit dem konkreten Einsatz starten, nicht mit der Etikette des Anbieters. Ein “allgemeiner Copilot” kann rechtlich harmlos oder hochsensibel sein, je nachdem ob er auf anonymisierten Vorlagen arbeitet oder auf Bewerbungen, Personalakten, Vertragsarchiven oder Kundenkommunikation zugreift.
Fragen Sie deshalb zuerst:
- Welcher Zweck ist vorgesehen?
- Wer nutzt das Tool und in welchem Prozess?
- Bereitet es Entscheidungen über Mitarbeiter, Bewerber, Kunden oder Zugang zu Leistungen vor?
- Wird mit Echtdaten gearbeitet?
- Könnte der Einsatz in einen Anhang-III-Kontext der KI-Verordnung fallen?
Mit Stand 22. Mai 2026 sollte die Zeitleiste sauber benannt werden. Die KI-Verordnung ist am 1. August 2024 in Kraft getreten. Verbotene Praktiken und KI-Kompetenzpflichten gelten seit dem 2. Februar 2025. Governance-Regeln und GPAI-bezogene Pflichten gelten seit dem 2. August 2025. Die Verordnung gilt grundsätzlich ab dem 2. August 2026, während Art. 6 Abs. 1 und korrespondierende Pflichten ab dem 2. August 2027 greifen. Für die Fristen im Detail verweisen wir auf unsere EU-AI-Act-Fristenseite.
Datenflüsse, AVV, SCC, Retention und Subprozessoren
Die nächste Risikoschicht liegt in den Datenflüssen. Genau hier entstehen häufig die ersten Rechtsverstosse, oft schon im Pilot.
Geprüft werden sollten mindestens:
- ein belastbarer AVV nach Art. 28 DSGVO,
- Speicher- und Zugriffsorte,
- SCCs oder andere Drittlandmechanismen,
- eingebundene Subprozessoren,
- Lösch- und Retention-Einstellungen,
- Regeln zur Trainings- oder Verbesserungsnutzung von Prompts, Uploads, Dateien und Outputs,
- mögliche DSFA-Pflichten nach Art. 35 DSGVO.
Besonders sensibel wird der Einsatz bei Bewerber- und Beschäftigtendaten. Dann kommen § 26 BDSG, mögliche AGG-Risiken und oft auch die Mitbestimmung des Betriebsrats hinzu.
Human Oversight und interne Kontrollmechanismen
KI-Rechtsrisiken lassen sich nicht nur über Dokumente steuern. Das Unternehmen braucht auch interne Regeln dafür, wie mit dem Tool gearbeitet werden darf.
Typische Mindestkontrollen sind:
- Pflicht zur menschlichen Prüfung bei HR-, Legal-, Finance- oder Kunden-Outputs,
- Rollen- und Zugriffsbeschränkungen,
- Logging für sensible Workflows,
- Eskalationspfade für Halluzinationen, Vorfälle oder Bias-Hinweise,
- erneute Freigabe bei Modellwechseln, neuen Integrationen oder geänderter Trainingsnutzung.
Gerade bei generativer KI ist der Kern des Rechtsrisikos oft nicht das System selbst, sondern die unkontrollierte Übernahme von Outputs in echte Unternehmensentscheidungen.
Vertragliche Risikoverteilung, Haftung und Change Management
Viele Anbieterbedingungen sind für Standard-SaaS konzipiert und nicht für sensible KI-Rollouts. Unternehmen sollten deshalb vor allem diese Punkte gemeinsam lesen:
- Haftungscaps und Carve-outs,
- Vertraulichkeit und Geheimnisschutz,
- Rechte an Inputs und Outputs,
- Freistellungen für IP-Ansprüche,
- Incident- und Breach-Meldung,
- Audit-Rechte oder belastbare Ersatznachweise,
- Umgang mit neuen Subprozessoren, neuen Modellen oder geänderten Nutzungsbedingungen,
- Export-, Lösch- und Exit-Regeln.
Unter deutschem Recht sollte diese Prüfung immer auch die AGB-Kontrolle nach §§ 305 bis 310 BGB mitdenken. “Marktüblich” bedeutet nicht automatisch angemessen für einen rechtlich sensiblen Unternehmensprozess.
Wann ein allgemeines KI-Framework nicht mehr ausreicht
Ein allgemeines Framework ist sinnvoll für Grundregeln, Schulung und Eskalation. Es reicht aber nicht mehr aus, wenn:
- ein konkretes Tool mit echten Kunden-, Vertrags- oder Mitarbeiterdaten arbeiten soll,
- das System in HR, CRM, interne Wissenssuche oder Kundenkommunikation integriert wird,
- der Anbieter eigene Trainingsrechte beansprucht,
- Outputs für rechtlich oder wirtschaftlich relevante Entscheidungen genutzt werden,
- Transparenz- oder Hochrisiko-Fragen nach der KI-Verordnung aufkommen.
Dann braucht es eine tool-spezifische KI-Anbieter-Due-Diligence sowie häufig auch die procurement-nahe Vertiefung zu Beschaffungsanforderungen nach der KI-Verordnung.
Nächster Schritt für Unternehmen
Wenn Ihr Unternehmen KI in HR, Legal, Vertrieb, Support oder internen Wissenssystemen einsetzen will, sollte die Rechtsprüfung vor Pilot und Einkauf beginnen. Unsere Seite zur KI-Rechtsberatung für Unternehmen zeigt, wie Compound Law KI-Governance, DSGVO- und AVV-Prüfung, KI-Anbieter-Due-Diligence, EU-AI-Act-Readiness und die Abstimmung mit HR und Betriebsrat in einem Mandat verbindet.
Dieser Beitrag enthält allgemeine rechtliche Informationen und ersetzt keine Beratung zum konkreten Einzelfall.