KI-Emotionserkennung in Deutschland: Verbote, DSGVO und KI-Verordnung
Emotionserkennungs-KI ist eine der am stärksten eingeschränkten Kategorien unter dem EU AI Act. In vielen Kontexten ist sie vollständig verboten. In anderen unterliegt sie den strengsten Compliance-Anforderungen.
Wenn Sie Emotionserkennungstechnologie nutzen oder in Betracht ziehen, müssen Sie diese Grenzen verstehen.
Was verboten ist
Der AI Act verbietet Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen. Punkt. Sie können keine KI verwenden, um emotionale Zustände von Mitarbeitern aus Gesichtsausdrücken, Stimmmustern, Körpersprache oder anderen biometrischen Signalen bei der Arbeit abzuleiten. Dasselbe gilt für Schüler und Studenten.
Dieses Verbot gilt bereits seit Februar 2025.
Begrenzte Ausnahmen
Emotionserkennung ist nicht vollständig verboten. Medizinische und Sicherheitsanwendungen haben enge Ausnahmen—zum Beispiel Erkennung von Fahrerermüdung für Sicherheitszwecke oder klinische Anwendungen zur Patientenüberwachung.
Aber diese Ausnahmen sind eng und erfordern sorgfältige Compliance-Arbeit. „Wir denken, es wäre nützlich” ist keine Rechtfertigung.
Arbeitsplatz-Implikationen
Deutsches Arbeitsrecht schränkt Mitarbeiterüberwachung bereits ein, aber der AI Act geht weiter. Betriebsräte sind seit Jahren skeptisch gegenüber Emotionserkennung—jetzt ist sie in den meisten Arbeitsplatzkontexten explizit illegal.
Wenn Sie Systeme haben, die emotionale Zustände von Mitarbeitern analysieren—auch indirekt—prüfen Sie diese jetzt. Kundenservice-Stimmungsanalyse, die Mitarbeiterleistungsbewertung berührt, ist problematisch. Interview-Tools, die Kandidatenemotionen bewerten, sind verboten.
Was ist mit kundenorientierten Anwendungen?
Emotionserkennung für Kunden ist nicht verboten, erfordert aber trotzdem sorgfältige Compliance. Transparenz ist obligatorisch: Kunden müssen wissen, dass ihre Emotionen analysiert werden. Und wenn die Daten für folgenreiche Entscheidungen verwendet werden, können Hochrisiko-Anforderungen gelten. Anbieter wie Azure OpenAI für Emotionsanalyse-Anwendungen oder AWS Bedrock für biometrische Erkennungssysteme bieten Konfigurationsoptionen, die Sie für die Compliance-Dokumentation nutzen sollten. Branchenspezifische Anforderungen finden Sie in unseren Leitfäden zu KI-Anforderungen im Gesundheitswesen und den Compliance-Anforderungen im Einzelhandel. Einen vollständigen Überblick über alle EU-AI-Act-Pflichten bietet unser Compliance-Hub.
So hilft Compound Law
- Audit bestehender Systeme auf verbotene Verwendungen
- Compliance-Bewertung für erlaubte Anwendungen
- Betriebsratsberatung zu Emotionserkennung
- Übergangsplanung für Systeme, die eingestellt werden müssen
- Dokumentation für legitime Sicherheitsanwendungen
Häufig gestellte Fragen
Können wir Emotions-KI für Kundenservice-Qualität nutzen? Nur wenn Kunden informiert sind und es die Mitarbeiterleistungsbewertung nicht beeinflusst. Arbeitsplatz-Emotionserkennung ist verboten.
Was ist mit Stimmanalyse für Callcenter-Qualität? Wenn sie emotionale Zustände von Mitarbeitern analysiert, ist sie verboten. Kundenemotionsanalyse erfordert Transparenz.
Ist Fahrerermüdungserkennung erlaubt? Ja, als Sicherheitsanwendung. Aber ordnungsgemäße Dokumentation und Compliance-Arbeit ist erforderlich.
