KI-Sprachassistenten: Was deutsche Unternehmen wissen müssen
Sprachassistenten sind begrenztes-Risiko-KI unter dem EU AI Act. Sie unterliegen nicht den strengsten Anforderungen, aber Transparenzpflichten gelten—und sie sind nicht trivial.
Die Kernanforderung: Offenlegung
Wenn jemand mit einem Sprachassistenten interagiert, muss er wissen, dass er mit KI spricht. Das scheint offensichtlich bei Alexa oder Google Assistant, ist aber weniger klar in Kundenservice-Kontexten, wo Sprach-KI nahtlos Anrufe bearbeiten kann.
Die Offenlegung muss vor oder zu Beginn der Interaktion erfolgen. „Hallo, Sie sprechen mit unserem KI-Assistenten”—etwas Klares und Vorausgehendes.
Synthetische-Stimme-Anforderungen
KI-generierte Sprache hat zusätzliche Transparenzpflichten. Wenn Ihr System Stimme synthetisiert, die mit einem Menschen verwechselt werden könnte, müssen Sie offenlegen, dass sie KI-generiert ist. Das gilt für Deepfake-Audio, Voice-Cloning und realistisches Text-to-Speech in Kontexten, wo menschliche Stimme erwartet wird.
Kundenservice-Sprach-KI
Sprach-KI, die Kundenanrufe bearbeitet, braucht klare Offenlegung. Wenn KI das vollständige Gespräch führt, ist Offenlegung am Anfang erforderlich. Wenn KI initiales Routing vor Weiterleitung an Menschen übernimmt, braucht der KI-Teil trotzdem Offenlegung.
Anrufe aufzuzeichnen und zu analysieren wirft DSGVO-Fragen über AI-Act-Anforderungen hinaus auf. Sprachdaten sind personenbezogene Daten—möglicherweise biometrische Daten, wenn sie zur Identifizierung verwendet werden.
Betriebsrats-Überlegungen
Sprach-KI, die Mitarbeiteranrufe überwacht, erfordert Betriebsratszustimmung nach §87 BetrVG. Selbst Qualitätssicherungsanwendungen brauchen Betriebsratsbeteiligung, wenn sie Mitarbeiterinteraktionen verfolgen oder bewerten.
So hilft Compound Law
- Transparenz-Implementierung für Sprach-KI
- DSGVO-Compliance für Sprachdatenverarbeitung
- Betriebsratskoordination für mitarbeiterberührende Systeme
- Laufende Überwachung bei Anforderungsänderungen
Häufig gestellte Fragen
Brauchen wir Offenlegung für IVR-Systeme? Einfache menübasierte IVR braucht typischerweise keine KI-Offenlegung. Konversations-KI, die menschliche Interaktion simuliert, schon.
Was ist mit Stimmauthentifizierung? Stimmbiometrie zur Authentifizierung ist Hochrisiko unter dem AI Act, nicht nur begrenztes Risiko, und erfordert umfassende Compliance.
Ist Anrufaufzeichnung für KI-Training erlaubt? DSGVO verlangt Rechtsgrundlage—typischerweise Einwilligung. Der AI Act fügt Transparenzanforderungen über KI-Verarbeitung hinzu.
