AI Act und Bildung: Was deutsche Schulen wissen müssen

Bildungs-KI ist eine Geschichte von zwei Kategorien. Lernwerkzeuge, die Schülern beim Lernen helfen? Generell geringes Risiko. KI, die entscheidet, wer zugelassen wird oder wie Schüler bewertet werden? Hochriskant, mit ernsthaften Compliance-Pflichten.

Die Unterscheidung ist enorm wichtig für deutsche Bildungseinrichtungen.

Zulassung und Bewertung sind hochriskant

Der AI Act listet Bildungs-KI explizit als hochriskant, wenn sie für Zulassungsentscheidungen oder die Bewertung von Lernergebnissen verwendet wird, die Bildungswege beeinflussen. Hochschulzulassungsalgorithmen, automatisierte Benotung, die über Fortschritt entscheidet, KI, die Schüler in verschiedene Bildungswege einteilt—alles hochriskant.

Das bedeutet Risikomanagement, Bias-Tests, Transparenz, menschliche Aufsicht und Dokumentation. Für deutsche Einrichtungen, die an Landesschulgesetze gebunden sind, schichtet sich das auf bestehende Anforderungen.

Lernwerkzeuge sind meist in Ordnung

Adaptive Lernplattformen, KI-Tutoren, Sprachlern-Apps, Forschungsassistenten—diese sind generell geringeres Risiko. Sie unterstützen das Lernen, ohne Zugangsentscheidungen zu treffen. Nutzen Sie sie, dokumentieren Sie sie, aber erwarten Sie keine schweren Compliance-Lasten.

Die Grenze ist, ob die KI Zugang oder Ergebnisse bestimmt. Einem Schüler beim Lernen helfen? Geringes Risiko. Entscheiden, ob er besteht? Höheres Risiko.

Prüfungsaufsicht und Überwachung

Fernprüfungsaufsicht mit KI wirft Warnsignale auf. Wenn sie Schülerverhalten überwacht, “verdächtige” Aktivität erkennt oder Entscheidungen über Betrug trifft, sind Sie in sensiblem Territorium. Emotionserkennung ist verboten. Jede biometrische Verarbeitung braucht sorgfältige Rechtfertigung.

Was das praktisch bedeutet

Bildungseinrichtungen sollten ihre KI-Systeme nach Funktion kartieren. Zulassungs- und Bewertungs-KI braucht die volle Hochrisiko-Behandlung. Lernunterstützungstools brauchen Basisdokumentation. Prüfungsaufsichtssysteme brauchen sorgfältige Prüfung auf verbotene Praktiken.

So hilft Compound Law

• KI-Systeminventar und Klassifizierung
• Zulassungs-KI-Compliance-Frameworks
• Bewertungssystem-Dokumentation
• Prüfungsaufsichts-Richtlinienprüfung
• Landesschulrecht-Integration

Häufig gestellte Fragen

Ist adaptive Lernsoftware hochriskant? Normalerweise nein. Wenn sie Schülern beim Lernen hilft, ohne Noten oder Fortschritt zu bestimmen, ist sie geringeres Risiko.

Was ist mit automatisierter Benotung? Hängt von den Konsequenzen ab. Benotung, die Fortschritt, Abschluss oder Zulassung beeinflusst, ist hochriskant. Übungsquiz-Bewertung nicht.

Haben Privatschulen die gleichen Pflichten? Ja. Der AI Act gilt basierend auf dem, was die KI tut, nicht wer sie betreibt.