Die vier Risikoklassen des EU AI Act

Die KI-Verordnung (EU) 2024/1689 regelt KI-Systeme risikobasiert: Je höher das Risiko für Menschen, desto strenger die Pflichten. Dieser Leitfaden erklärt die vier Stufen – verboten, Hochrisiko, Transparenz und minimales Risiko – mit Beispielfällen aus dem interaktiven Trainer AI ACT BLITZ. Maßgeblich ist immer die jeweils anwendbare Fassung der Verordnung, inklusive Übergangsfristen; diese Seite ersetzt keine Rechtsberatung.

🔴 Verbotene Praktiken (Art. 5)

Bestimmte KI-Praktiken sind in der EU grundsätzlich untersagt – etwa weil sie in die Entscheidungsfreiheit oder Würde eingreifen. Das Verbot gilt seit dem 2. Februar 2025. Verstöße können mit bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes geahndet werden (Art. 99).

Typische Beispiele aus dem Trainer:

• Eine Behörde nutzt einen KI-Sozialscore aus Freizeitverhalten, um sachfremd Sozialleistungen zu verweigern.
  Art. 5 Abs. 1 c: Social Scoring mit sachfremder oder unverhältnismäßiger Benachteiligung ist verboten – auch durch private Akteure.
• Die Polizei identifiziert live per KI alle Passanten am Bahnhof, ohne eine gesetzliche Ausnahme.
  Art. 5 Abs. 1 h: Verbot bei Strafverfolgungszwecken im öffentlichen Raum; eng begrenzte Ausnahmen bleiben möglich.
• Ein Tool liest per Webcam die Emotionen der Mitarbeiter im Open Space, um Motivation zu messen.
  Art. 5 Abs. 1 f: Emotionserkennung am Arbeitsplatz ist grundsätzlich verboten; medizinische oder Sicherheitszwecke sind ausgenommen.
• Ein Start-up scrapt ungezielt Millionen Gesichtsfotos aus dem Netz für eine Erkennungsdatenbank.
  Art. 5 Abs. 1 lit. e: Ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder aus Überwachungsaufnahmen ist verboten.

🟠 Hochrisiko (Art. 6, Anhang III)

Hochrisiko-Systeme sind erlaubt, aber mit umfangreichen Pflichten: Risikomanagement, Datenqualität, technische Dokumentation, menschliche Aufsicht und mehr. Betroffen sind unter anderem Bewerbungsverfahren, Kreditvergabe, Bildung, Justiz und kritische Infrastruktur.

• Ein Algorithmus sortiert Bewerbungen vor und rankt Kandidaten für die Personalabteilung.
  Anhang III Nr. 4 lit. a: Vorauswahl und Ranking von Bewerbungen ist Hochrisiko.
• Eine KI entscheidet mit, welche Mitarbeiter befördert und welche gekündigt werden.
  Anhang III Nr. 4 lit. b: Entscheidungen über Beförderung und Beendigung sind Hochrisiko.
• Eine Bank bewertet die Kreditwürdigkeit von Privatkunden automatisiert per Scoring-Modell.
  Anhang III Nr. 5 lit. b: Kreditwürdigkeitsprüfung natürlicher Personen ist Hochrisiko; Systeme zur Aufdeckung von Finanzbetrug sind ausgenommen.
• Eine KI korrigiert und bewertet Abschlussprüfungen an einer Universität.
  Anhang III Nr. 3 lit. b: Bewertung von Lernergebnissen und Prüfungen ist Hochrisiko.

🟡 Transparenzpflichten (Art. 50)

Manche Systeme dürfen ohne aufwändige Zulassung eingesetzt werden, müssen aber offenlegen, dass KI im Spiel ist – etwa Chatbots oder Deepfakes. Transparenzpflichten können zusätzlich zu Hochrisikopflichten bestehen.

• Ein Support-Chatbot beantwortet Kundenfragen – Nutzer müssen wissen, dass keine Menschen antworten.
  Art. 50 Abs. 1: Offenlegung der Interaktion mit einem KI-System, sofern das nicht offensichtlich ist.
• Ein Werbevideo imitiert per KI einen realen Moderator und wirkt wie dessen echte Produktempfehlung.
  Art. 50 Abs. 4: Betreiber müssen diesen Deepfake offenlegen. Persönlichkeits- und Werberecht gelten zusätzlich.
• Der CEO will das Deepfake-Testimonial heute live schalten – ohne jeden Hinweis.
  Art. 50 Abs. 4: Deepfakes sind offenzulegen; ein Livegang ohne Hinweis ist unzulässig.
• Ein Newsportal veröffentlicht KI-Texte zu politischen Tagesthemen ohne menschliche Inhaltsprüfung oder redaktionelle Kontrolle.
  Art. 50 Abs. 4: Offenlegung; Ausnahme bei menschlicher Prüfung/redaktioneller Kontrolle und übernommener redaktioneller Verantwortung.

🟢 Minimales Risiko

Der Großteil alltäglicher KI-Anwendungen – Spamfilter, Spielgegner, Schreibhilfen – fällt unter keine der besonderen Pflichten. „Minimal“ heißt aber nicht „unreguliert“: Datenschutz und sonstige Gesetze gelten weiterhin.

• Ein Spam-Filter sortiert Werbemails automatisch in einen separaten Ordner.
  Spamfilter fallen unter keine der besonderen Pflichten – minimales Risiko.
• Eine Musik-App empfiehlt Songs basierend auf dem Hörverlauf.
  Empfehlungen im Streaming: minimales Risiko.
• Eine Rechtschreibhilfe korrigiert Grammatik in E-Mails.
  Schreibhilfen: minimales Risiko.

Selbst testen

Alle Beispiele oben stammen aus AI ACT BLITZ. Trainiere die Einordnung im Spiel – in wenigen Minuten erkennst du die Muster. Weitere Details stehen in den Spielhinweisen & Quellen.