Verbotene KI-Systeme im EU AI Act: Was seit 2025 in Europa nicht mehr erlaubt ist

Seit dem 2. Februar 2025 sind bestimmte Formen der künstlichen Intelligenz in Europa direkt verboten. Nicht eingeschränkt, nicht an Bedingungen geknüpft: verboten. Ohne allgemeine Ausnahmen, ohne weitere Anpassungszeit.

Der EU AI Act strukturiert die KI-Regulierung in vier Risikoebenen. Die erste — inakzeptables Risiko — enthält keine Compliance-Anforderungen, sondern absolute Verbote. Dieser Leitfaden legt genau fest, was verboten ist, mit welchen Nuancen und was bei Nichtbeachtung passiert.

Warum diese Verbote vor dem Rest des AI Act in Kraft traten

Der AI Act gilt stufenweise. Die meisten Pflichten kommen im August 2026 (Hochrisiko-Systeme) oder August 2027 (Bestandssysteme). Die Verbote für inakzeptables Risiko wurden auf Februar 2025 vorgezogen, weil die Europäische Kommission keine Anpassungszeit für erforderlich hielt: Sie stellen rote Linien dar, die KI-Systeme nie hätten überschreiten dürfen.

Vollständige Liste der seit Februar 2025 geltenden Verbote

1. Unterschwellige Manipulation und Ausnutzung von Schwachstellen

Verboten: das Inverkehrbringen oder die Verwendung von KI-Systemen, die Techniken einsetzen, um das Verhalten von Personen in einer Weise zu beeinflussen, die ihr rationales Bewusstsein umgeht und ihnen schaden kann, sowie Systeme, die Schwachstellen im Zusammenhang mit Alter, Behinderung oder sozioökonomischer Lage ausnutzen.

2. Allgemeines Social Scoring durch Behörden

Verboten: die Verwendung von KI durch Behörden — oder private Akteure in ihrem Auftrag — zur Bewertung oder Einstufung natürlicher Personen anhand ihres Sozialverhaltens oder persönlicher Merkmale, wenn dies zu einer nachteiligen Behandlung in nicht damit zusammenhängenden Bereichen führt.

3. Biometrische Echtzeit-Identifikation in öffentlichen Räumen

Verboten: der Einsatz von Echtzeit-Biometrie-Identifikationssystemen — vorwiegend Live-Gesichtserkennung — in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken. Ausnahmen sind sehr eng gefasst und erfordern eine vorherige richterliche Genehmigung:

• Gezielte Suche nach konkreten Opfern von Menschenhandel, Vermissten oder sexueller Ausbeutung
• Abwehr unmittelbarer, konkreter und verifizierter Terrorbedrohungen
• Lokalisierung und Identifizierung von Verdächtigen schwerer Straftaten (Strafmaß über 3 Jahre)

4. Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen

Verboten: Systeme, die den emotionalen Zustand von Personen in Arbeits- oder Bildungsumgebungen ableiten. Software, die analysiert, ob ein Mitarbeiter konzentriert, abgelenkt, zufrieden oder angespannt ist; oder ein System, das die Aufmerksamkeit von Schülern im Unterricht bewertet. Beide sind verboten.

5. Biometrische Kategorisierung mit Ableitung sensibler Merkmale

Verboten: Biometrische Kategorisierungssysteme, die Personen anhand abgeleiteter sensibler Merkmale einordnen — Rasse oder ethnische Herkunft, politische Meinung, Gewerkschaftszugehörigkeit, religiöse Überzeugungen, Sexualleben oder sexuelle Orientierung — aus biometrischen Daten.

6. Gesichtserkennungsdatenbanken durch massives Scraping

Verboten: die Erstellung oder Erweiterung von Gesichtserkennungsdatenbanken durch massives, undifferenziertes Scraping von Gesichtsbildern aus dem Internet oder CCTV. Solche Trainingsdatenbanken sind direkt verboten, unabhängig von ihrer beabsichtigten Nutzung.

7. Kriminalprädiktion allein auf Basis des Profils

Verboten: die Nutzung von KI zur Bewertung des Risikos einer Straftbegehung, die sich ausschließlich auf das Profil oder die persönlichen Merkmale einer Person stützt, ohne die Einschätzung auf beobachtbare, objektive Verhaltensweisen zu stützen.

Welche Ausnahmen es gibt

Die einzigen Ausnahmen betreffen die biometrische Echtzeit-Identifikation zu Strafverfolgungszwecken (die drei genannten Szenarien). Für alle anderen Verbote gibt es keine Ausnahmen.

Bußgelder für den Einsatz verbotener KI-Systeme

Der AI Act reserviert seine höchsten Bußgelder für Systeme mit inakzeptablem Risiko: bis zu 35 Millionen Euro oder 7 % des globalen Jahresumsatzes, wobei immer der höhere Betrag gilt. Aufsichtsbehörden können zudem die sofortige Marktrücknahme anordnen.

Praktische Auswirkungen für Technologieunternehmen

• Produktivitätswerkzeuge mit Verhaltensanalyse von Mitarbeitenden: wenn emotionale oder kognitive Zustände abgeleitet werden, befinden sie sich im verbotenen Bereich
• Biometrische Authentifizierungssysteme in B2B-Anwendungen: Authentifizierung (Identitätsprüfung) ist nicht verboten; verboten ist die Massenidentifikation und Kategorisierung nach sensiblen Merkmalen
• Zielgruppen- oder Nutzungsanalyseprodukte: wenn Emotionsableitung oder psychologisches Profiling enthalten ist, sorgfältig prüfen
• Kandidaten-Screening-Tools: Scoring mit emotionaler oder psychologischer Bewertung ohne validierte wissenschaftliche Grundlage betritt die Risikozone

Wie Yeeply helfen kann

Wenn Sie Zweifel haben, ob eine KI-Komponente Ihres Produkts in eine verbotene Kategorie fallen könnte, ist der erste Schritt eine technisch-rechtliche Analyse der tatsächlichen Systemfunktion. Bei Yeeply arbeiten wir mit zertifizierten Unternehmen, die AI-Act-Restriktionen bereits von der Designphase an in ihre Architekturen einbauen.

Für budgetbewusste Projekte arbeiten wir auch mit spezialisierten spanischen Teams, die dieselben technischen Garantien zu 30–40 % niedrigeren Kosten bieten. Nutzen Sie den Button Angebot anfordern auf yeeply.com/de oder schreiben Sie an sales@yeeply.com.