Der EU AI Act ist kein pauschales Verbotsschild für künstliche Intelligenz. Er ist eher ein Sortiersystem: Manche KI-Praktiken sind verboten, manche Anwendungen gelten als Hochrisiko, einige brauchen klare Hinweise für Nutzer – und viele Alltagsfunktionen bleiben erlaubt, solange sie nicht in sensible Entscheidungen eingreifen.
Genau diese Unterscheidung ist im Alltag wichtiger als die Frage, ob irgendwo „KI“ auf einer Produktseite steht. Eine Fotofunktion im Smartphone, ein Chatbot im Kundendienst, ein Bewerbungsfilter, ein biometrisches System oder ein KI-Modell in einer Plattform werden regulatorisch unterschiedlich behandelt. Wer das versteht, kann Produktankündigungen, Compliance-Debatten und Verbraucherhinweise viel nüchterner einordnen.
Das Wichtigste auf einen Blick
- Nicht die Technik allein entscheidet, sondern der Einsatz. Ein Modell kann harmlos wirken, aber in Recruiting, Bildung, Sicherheit oder kritischer Infrastruktur deutlich strengeren Regeln unterliegen.
- Verbotene Praktiken betreffen besonders manipulative, ausbeuterische oder bestimmte biometrische und soziale Bewertungsszenarien.
- Hochrisiko-KI bleibt möglich, braucht aber Risikomanagement, Datenqualität, Dokumentation, menschliche Aufsicht und Marktüberwachung.
- Transparenzpflichten sollen Nutzer erkennen lassen, wenn sie mit KI interagieren oder künstlich erzeugte Inhalte sehen.
- Normale Consumer-KI ist nicht automatisch Hochrisiko. Ein Foto-Filter ist anders zu bewerten als ein System, das über Job, Kredit oder Zugang zu Leistungen mitentscheidet.
Suchintention: Welche KI-Funktion ist wirklich reguliert?
Die praktische Frage lautet: Was macht die KI konkret, für wen, mit welchen Folgen? Der AI Act arbeitet risikobasiert. Er fragt nicht nur, ob ein neuronales Netz, ein Sprachmodell oder ein Klassifikator verwendet wird. Entscheidend ist, ob Menschen beeinflusst, bewertet, identifiziert, ausgeschlossen oder in wichtigen Lebensbereichen abhängig von einer automatisierten Entscheidung werden.
Deshalb reicht eine einfache „KI ja/nein“-Checkliste nicht. Wenn du ein neues Tool bewertest, brauchst du drei Schritte: erst den Zweck beschreiben, dann die betroffenen Personen und Folgen klären, danach die Risikoklasse prüfen. Für einfache Nutzung reicht oft Transparenz. Für sensible Entscheidungen brauchst du belastbare Governance.
Die vier praktischen Schubladen
| Schublade | Typische Frage | Praktische Folge |
|---|---|---|
| Verbotene Praxis | Wird Verhalten manipuliert, Schwäche ausgenutzt oder unzulässig bewertet? | Nicht einsetzen; Produktidee oder Prozess stoppen. |
| Hochrisiko-KI | Entscheidet oder unterstützt das System in sensiblen Bereichen? | Risikomanagement, Dokumentation, Tests, Aufsicht und Compliance nötig. |
| Transparenzpflicht | Merken Nutzer, dass sie mit KI oder synthetischem Inhalt zu tun haben? | Klare Hinweise, Kennzeichnung und nachvollziehbare Kommunikation. |
| Geringeres Risiko | Bleibt die Funktion unterstützend, reversibel und ohne gravierende Folgen? | Erlaubt, aber Datenschutz, Sicherheit und Produktverantwortung bleiben relevant. |
Verbotene KI: Wo die rote Linie liegt
Die strengste Stufe betrifft Praktiken, die der Gesetzgeber nicht nur kontrollieren, sondern grundsätzlich ausschließen will. Dazu gehören besonders problematische Formen manipulativer Beeinflussung, die Ausnutzung von Schutzbedürftigkeit oder bestimmte Social-Scoring-Logiken. Auch biometrische Anwendungen werden enger gefasst, wenn sie Menschen in öffentlichen oder sensiblen Kontexten unverhältnismäßig erfassen oder kategorisieren.
Für Produktteams heißt das: Wenn der Nutzen nur dadurch entsteht, dass Nutzer nicht verstehen, wie sie beeinflusst werden, ist das kein UX-Trick, sondern ein Risiko. Ein häufiger Fehler entsteht, wenn ein Unternehmen eine problematische Funktion als „Personalisierung“ bezeichnet, obwohl sie faktisch Verhalten ausnutzt oder Schutzbedürftige besonders trifft.
Hochrisiko-KI: Erlaubt, aber nicht leichtfertig
Hochrisiko bedeutet nicht automatisch verboten. Es bedeutet: Der Einsatz kann erhebliche Folgen haben, also braucht er belastbare Kontrollen. Typische Bereiche sind Beschäftigung, Bildung, bestimmte Sicherheitsfunktionen, kritische Infrastruktur, Zugang zu wichtigen privaten oder öffentlichen Leistungen und einige Anwendungen rund um Strafverfolgung, Migration oder Justiz.
Wenn du KI für eine nette Sortierhilfe im privaten Fotoalbum nutzt, brauchst du keine Hochrisiko-Architektur. Wenn dieselbe Art von Klassifikation aber Bewerber vorselektiert, Leistungsansprüche bewertet oder Sicherheitszugänge beeinflusst, ändert sich die Lage. Für einfache interne Experimente reicht dann nicht mehr „funktioniert im Test“. Nötig werden dokumentierte Datenbasis, Qualitätssicherung, menschliche Aufsicht, Fehlerwege und Verantwortlichkeiten.
Transparenzpflichten: Wann Nutzer es wissen müssen
Eine weitere wichtige Kategorie sind Transparenzpflichten. Nutzer sollen nicht raten müssen, ob sie mit einem Menschen oder einem KI-System interagieren. Ebenso sollen künstlich erzeugte oder manipulierte Inhalte in bestimmten Kontexten erkennbar sein. Das betrifft etwa Chatbots, synthetische Medien und Deepfake-nahe Inhalte.
Die praktische Leitfrage lautet: Würde ein durchschnittlicher Nutzer sein Verhalten ändern, wenn er wüsste, dass KI beteiligt ist? Wenn ja, sollte der Hinweis nicht im Kleingedruckten verschwinden. Gute Kennzeichnung ist kurz, sichtbar und situationsnah: direkt am Chat, am Inhalt oder im Workflow – nicht nur in einer allgemeinen Datenschutzseite.
Allzweck-KI und Consumer-Funktionen sauber trennen
Sprachmodelle und andere General-Purpose-AI-Systeme haben eine Sonderrolle, weil sie in viele Produkte eingebaut werden können. TechZeitgeist hat diesen Punkt bereits im Artikel zum EU AI Act und Allzweck-KI im Alltag vertieft. Dieser Artikel hier setzt eine Ebene darunter an: Er fragt, welche konkrete Funktion am Ende reguliert wird.
Das ist wichtig, weil ein Anbieter eines Grundmodells andere Pflichten haben kann als ein Unternehmen, das dieses Modell für Bewerbungsprozesse, medizinische Vorprüfung oder Kundenkommunikation nutzt. Für normale Nutzer klingt beides nach „KI“. Rechtlich und praktisch sind es aber unterschiedliche Rollen in derselben Lieferkette.
Entscheidungslogik für Unternehmen und Nutzer
Wenn du ein KI-Feature einordnen willst, hilft eine einfache Reihenfolge. Erstens: Beschreibe die Funktion ohne Marketingwörter. Nicht „intelligente Plattform“, sondern „System bewertet Bewerbungen nach Kriterien X“. Zweitens: Frage, ob Menschen dadurch Zugang, Chancen, Geld, Sicherheit oder Rechte verlieren können. Drittens: Prüfe, ob Nutzer KI erkennen müssen. Viertens: Lege fest, wer den Output kontrolliert und wie Fehler korrigiert werden.
Wenn du nur Komfort automatisierst, brauchst du vor allem klare Kommunikation und solide Produktqualität. Wenn du Entscheidungen vorbereitest, brauchst du menschliche Aufsicht und nachvollziehbare Kriterien. Wenn du Menschen in sensiblen Bereichen bewertest, solltest du nicht ohne rechtliche und technische Prüfung starten. Überdimensioniert ist eine Hochrisiko-Maschinerie für jeden kleinen Textassistenten; gefährlich unterdimensioniert ist ein Chatbot, der faktisch Entscheidungen über Menschen vorbereitet.
Was der AI Act nicht löst
Der AI Act macht KI nicht automatisch wahr, fair oder sicher. Er setzt Regeln für bestimmte Risiken, ersetzt aber keine gute Datenqualität, kein Sicherheitskonzept und keine redaktionelle Verantwortung. Ein korrekt gekennzeichneter KI-Text kann trotzdem falsch sein. Ein dokumentiertes System kann trotzdem schlechte Trainingsdaten haben. Und eine erlaubte Funktion kann aus Datenschutz- oder IT-Sicherheitsgründen problematisch bleiben.
Für Verbraucher ist deshalb die nüchterne Haltung sinnvoll: Regulierung ist ein Sicherheitsnetz, kein Qualitätsversprechen. Achte darauf, ob ein Anbieter erklärt, wofür die KI eingesetzt wird, wie menschliche Kontrolle aussieht und wie du Fehler melden oder Entscheidungen anfechten kannst.
Warum das dauerhaft relevant ist
Der AI Act wird über Jahre stufenweise wirksam und trifft nicht nur einzelne KI-Produkte, sondern ganze Lieferketten aus Modellanbietern, Plattformen, App-Entwicklern und Anwenderunternehmen. Stand 2026 gilt: Wer KI nur als neues Feature betrachtet, übersieht die eigentliche Veränderung. Die relevante Frage lautet nicht mehr nur „Kann das Modell das?“, sondern „In welchem Risiko-Kontext wird es eingesetzt?“
Genau deshalb bleibt das Thema evergreen. Neue Modelle, neue Smartphones, neue Office-Funktionen und neue Plattformdienste werden kommen. Die Sortierlogik bleibt: Zweck, Folgen, Transparenz, Kontrolle. Wer diese vier Punkte sauber prüft, versteht die meisten AI-Act-Debatten schneller – und fällt seltener auf übertriebene Verbots- oder Entwarnungsrhetorik herein.
FAQ
Ist jede KI im EU AI Act Hochrisiko?
Nein. Viele Alltagsfunktionen sind kein Hochrisiko. Hochrisiko wird es vor allem, wenn KI in sensiblen Bereichen Entscheidungen vorbereitet oder beeinflusst, etwa bei Arbeit, Bildung, kritischer Infrastruktur oder wichtigen Leistungen.
Dürfen Unternehmen Chatbots weiter einsetzen?
Ja, grundsätzlich schon. Sie müssen aber je nach Einsatz klar machen, dass Nutzer mit KI interagieren, und dürfen den Chatbot nicht in Bereiche schieben, in denen eigentlich strengere Prüfung oder menschliche Verantwortung nötig ist.
Was ist der Unterschied zwischen Allzweck-KI und Hochrisiko-KI?
Allzweck-KI beschreibt Modelle, die viele Aufgaben erfüllen können. Hochrisiko beschreibt den konkreten Einsatz in sensiblen Anwendungsfeldern. Ein Grundmodell kann also allgemein sein, während eine konkrete Anwendung darauf hochriskant wird.
Muss KI-Inhalt immer gekennzeichnet werden?
Nicht jede interne Automatisierung braucht ein großes Warnschild. Aber wenn Nutzer mit KI interagieren oder synthetische Inhalte in relevanten Kontexten sehen, werden transparente Hinweise wichtig.
Quellen und weiterführende Informationen
Der Artikel basiert auf offiziellen EU-Informationen und etablierten Kontextquellen zum AI Act:
- European Commission: Regulatory framework on artificial intelligence
- EU Artificial Intelligence Act: implementation tracker and text resources
- European Parliament: EU AI Act – first regulation on artificial intelligence
- European Commission: AI Office
Hinweis: Für diesen Artikel wurden KI-gestützte Recherche- und Editierwerkzeuge verwendet. Der Inhalt wurde menschlich redaktionell geprüft. Stand: 09.05.2026
