Stellen wir uns eine Kamera an der Baustellenzufahrt vor. Sie erkennt, ob jemand Helm und Warnweste trägt. Ich nehme sie hier als Denkbeispiel, weil sich daran zeigen lässt, wie die Einstufung nach der EU-KI-Verordnung funktioniert: Nicht das Gerät bekommt eine Risikoklasse, sondern das, was man damit macht. Den Überblick über die Klassen habe ich im Beitrag zur EU-KI-Verordnung beschrieben. Hier geht es um den Prüfweg am einzelnen Fall.
Drei Ausbaustufen, drei Klassen
Stufe eins: eine Ampel am Tor. Die Kamera schaut, ob Helm und Weste da sind, und schaltet grün oder rot. Sie speichert kein Bild, sie weiß nicht, wer vor ihr steht, sie meldet nichts weiter. Ein solches System steht weder in der Verbotsliste des Artikels 5 noch in der Hochrisikoliste des Anhangs III. Damit bleibt es in der Klasse, die die Verordnung gar nicht eigens regelt: minimales Risiko. Was der Verordnung nach trotzdem gilt, etwa die KI-Kompetenz aus Artikel 4, steht in Beitrag 16.
Stufe zwei: die Kamera weiß, wer das ist. Sie ordnet die Person einer Firma zu, protokolliert, wer wie oft ohne Helm gekommen ist, und der Bauleiter bekommt eine Liste. Jetzt geht es um die Beobachtung und Bewertung von Leuten in ihrem Beschäftigungsverhältnis. Genau das führt Anhang III unter Nummer 4 Buchstabe b auf, und Artikel 6 Absatz 2 erklärt alles aus Anhang III zu Hochrisiko. Absatz 3 kennt eine Ausnahme für Systeme, die nur eine enge Hilfsaufgabe erledigen und kein erhebliches Risiko bergen; der Anbieter muss das nach Absatz 4 dokumentieren. Für unsere Liste hilft das nicht: Wer Personen einzeln erfasst und ihr Verhalten bewertet, macht Profiling, und dann bleibt es nach Absatz 3 letzter Unterabsatz bei Hochrisiko. Für den Arbeitgeber kommt Artikel 26 Absatz 7 dazu: Vor dem Einsatz eines Hochrisikosystems am Arbeitsplatz sind Arbeitnehmervertreter und betroffene Arbeitnehmer zu informieren.
Stufe drei: die Kamera liest den Gesichtsausdruck. Sie leitet ab, ob jemand wütend, traurig oder überrascht wirkt, und schreibt das mit. Das ist ein Emotionserkennungssystem im Sinn des Artikels 3 Nummer 39, und Artikel 5 Absatz 1 Buchstabe f verbietet dessen Verwendung am Arbeitsplatz. Der Buchstabe nennt eine Ausnahme für medizinische Gründe oder Sicherheitsgründe. Ob eine Kamera an der Zufahrt sich darauf stützen kann, gibt der Text nicht her, und ich würde nicht darauf bauen. Erwägungsgrund 18 grenzt ab: Emotionen sind dort Glück, Trauer, Wut, Scham und dergleichen. Müdigkeit oder Schmerz zählen nicht dazu, ein Stirnrunzeln allein auch nicht, solange daraus keine Emotion abgeleitet wird.
Ein System, drei Klassen. Der Unterschied liegt nicht in der Kamera, sondern in dem, was hinten herauskommt und wozu es dient.
Sobald die Kamera eigene Beschäftigte erfasst, kommt in Österreich noch etwas dazu. Nach § 96 Abs. 1 Z 3 ArbVG brauchen Kontrollmaßnahmen und technische Systeme zur Kontrolle der Arbeitnehmer die Zustimmung des Betriebsrats, sofern sie die Menschenwürde berühren. Das gilt zwischen Betriebsinhaber und eigener Belegschaft. Für die Leute der Fremdfirmen sind deren Arbeitgeber und deren Betriebsrat zuständig.
Die Belege
Der Verordnungstext liegt auf EUR-Lex: Verordnung (EU) 2024/1689. Die Stellen, auf die es hier ankommt: Artikel 3 Nummer 39, Artikel 5 Absatz 1 Buchstabe f, Artikel 6 Absätze 2 bis 4, Artikel 26 Absatz 7, Anhang III Nummer 4, Erwägungsgrund 18.
Die Kommission hat im Februar 2025 zwei Leitlinien veröffentlicht, eine zu den verbotenen Praktiken und eine zur Definition des KI-Systems. Beide sind ausdrücklich unverbindlich; zu den Verboten schreibt die Kommission dazu, dass die verbindliche Auslegung dem Gerichtshof bleibt.
Der österreichische Teil steht im § 96 ArbVG im RIS. Ansprechpartner für Fragen zum AI Act ist in Österreich die KI-Servicestelle der RTR.
Darauf achte ich
Bevor ich einen Fall einordne, schreibe ich in einem Satz auf, was das System ausgibt und wer damit was tut. Nicht „Kamera mit KI", sondern „gibt grün oder rot, speichert nichts" oder „meldet Namen und Firma an die Bauleitung". Aus diesem Satz ergibt sich die Klasse, aus dem Prospekt nicht.
Dann gehe ich die Listen von oben nach unten durch: zuerst Artikel 5, dann Anhang III, dann der Rest. Wer bei Artikel 5 hängen bleibt, braucht sich den Rest nicht mehr anzuschauen.
Und ich rechne damit, dass ein Anbieter dieselbe Kamera in allen drei Ausbaustufen verkauft. Die Klasse entscheidet sich beim Einschalten der Funktionen, nicht beim Kauf.