KI-Verordnung: Pflichten für Unternehmen mit KI im ERP (EU)

Was die Verordnung verlangt

Die Verordnung (EU) 2024/1689 gilt in Deutschland und Österreich ohne Umsetzungsgesetz; sie unterscheidet zwei Rollen, die den Umfang der Pflichten bestimmen. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Handelsmarke in Verkehr bringt oder in Betrieb nimmt (Art. 3 Nr. 3). Betreiber ist, wer es in eigener Verantwortung verwendet, sofern das nicht privat geschieht (Art. 3 Nr. 4).

Für einen Handels- oder Fertigungsbetrieb heißt das: Der Softwareanbieter ist für die von ihm entwickelte Funktion Anbieter, das Unternehmen ist Betreiber. Konformitätsbewertung, Konformitätserklärung, CE-Kennzeichnung, Registrierung in der EU-Datenbank (Kapitel III Abschnitt 5) und der Pflichtenkatalog des Art. 16 richten sich an den Anbieter; die Registrierung trifft ihn für die in Anhang III genannten Systeme mit Ausnahme der Systeme nach Anhang III Nr. 2, die nach Art. 49 Abs. 5 auf nationaler Ebene registriert werden (Art. 49 Abs. 1 und 2). Vom Registrieren trifft den Betreiber nur Art. 49 Abs. 3, und auch dort nur Betreiber, die Behörden oder Organe, Einrichtungen oder sonstige Stellen der Union sind oder in deren Namen handeln, und nur für in Anhang III genannte Systeme mit Ausnahme der Systeme nach Anhang III Nr. 2. Ihn treffen die Verbote des Art. 5, die Pflicht aus Art. 4 und bei Hochrisiko-Systemen die Pflichten des Art. 26.

Wen die Pflichten treffen – und wen nicht

Die Verordnung erfasst nach Art. 2 Abs. 1 Buchst. b Betreiber mit Sitz in der Union oder solche, die sich dort befinden, und nach Buchst. c Anbieter und Betreiber in Drittstaaten, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird. Ein Betrieb in Deutschland oder Österreich, der eine KI-Funktion nutzt, fällt darunter. Nicht erfasst ist, wer das System nur privat nutzt (Art. 3 Nr. 4). Ein Schweizer Betrieb ohne EU-Bezug fällt ebenfalls nicht darunter, weil die Ausgabe dafür nicht in der Union verwendet werden darf; wo die Grenze verläuft, steht im Artikel zur KI-Regulierung in der Schweiz.

Nicht jede Funktion, die ein Anbieter als KI bezeichnet, ist ein KI-System nach Art. 3 Nr. 1. Die Leitlinien der Kommission zur Definition (C(2025) 5053 final vom 29. Juli 2025, ausdrücklich nicht verbindlich) nehmen Systeme mit festen, vom Menschen programmierten Regeln aus: Sortieren und Filtern, Tabellenkalkulation ohne KI-Funktionen, beschreibende Auswertungen, regelgestützte Heuristik und Systeme, die als Vorhersage nur einen Mittelwert ausgeben.

Zwei Beispiele zeigen die Grenze. Ein Bestellvorschlag, der einen festen Meldebestand prüft, ist kein KI-System. Eine Bedarfsprognose aus der Absatzhistorie ist nur dann eines, wenn sie mit einem Verfahren arbeitet, das die Merkmale des Art. 3 Nr. 1 erfüllt; gibt sie als Vorhersage nur einen Mittelwert der Vergangenheit aus, fällt sie nach Nr. 49 bis 51 der Leitlinien zur Definition nicht unter die Definition. Soweit eine Absatzprognose ein KI-System ist, fällt sie unter keinen Bereich des Anhangs III. Für ältere Systeme gilt die Übergangsregel des Art. 111 Abs. 2: Wer ein Hochrisiko-System vor dem Anwendungsbeginn des Kapitels III in Betrieb genommen hat, ist nur bei erheblich geänderter Konzeption gebunden.

Anbieter oder Betreiber: Wer welche Pflicht trägt

Die Tabelle ordnet die Pflichten nach Rolle und nennt den Anwendungsbeginn. Für Systeme, die vorher in Verkehr gebracht oder in Betrieb genommen wurden, gilt die Übergangsregel des Art. 111 Abs. 2. Für KI-Systeme, die nach Art. 6 Abs. 1 im Zusammenhang mit Produkten hochriskant sind, die unter die in Anhang I Abschnitt B genannten Harmonisierungsrechtsvorschriften fallen, gelten nach Art. 2 Abs. 2 nur Art. 6 Abs. 1, Art. 60a und Art. 102 bis 112; die Pflichten des Art. 16 und des Art. 26 gehören nicht dazu.

Rolle	Pflichten	Norm	Ab wann
Anbieter	Anforderungen an Hochrisiko-Systeme und Pflichtenkatalog des Art. 16: Qualitätsmanagementsystem, technische Dokumentation, Protokollierung, menschliche Aufsicht, Genauigkeit und Cybersicherheit	Art. 16, Kapitel III Abschnitt 2	2. Dezember 2027 (Anhang III), 2. August 2028 (Systeme nach Art. 6 Abs. 1 und Anhang I Abschnitt A)
Anbieter	Konformitätsbewertung, Konformitätserklärung, CE-Kennzeichnung und Registrierung in der EU-Datenbank für in Anhang III genannte Systeme, ausgenommen Systeme nach Anhang III Nr. 2, die nach Art. 49 Abs. 5 auf nationaler Ebene registriert werden (Kapitel III Abschnitt 5, nicht verschoben)	Art. 43, Art. 47, Art. 48, Art. 49	seit 2. August 2026
Anbieter	Kennzeichnung KI-erzeugter Inhalte, Hinweis auf die Interaktion mit einem KI-System	Art. 50 Abs. 1 und 2	seit 2. August 2026
Betreiber	Verwendung nach Betriebsanleitung, menschliche Aufsicht, aussagekräftige und repräsentative Eingabedaten (nur soweit sie Ihrer Kontrolle unterliegen), Überwachung und Meldung, Protokolle mindestens sechs Monate (nur soweit sie Ihrer Kontrolle unterliegen und kein geltendes Unions- oder nationales Recht anderes bestimmt), Information der Beschäftigten	Art. 26 Abs. 1, 2, 4, 5, 6, 7	2. Dezember 2027 (Anhang III), 2. August 2028 (Systeme nach Art. 6 Abs. 1 und Anhang I Abschnitt A)
Betreiber	Information über den Betrieb eines Emotionserkennungssystems oder eines Systems zur biometrischen Kategorisierung, Offenlegung von Deepfakes	Art. 50 Abs. 3 und 4	seit 2. August 2026
Betreiber	Grundrechte-Folgenabschätzung vor der ersten Verwendung eines Hochrisiko-Systems nach Art. 6 Abs. 2, ausgenommen Systeme, die in dem in Anhang III Nr. 2 aufgeführten Bereich verwendet werden sollen, wenn der Betreiber eine Einrichtung des öffentlichen Rechts oder eine private Einrichtung ist, die öffentliche Dienste erbringt, oder wenn er ein System nach Anhang III Nr. 5 Buchst. b oder c einsetzt: Kreditwürdigkeit und Bonität natürlicher Personen, Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung	Art. 27 Abs. 1	2. Dezember 2027
Betreiber, der die Anbieterrolle übernimmt	Anbieterpflichten nach Art. 16, wenn er ein Hochrisiko-System mit eigener Marke versieht, wesentlich verändert oder den Zweck so ändert, dass es hochriskant wird	Art. 25 Abs. 1	mit dem Anwendungsbeginn der Hochrisiko-Pflichten
Anbieter und Betreiber	KI-Kompetenz der Beschäftigten unterstützen	Art. 4	seit 2. Februar 2025, Neufassung seit 27. Juli 2026

Verbotene Praktiken: Was im Betrieb nicht erlaubt ist

Art. 5 Abs. 1 verbietet bestimmte Praktiken für Anbieter und Betreiber gleichermaßen; die Verbote gelten seit 2. Februar 2025, die neuen Buchstaben ba und bb ab 2. Dezember 2026 (Art. 113 Abs. 3 Buchst. a in der Fassung der Verordnung (EU) 2026/1744). Für den ERP-Alltag sind diese Verbote zu prüfen:

• Emotionserkennung am Arbeitsplatz (Art. 5 Abs. 1 Buchst. f), es sei denn, die Verwendung soll aus medizinischen oder Sicherheitsgründen eingeführt oder auf den Markt gebracht werden.
• Soziale Bewertung natürlicher Personen über einen Zeitraum anhand ihres Verhaltens oder ihrer Merkmale, wenn sie zu einer sachfremden Schlechterstellung führt (Art. 5 Abs. 1 Buchst. c).
• Unterschwellige Beeinflussung oder absichtlich manipulative oder täuschende Techniken, die das Verhalten einer Person wesentlich verändern, indem sie ihre Fähigkeit zu einer fundierten Entscheidung deutlich beeinträchtigen, und ihr dadurch erheblichen Schaden zufügen oder mit hinreichender Wahrscheinlichkeit zufügen (Art. 5 Abs. 1 Buchst. a).
• Ausnutzung einer Vulnerabilität oder Schutzbedürftigkeit wegen Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation, um das Verhalten einer Person wesentlich zu verändern und ihr dadurch erheblichen Schaden zuzufügen (Art. 5 Abs. 1 Buchst. b).

Die Leitlinien der Kommission zu den verbotenen Praktiken (C(2025) 5052 final, ebenfalls nicht verbindlich) nennen die Emotionserkennung am Arbeitsplatz als verboten, wenn nicht medizinische oder Sicherheitsgründe greifen. Greifen sie, fällt das System in den Hochrisikobereich des Anhangs III Nr. 1 Buchst. c.

Weitere Verbote gelten ab 2. Dezember 2026: Inverkehrbringen, Inbetriebnahme und Verwendung von KI-Systemen, die nicht einvernehmlich erstelltes intimes Material oder Darstellungen sexuellen Kindesmissbrauchs erzeugen oder manipulieren (Art. 5 Abs. 1 Buchst. ba und bb, Art. 113 Abs. 3 Buchst. a). Die Absätze 1a und 1b grenzen diese Verbote ein, unter anderem darauf, dass die Erzeugung Zweck des Systems ist oder ohne zumutbare Schutzvorkehrungen absehbar aus ihm folgt.

Hochrisiko-Beispiele in Geschäftssoftware

Welche Funktion Hochrisiko ist, entscheidet der Verwendungszweck, nicht die Bezeichnung. Art. 6 Abs. 2 verweist auf die Bereiche des Anhangs III.

Funktion im ERP	Bereich nach Anhang III	Hochrisiko	Betreiberpflichten ab
Bewerbungen sichten, filtern und Bewerber bewerten	Nr. 4 Buchst. a (Beschäftigung)	ja	2. Dezember 2027
Aufgaben nach individuellem Verhalten zuteilen, Leistung und Verhalten beobachten und bewerten	Nr. 4 Buchst. b	ja	2. Dezember 2027
Kreditwürdigkeit und Bonität natürlicher Personen prüfen, außer zur Aufdeckung von Finanzbetrug	Nr. 5 Buchst. b	ja	2. Dezember 2027
Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung	Nr. 5 Buchst. c	ja	2. Dezember 2027
Absatzprognose, Bestellvorschlag, Rechnungserfassung, Disposition	keine Kategorie des Anhangs III	nein	keine

Art. 6 Abs. 3 nimmt ein in Anhang III genanntes System nur aus, wenn es kein erhebliches Risiko der Beeinträchtigung von Gesundheit, Sicherheit oder Grundrechten birgt — unter anderem, weil es das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst — und zusätzlich eine der vier Bedingungen des Unterabsatzes 2 erfüllt: eng gefasste Verfahrensaufgabe, Verbesserung des Ergebnisses einer abgeschlossenen menschlichen Tätigkeit, Erkennen von Entscheidungsmustern oder Abweichungen ohne Ersetzen der zuvor abgeschlossenen menschlichen Bewertung oder vorbereitende Aufgabe für eine Bewertung. Fehlender Einfluss auf die Entscheidung allein genügt nicht. Ein in Anhang III genanntes System, das Profiling natürlicher Personen vornimmt, gilt dagegen ohne Ausnahme als hochriskant (Art. 6 Abs. 3 Unterabs. 3).

Angenommenes Beispiel (erfunden, ohne Fallquelle): Ein Handelsbetrieb lässt die Zahlungsmoral natürlicher Kunden bewerten und daraus ein Kreditlimit mit Liefersperre ableiten. Das wäre eine Bonitätsbewertung nach Anhang III Nr. 5 Buchst. b, also ein Hochrisiko-System nach Art. 6 Abs. 2 (die Ausnahme des Art. 27 Abs. 1 betrifft nur Systeme im Bereich des Anhangs III Nr. 2). Als Betreiber eines solchen Systems ist vor der ersten Verwendung eine Grundrechte-Folgenabschätzung zu erstellen (Art. 27 Abs. 1, dort die Fallgruppe der Systeme nach Anhang III Nr. 5 Buchst. b und c); betroffene Personen haben ein Recht auf Erläuterung, wenn die Entscheidung rechtliche Auswirkungen hat oder sie in ähnlicher Art erheblich beeinträchtigt (Art. 86 Abs. 1, Kapitel IX, anwendbar seit 2. August 2026).

Was Sie als Betreiber tun müssen

Art. 26 gilt nur für Betreiber von Hochrisiko-KI-Systemen und nach Art. 113 Abs. 3 Buchst. c erst ab 2. Dezember 2027 (Anhang III) beziehungsweise 2. August 2028 (Systeme nach Art. 6 Abs. 1 und Anhang I Abschnitt A). Für Systeme im Zusammenhang mit Produkten nach Anhang I Abschnitt B gilt Art. 26 nach Art. 2 Abs. 2 nicht. Der Katalog verlangt die Verwendung nach den beigefügten Betriebsanleitungen (Abs. 1), die Übertragung der menschlichen Aufsicht an natürliche Personen mit der erforderlichen Kompetenz, Ausbildung und Befugnis (Abs. 2) und, soweit die Eingabedaten Ihrer Kontrolle unterliegen, aussagekräftige und für die Zweckbestimmung repräsentative Eingabedaten (Abs. 4).

Der Betrieb ist anhand der Betriebsanleitung zu überwachen. Bei einem Risiko im Sinne des Art. 79 Abs. 1 sind Anbieter oder Händler und die Marktüberwachungsbehörde zu informieren und die Verwendung auszusetzen, schwerwiegende Vorfälle unverzüglich zu melden (Abs. 5). Automatisch erzeugte Protokolle sind mindestens sechs Monate aufzubewahren, wenn sie Ihrer Kontrolle unterliegen und kein geltendes Unions- oder nationales Recht anderes bestimmt (Abs. 6). Als Arbeitgeber informieren Sie vor der Verwendung am Arbeitsplatz die Arbeitnehmervertretung und die betroffenen Beschäftigten (Abs. 7). Die Informationen des Anbieters nach Art. 13 nutzen Sie für eine Datenschutz-Folgenabschätzung nach Art. 35 der Verordnung (EU) 2016/679 (Abs. 9); die datenschutzrechtliche Prüfung selbst steht im Artikel zu personenbezogenen Daten in KI-Funktionen.

Seit wann was gilt

Die Tabelle nennt die Stichtage aus Art. 113 und den Änderungen durch die Verordnung (EU) 2026/1744.

Stichtag	Was gilt
1. August 2024	Die Verordnung tritt in Kraft.
2. Februar 2025	Kapitel I und II: Begriffsbestimmungen (Art. 3), KI-Kompetenz (Art. 4), verbotene Praktiken (Art. 5), ohne die Buchstaben ba und bb.
2. August 2025	Kapitel III Abschnitt 4 (notifizierte Stellen), Kapitel V (KI-Modelle mit allgemeinem Verwendungszweck), Kapitel VII (Governance), Kapitel XII (Sanktionen) und Art. 78; Art. 101 (Geldbußen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck) ist nach Art. 113 Abs. 3 Buchst. b davon ausgenommen und gilt nach Art. 113 Abs. 2 ab 2. August 2026.
27. Juli 2026	Die Digital-Omnibus-Verordnung (EU) 2026/1744 tritt in Kraft (Art. 4) und ändert unter anderem Art. 2, 3, 4, 5, 6, 25, 27, 50, 99, 111 und 113 sowie Anhang I der KI-Verordnung.
2. August 2026	Allgemeine Anwendbarkeit (Art. 113 Abs. 1): Kapitel IV mit Art. 50, Kapitel IX mit dem Recht auf Erläuterung (Art. 86) und die nicht verschobenen Teile des Kapitels III, etwa Abschnitt 5 (Normen, Konformitätsbewertung, Registrierung).
2. Dezember 2026	Verbote nach Art. 5 Abs. 1 Buchst. ba und bb. Frist nach Art. 111 Abs. 4: Anbieter generativer Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, müssen Art. 50 Abs. 2 bis dahin erfüllen.
2. Dezember 2027	Kapitel III Abschnitte 1 bis 3 für KI-Systeme, die nach Art. 6 Abs. 2 und Anhang III hochriskant sind, darunter die Pflichten des Art. 26.
2. August 2028	Kapitel III Abschnitte 1 bis 3 für Systeme, die nach Art. 6 Abs. 1 und Anhang I hochriskant sind. Davon ausgenommen sind Systeme im Zusammenhang mit Produkten nach Anhang I Abschnitt B: für sie gelten nach Art. 2 Abs. 2 nur Art. 6 Abs. 1, Art. 60a und Art. 102 bis 112.

Was bei einem Verstoß droht

Die Mitgliedstaaten legen die Sanktionsvorschriften fest und benennen mindestens eine Marktüberwachungsbehörde (Art. 99 Abs. 1, Art. 70 Abs. 1). Für die verbotenen Praktiken des Art. 5 sieht die Verordnung Geldbußen von bis zu 35 Millionen Euro oder, bei Unternehmen, von bis zu 7 Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vor, je nachdem welcher Betrag höher ist (Art. 99 Abs. 3). Für Verstöße gegen die Betreiberpflichten des Art. 26 und die Transparenzpflichten des Art. 50 gelten bis zu 15 Millionen Euro oder 3 Prozent (Art. 99 Abs. 4 Buchst. e und g). KMU im Sinne des Art. 3 Nr. 14a trifft bei jeder Geldbuße nach Abs. 3, 4 und 5 der jeweils niedrigere Betrag (Art. 99 Abs. 6). Für kleine Midcap-Unternehmen im Sinne des Art. 3 Nr. 14b gilt diese Erleichterung nach Art. 99 Abs. 6a nur für Geldbußen nach Abs. 4 und 5, nicht für eine Geldbuße wegen einer verbotenen Praktik des Art. 5 nach Abs. 3. Bei der Verhängung von Sanktionen berücksichtigen die Mitgliedstaaten die Interessen von KMU, Start-up-Unternehmen und kleinen Midcap-Unternehmen sowie deren wirtschaftliches Überleben (Art. 99 Abs. 1 in der Fassung der Verordnung (EU) 2026/1744).

Checkliste für Ihren Betrieb

• Listen Sie jede KI-Funktion im ERP mit Verwendungszweck, Nutzern, verarbeiteten Daten und ausgelösten Vorgängen auf.
• Prüfen Sie je Funktion, ob sie ein KI-System nach Art. 3 Nr. 1 ist; feste Regeln und einfache Auswertungen fallen nach den Leitlinien der Kommission nicht darunter.
• Ordnen Sie die Funktion einem Bereich des Anhangs III zu: Nr. 4 (Beschäftigung), Nr. 5 Buchst. b (Bonitätsprüfung), Nr. 1 Buchst. c (Emotionserkennung).
• Klären Sie mit dem Anbieter, ob er die Bewertung nach Art. 6 Abs. 4 dokumentiert und das System nach Art. 49 Abs. 1 oder 2 in der EU-Datenbank registriert hat; Systeme nach Anhang III Nr. 2 werden nach Art. 49 Abs. 5 auf nationaler Ebene registriert.
• Verlangen Sie die Betriebsanleitung nach Art. 13; ohne sie lässt sich die Vorgabe des Art. 26 Abs. 1 nicht einhalten.
• Fassen Sie die Verbote des Art. 5 in einer internen Regelung zusammen, mindestens für Emotionserkennung am Arbeitsplatz.
• Planen Sie die Betreiberpflichten des Art. 26 auf den 2. Dezember 2027 (Anhang III) und den 2. August 2028 (Systeme nach Art. 6 Abs. 1 und Anhang I Abschnitt A): Protokollaufbewahrung, menschliche Aufsicht, Information der Beschäftigten.