EU AI Act im Mittelstand: Pflichten und Fristen beim Einsatz von KI

Die europäische KI-Verordnung (AI Act) ist am 1. August 2024 in Kraft getreten und gilt gestaffelt. Verbote und die Pflicht zur KI-Kompetenz gelten seit dem 2. Februar 2025, zwei weitere Verbote ab dem 2. Dezember 2026, die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck seit dem 2. August 2025 und die meisten übrigen Regeln, darunter die Transparenzpflichten nach Artikel 50, seit dem 2. August 2026. Mit der Digital-Omnibus-Verordnung (EU) 2026/1744 sind die Pflichten für Hochrisiko-KI im Juli 2026 verschoben worden: nach Anhang III auf den 2. Dezember 2027, für KI in Produkten nach Anhang I auf den 2. August 2028.

Gerade im Mittelstand sind viele Systeme längst im Einsatz: Chatbots im Kundenservice, Textgeneratoren im Marketing, Software, die Bewerbungen vorsortiert. Für sie gelten je nach Risiko sehr unterschiedliche Pflichten.

Ein möglicher Weg, die Pflichten zu überblicken, ist der Aufbau regulatorischer Lernfähigkeit, also der Fähigkeit des Unternehmens, mit Unsicherheit und Verantwortung systematisch umzugehen.

Risikostufen und Hochrisiko-KI

Die EU-Kommission beschreibt vier Risikostufen: verbotene Praktiken, Hochrisiko-KI, KI mit Transparenzpflichten und KI mit minimalem Risiko. Hochriskant sind zum einen KI-Systeme in bestimmten Produkten nach Anhang I, etwa in Medizinprodukten, die von einer benannten Stelle geprüft werden müssen. Zum anderen sind es Anwendungen in den Bereichen nach Anhang III, etwa Software, die Bewerbungen sichtet, filtert oder Bewerber bewertet, und KI für die Kreditwürdigkeitsprüfung natürlicher Personen. Für Chatbots und generative KI gelten Transparenzpflichten.

Beispiel: Ein mittelständischer HR-Dienstleister lässt Absagen und Interviewfragen von generativer KI formulieren. Systeme aus den Bereichen nach Anhang III sind nach Artikel 6 Absatz 3 unter anderem dann nicht hochriskant, wenn sie nur eine eng gefasste Verfahrensaufgabe erfüllen oder das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit verbessern. Solange ein Mensch über die Bewerbung entscheidet und die KI nur Texte formuliert, spricht nach dem Leitlinienentwurf der Kommission vom Mai 2026 viel dafür, dass der Einsatz im Beispiel unter diese Ausnahme fällt. Hochriskant wird er, wenn die KI selbst Kriterien festlegt, Bewerbungen sichtet oder filtert, Antworten bewertet oder Bewerber reiht, und immer dann, wenn sie ein Profiling der Bewerber vornimmt. Wer dafür ein allgemeines Tool wie ChatGPT nutzt, kann nach Artikel 25 selbst als Anbieter eines Hochrisiko-Systems gelten. Die Pflichten dafür gelten ab dem 2. Dezember 2027.

Dokumentation mit AI Cards

Dokumentationspflichten enthält der AI Act vor allem für Hochrisiko-KI. Anbieter beschreiben in einer technischen Dokumentation, wie das System funktioniert und welche Risiken es hat. Betreiber bewahren die automatisch erzeugten Protokolle mindestens sechs Monate auf und müssen das System außerdem nach Betriebsanleitung einsetzen und den Betrieb überwachen. Für Hochrisiko-KI nach Anhang III gilt das ab dem 2. Dezember 2027. Für andere KI-Anwendungen ist eine kurze Beschreibung freiwillig, sie hilft aber bei Rückfragen und internen Prüfungen.

Ein einfaches Format dafür sind sogenannte AI Cards. Sie erfassen:

• den konkreten Use Case,

• die verwendeten Daten und Modelle,

• potenzielle Fehlfunktionen,

• vorhandene Kontrollmechanismen

• und bei Bedarf Hinweise an Endnutzende.

Mit AI Cards für alle Systeme entsteht eine solide Grundlage für interne Audits, für Rückfragen von Behörden und für die eigene Governance. Eine AI Card sollte aktualisiert werden, wenn sich Anwendung, Modell oder Daten ändern, und mindestens einmal im Jahr geprüft werden.

KI-Kompetenz nach Artikel 4

Nach Artikel 4 des AI Act müssen Unternehmen, die KI einsetzen, Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals zu unterstützen. Die Pflicht betrifft alle, die im Unternehmen oder in seinem Auftrag mit KI-Systemen arbeiten, auch in den Fachabteilungen. Seit der Änderung durch den Digital Omnibus am 27. Juli 2026 schreibt die Verordnung dafür kein bestimmtes Niveau mehr vor. Kommission und Mitgliedstaaten sollen besonders kleine und mittlere Unternehmen dabei unterstützen.

Wie die Maßnahmen aussehen, legt jedes Unternehmen selbst fest. Die Kommission erwartet, dass sie auf die eingesetzten Systeme und deren Risiken eingehen. Nach unserer Erfahrung reicht dafür oft ein einstündiger Workshop pro Bereich, ergänzt durch kurze Praxisbeispiele und klare Leitplanken: Wann darf ich generative KI einsetzen? Welche Daten sind tabu? Wo muss ich eingreifen?

Beispiel: Ein mittelständisches Servicecenter führt für alle Teamleiter eine Basisschulung ein, ergänzt um ein Handout für das tägliche Arbeiten mit automatisierten Antwortsystemen.

Schatten-KI

Viele Mitarbeitende nutzen bereits KI, ohne dass sie offiziell freigegeben wurde, etwa in Excel, in der Mailbearbeitung oder bei Präsentationen.

Problematisch ist dabei die fehlende Transparenz. Abhilfe schafft eine Governance, die drei Fragen beantwortet:

• Wer darf KI-Tools einsetzen?

• Welche Kriterien gelten für die Freigabe?

• Wie wird die Nutzung dokumentiert?

KI-Reallabore (Sandboxes)

Für Unternehmen, die eigene KI-Systeme entwickeln, sieht Artikel 57 AI Act KI-Reallabore vor. Jeder Mitgliedstaat muss bis zum 2. August 2027 mindestens ein Reallabor einrichten. In Deutschland ist dafür die Bundesnetzagentur zuständig (§ 13 des KI-Marktüberwachungs- und Innovationsförderungsgesetzes, in Kraft seit dem 29. Juli 2026). Schon erreichbar ist ihr KI-Service-Desk, unter anderem mit einem Online-Werkzeug zur ersten Risikoeinstufung.

Im Reallabor testen Anbieter neue KI-Anwendungen vor dem Marktstart unter behördlicher Aufsicht, decken Schwachstellen auf und setzen Dokumentationspflichten frühzeitig um. Wer den vereinbarten Plan einhält und der Anleitung der Behörde in gutem Glauben folgt, muss dort keine Bußgelder nach dem AI Act fürchten. Für Schäden an Dritten haftet der Anbieter weiter.

Für Mittelständler mit eigener KI-Entwicklung ist die Teilnahme an einem Reallabor eine Möglichkeit, regulatorische Erfahrung aufzubauen.

Der Verhaltenskodex für KI-Modelle

Neben KI-Systemen regelt der AI Act KI-Modelle mit allgemeinem Verwendungszweck, also die großen Sprach- und Bildmodelle, auf denen Dienste wie ChatGPT oder Claude aufbauen. Ihre Anbieter haben seit dem 2. August 2025 eigene Pflichten, etwa zu Transparenz und Urheberrecht.

Am 10. Juli 2025 hat die Kommission den Verhaltenskodex für diese Modelle veröffentlicht. Er richtet sich an ihre Anbieter. Mit ihm können sie nachweisen, dass sie ihre Pflichten zu Transparenz, Urheberrecht und, bei den leistungsstärksten Modellen, Sicherheit erfüllen. Diese Pflichten gelten für die Modellanbieter verbindlich, seit dem 2. August 2026 kann die Kommission Verstöße mit Geldbußen ahnden. Den Kodex zu unterzeichnen ist freiwillig, viele große Modellanbieter haben es getan.

Wer ein solches Modell in eine eigene Anwendung einbaut, dem müssen die Modellanbieter nach Artikel 53 Angaben zu Fähigkeiten und Grenzen des Modells zur Verfügung stellen. Für den eigenen Einsatz von Tools wie ChatGPT oder Claude helfen Mittelständlern drei Fragen:

• Gibt es eine Risikoeinschätzung zum Einsatz?

• Wie gehen wir mit urheberrechtlich geschützten Inhalten in Eingaben und Ausgaben um?

• Sind Schutzmaßnahmen gegen Missbrauch implementiert?

Kennzeichnung nach Artikel 50

Seit dem 2. August 2026 müssen Chatbots und andere KI-Systeme, die direkt mit Menschen interagieren, spätestens zu Beginn erkennen lassen, dass es sich um KI handelt, es sei denn, das ist ohnehin offensichtlich. Die Pflicht trifft den Anbieter. Das ist auch ein Unternehmen, das einen Chatbot auf Basis eines fremden Modells selbst baut oder bauen lässt und unter eigenem Namen in Betrieb nimmt. Anbieter von KI-Systemen, die Texte, Bilder, Audio oder Video erzeugen, müssen deren Ausgaben zusätzlich maschinenlesbar als KI-erzeugt markieren. Für Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, gilt dafür eine Übergangsfrist bis zum 2. Dezember 2026.

Betreiber müssen außerdem Deepfakes kennzeichnen, ebenso KI-Texte, die die Öffentlichkeit über Themen von öffentlichem Interesse informieren sollen, sofern sie nicht redaktionell geprüft wurden. Für E-Mails und andere Geschäftstexte, die Mitarbeitende mit generativer KI verfassen, schreibt der AI Act keine Kennzeichnung vor.

Wer trotzdem offenlegen will, dass KI im Spiel war, kann einen kurzen Hinweis nutzen: „Dieser Text wurde mit KI erstellt und vor dem Versand geprüft.“

Fazit

Weil der AI Act seine Pflichten an Rolle und Risiko knüpft, beginnt regulatorische Lernfähigkeit mit einer Liste aller KI-Anwendungen im Unternehmen. Je Anwendung hält die Liste zwei Angaben fest: ob das Unternehmen Anbieter oder Betreiber ist und ob die Anwendung in einen Bereich nach Anhang III fällt.

Aus der Liste ergibt sich, welche Pflichten greifen und welche Anwendungen nach einer Änderung wie dem Digital Omnibus neu zu bewerten sind. Die Pflichten für Hochrisiko-KI nach Anhang III gelten ab dem 2. Dezember 2027.