EU AI Act für den Mittelstand

Der EU AI Act — die Verordnung (EU) 2024/1689 — ist das weltweit erste umfassende Gesetz, das den Einsatz künstlicher Intelligenz breit reguliert. Sein Grundgedanke ist einfach: Nicht die Technologie selbst wird verboten oder erlaubt, sondern der konkrete Anwendungsfall wird danach beurteilt, wie stark er Rechte, Sicherheit und Chancen von Menschen berühren kann. Je höher dieses Risiko, desto strenger die Anforderungen.

Als EU-Verordnung gilt der AI Act unmittelbar in allen Mitgliedstaaten — es braucht kein deutsches Umsetzungsgesetz, damit die Regeln greifen. Und die Wirkung reicht über Europa hinaus: Wer KI-Systeme oder deren Ergebnisse auf dem EU-Markt anbietet, ist gebunden, unabhängig davon, wo das Unternehmen sitzt. Für den Mittelstand heißt das: Die Frage ist nicht, ob der AI Act relevant ist, sondern in welcher Rolle und in welcher Risikoklasse Sie ihn betrifft.

Die Regeln treten gestaffelt in Kraft. Die Verbote besonders schädlicher Praktiken gelten bereits, die Pflichten für Modelle mit allgemeinem Verwendungszweck und schließlich die umfangreichen Hochrisiko-Anforderungen folgen über mehrere Jahre. Diese Staffelung ist eine Chance: Sie gibt Ihnen Zeit, geordnet vorzugehen, statt in Aktionismus zu verfallen.

Der AI Act sortiert Anwendungen in vier Stufen. Man kann sie sich als Pyramide vorstellen: An der breiten Basis stehen die vielen harmlosen Anwendungen, an der schmalen Spitze die wenigen, die schlicht untersagt sind. Der Aufwand für Sie steigt mit jeder Stufe deutlich an.

Minimales Risiko

Hierunter fällt der Großteil betrieblicher KI: Spamfilter, Textentwürfe und Zusammenfassungen, Code-Assistenz, interne Recherche. Aus dem AI Act ergeben sich keine besonderen Pflichten. Allgemeine Sorgfalt und der Datenschutz (DSGVO) gelten selbstverständlich weiter — aber die KI-Verordnung selbst hält sich hier zurück.

Begrenztes Risiko — Transparenz

Sobald KI direkt mit Menschen interagiert oder Inhalte erzeugt, kommen Transparenzpflichten hinzu. Nutzer müssen erkennen können, dass sie mit einer Maschine sprechen; KI-generierte Bilder, Texte und insbesondere Deepfakes sind zu kennzeichnen. Der Aufwand ist überschaubar und meist mit einem klaren Hinweis erledigt — aber er ist verpflichtend.

Hohes Risiko

Wird KI eingesetzt, um über Zugang, Rechte oder Sicherheit von Menschen mitzuentscheiden, greift die anspruchsvollste reguläre Stufe. Typische Beispiele: Bewerber-Screening, Kreditwürdigkeitsprüfung, Anwendungen in Bildung und Prüfung oder als Komponente eines Medizinprodukts. Hier verlangt der AI Act ein Bündel an Pflichten — von Risikomanagement über Dokumentation und Protokollierung bis zur menschlichen Aufsicht.

Unannehmbares Risiko — verboten

Einige Praktiken sind schlicht untersagt, etwa soziale Bewertungssysteme („Social Scoring“), manipulative Beeinflussung oder biometrische Massenüberwachung. Solche Anwendungen dürfen nicht eingesetzt werden — hier gibt es keine Auflagen zu erfüllen, sondern nur die Entscheidung, es zu unterlassen.

Welche Pflichten Sie treffen, hängt nicht nur von der Risikoklasse ab, sondern maßgeblich von Ihrer Rolle. Der AI Act unterscheidet vor allem zwei: den Anbieter, der ein KI-System entwickelt oder unter eigenem Namen in Verkehr bringt, und den Betreiber, der ein System in eigener Verantwortung einsetzt. Für den Mittelstand ist diese Unterscheidung entscheidend.

Die meisten Unternehmen sind Betreiber: Sie kaufen fertige KI-Dienste ein und nutzen sie. Die schweren Pflichten — Konformitätsbewertung, technische Dokumentation, Qualitätsmanagement — liegen dann beim Anbieter. Als Betreiber bleiben Ihnen dennoch wichtige Aufgaben: das System bestimmungsgemäß einsetzen, die menschliche Aufsicht sicherstellen, die Belegschaft zum kompetenten Umgang befähigen und bei Hochrisiko-Systemen die Betreiberpflichten erfüllen.

Für die Praxis heißt das: Prüfen Sie bei jedem KI-Vorhaben zuerst, ob Sie einkaufen oder selbst bauen, und wie weit Ihre Anpassungen gehen. Diese Einordnung entscheidet, ob Sie ein paar Betreiberpflichten organisieren müssen — oder ein umfassendes Anbieter-Programm.

Landet ein Vorhaben in der Hochrisiko-Klasse, wird aus einer technischen Frage ein organisatorisches Programm. Die Anforderungen sind keine Schikane, sondern übersetzen bewährte Prinzipien aus der Produktsicherheit auf KI: Man muss wissen, was das System tut, es beherrschen und im Zweifel eingreifen können.

• Risiko- und Qualitätsmanagement über den gesamten Lebenszyklus des Systems.
• Daten-Governance: geeignete, repräsentative Daten, um Verzerrungen zu begrenzen.
• Technische Dokumentation und automatische Protokollierung (Logging) der Vorgänge.
• Menschliche Aufsicht: Menschen müssen Ergebnisse verstehen, hinterfragen und übersteuern können.
• Genauigkeit, Robustheit und Cybersicherheit auf einem angemessenen Niveau.
• Konformitätsbewertung vor der Inbetriebnahme, häufig mit CE-Kennzeichnung.

Wichtig für die Kalkulation: Diese Pflichten sind kein einmaliger Kraftakt, sondern ein Dauerbetrieb. Modelle, Daten und Einsatzkontexte ändern sich, und die Dokumentation muss mitwachsen. Wer ein Hochrisiko-Vorhaben plant, sollte die laufende Pflege von Anfang an einplanen — technisch wie personell.

Die großen Sprachmodelle, die vielen KI-Anwendungen zugrunde liegen, behandelt der AI Act als eigene Kategorie: Modelle mit allgemeinem Verwendungszweck, kurz GPAI. Für diese gelten eigene Transparenz- und Dokumentationspflichten — vor allem auf Seiten der Modell-Anbieter, etwa zu Trainingsdaten und Urheberrecht.

Für Sie als Betreiber ist die praktische Konsequenz meist indirekt: Sie profitieren von den Informationen, die Anbieter bereitstellen müssen, und sollten diese bei der Auswahl eines Modells oder Dienstes aktiv einfordern. Ein Anbieter, der transparent über Fähigkeiten, Grenzen und zulässige Nutzung informiert, erleichtert Ihnen die eigene Compliance erheblich.

Der Weg zur AI-Act-Konformität muss kein Großprojekt sein. Für die meisten Mittelständler genügt ein geordneter, schlanker Ablauf, der mit Überblick beginnt und mit gelebter Governance endet.

• Inventarisieren: ein einfaches Verzeichnis aller KI-Anwendungen im Unternehmen — auch der eingekauften und der „stillen“ KI in Standardsoftware.
• Einordnen: je Anwendung Risikoklasse und eigene Rolle (Anbieter/Betreiber) grob bestimmen.
• Priorisieren: dort zuerst handeln, wo Hochrisiko oder Verbote im Spiel sind; den harmlosen Rest bewusst als solchen dokumentieren.
• Verantwortung klären: eine benannte Stelle für KI-Governance, klare Freigabe- und Aufsichtsprozesse.
• Kompetenz aufbauen: Mitarbeitende befähigen, KI kompetent und regelkonform zu nutzen (die „KI-Kompetenz“ ist selbst eine Pflicht).
• Wiederholen: das Verzeichnis lebendig halten, neue Anwendungen von Beginn an einordnen.