KI-Regulierung und Zertifizierungen in Deutschland und Europa: Was Unternehmen 2026 wissen müssen

Der EU AI Act ist das erste umfassende Rechtsrahmenwerk für künstliche Intelligenz weltweit. In Kraft getreten am 1. August 2024, greifen die Pflichten schrittweise bis 2027. Ob ein Unternehmen betroffen ist, hängt davon ab, ob es KI-Systeme in Europa entwickelt, betreibt, vertreibt oder nutzt, welcher Risikoklasse das System angehört und ob KI-generierte Ausgaben innerhalb der EU Verwendung finden.

Die ersten Verbote gelten bereits. Für Hochrisiko-KI-Systeme treten die vollständigen Anforderungen im August 2026 in Kraft. Bußgelder können bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes erreichen, je nachdem, welcher Betrag höher ausfällt.

Über 40 % der deutschen Unternehmen setzen KI bereits ein, aber nur 23 % der europäischen Organisationen schätzen ihre eigene Vorbereitung auf KI-Governance als hoch ein. Was die Verordnung konkret vorschreibt, welche Zertifizierungen zählen und welche Maßnahmen jetzt sinnvoll sind, zeigt dieser Überblick.

Der EU AI Act: Aufbau und Zeitplan

Der EU AI Act folgt einem risikobasierten Ansatz. Nicht alle KI-Systeme werden gleich behandelt: Je höher das Risiko für Gesundheit, Sicherheit oder Grundrechte, desto strenger die Anforderungen.

Wichtige Termine

Der August 2026 ist für die meisten Unternehmen die kritische Marke: Dann greifen die Hauptpflichten für Hochrisiko-KI-Systeme. Zu beachten: Das Änderungspaket AI Digital Omnibus der EU-Kommission (2026 in der Diskussion) sieht vor, bereits auf dem Markt befindliche Hochrisiko-Systeme nach Anhang III von der August-2026-Frist auszunehmen, sofern keine wesentlichen Designänderungen vorgenommen werden. Einzelne Durchsetzungsschritte könnten sich so bis Ende 2027 verschieben. Da der Vorschlag noch nicht beschlossen ist, sollte die Planung weiterhin auf den ursprünglichen Zeitplan ausgerichtet bleiben.

Die Risikokategorien im Überblick

Der EU AI Act unterscheidet vier Risikostufen. Welche Compliance-Pflichten gelten, richtet sich ausschließlich danach, in welche Kategorie ein KI-System fällt.

Inakzeptables Risiko (Verboten)

Folgende KI-Praktiken sind seit Februar 2025 vollständig untersagt:

• Social Scoring durch staatliche oder private Stellen
• Biometrische Echtzeit-Fernidentifikation im öffentlichen Raum (mit eng gefassten Ausnahmen für Strafverfolgungsbehörden)
• Unterschwellige Manipulationstechniken, die Schaden verursachen
• Ausnutzung von Schwächen bestimmter Personengruppen (Alter, Behinderung)
• Predictive Policing auf Basis von Profiling
• Emotionserkennung in Arbeits- und Bildungseinrichtungen
• Ungezielte Gesichtsbilder-Erfassung aus dem Internet oder Überwachungskameras zum Aufbau von Datenbanken

Hohes Risiko

KI-Systeme in diesen Bereichen unterliegen den strengsten Anforderungen: Konformitätsbewertungen, Dokumentationspflichten, menschliche Aufsicht und laufendes Monitoring:

• Kritische Infrastruktur: Management von Energie, Verkehr, Wasser und digitaler Infrastruktur
• Bildung: Systeme, die über Bildungszugang entscheiden oder Lernende bewerten
• Beschäftigung: Recruiting-Tools, CV-Screening, Leistungsbeurteilung, Beförderungsentscheidungen
• Wesentliche Dienstleistungen: Kredit-Scoring, Versicherungspreise, Zugang zu öffentlichen Leistungen
• Strafverfolgung: Risikobeurteilungs-Tools, Polygraphen, Beweiswürdigung
• Migration und Grenzkontrolle: Visa-Bearbeitung, Asylverfahren
• Justiz und Demokratie: Systeme zur Unterstützung richterlicher Entscheidungen

Begrenztes Risiko (Transparenzpflichten)

KI-Systeme, die direkt mit Menschen interagieren, müssen offenlegen, dass sie KI sind. Das betrifft Chatbots, KI-generierte Inhalte und Deepfakes. Nutzende müssen darüber informiert werden, dass sie mit einem KI-System interagieren; KI-generierte oder manipulierte Inhalte sind entsprechend zu kennzeichnen.

Minimales Risiko

Hierunter fallen die meisten KI-Anwendungen: Spam-Filter, KI-gestützte Design-Tools, Empfehlungssysteme, Lagerverwaltung. Der EU AI Act stellt keine spezifischen Anforderungen, freiwillige Verhaltenskodizes werden jedoch empfohlen.

Was Hochrisiko-Compliance konkret bedeutet

Gilt ein KI-System als Hochrisiko-System, müssen folgende Voraussetzungen bis August 2026 erfüllt sein:

• Risikomanagementsystem: kontinuierliche Identifikation, Analyse und Minderung von Risiken über den gesamten Lebenszyklus des KI-Systems
• Data Governance: Trainings-, Validierungs- und Testdatensätze müssen Qualitätskriterien erfüllen; Bias-Erkennung und -Minderung sind verpflichtend
• Technische Dokumentation: detaillierte Aufzeichnungen zu Zweck, Architektur, Trainingsprozess, Leistungsmetriken und bekannten Grenzen des Systems
• Aufzeichnung und Logging: automatisierte Protokollierung des Systembetriebs für Rückverfolgbarkeit und Nachtatanalyse
• Transparenz: klare Anleitungen für Betreibende, einschließlich Verwendungszweck, Leistungsniveau und bekannter Risiken
• Menschliche Aufsicht: Mechanismen, die menschlichen Betreibenden Monitoring, Eingriff und Überstimmung von KI-Entscheidungen ermöglichen
• Genauigkeit, Robustheit und Cybersicherheit: Systeme müssen konsistent performen und gegen adversarielle Angriffe sowie Datenmanipulation resistent sein

Für Anbieter, die Hochrisiko-KI-Systeme auf den EU-Markt bringen, ist vor der Inbetriebnahme eine Konformitätsbewertung erforderlich. Je nach Bereich erfolgt diese als Selbstbewertung oder durch eine benannte Stelle (Drittzertifizierer).

General-Purpose AI Modelle (GPAI)

Seit August 2025 müssen Anbieter von General-Purpose AI Modellen, darunter große Sprachmodelle, Transparenzanforderungen erfüllen:

• Technische Dokumentation zu Fähigkeiten und Grenzen des Modells
• Urheberrechtskonformität: eine ausreichend detaillierte Zusammenfassung der Trainingsdatensätze, im Einklang mit dem EU-Urheberrecht
• Downstream-Transparenz: Informationen, die nachgelagerten Betreibenden ermöglichen, ihre eigenen Pflichten zu erfüllen

GPAI-Modelle, die als systemisches Risiko eingestuft werden (in der Regel solche, die mit mehr als 10^25 FLOPs trainiert wurden), unterliegen zusätzlichen Pflichten: adversarielle Tests, Incident-Reporting, Cybersicherheitsmaßnahmen und Berichterstattung zum Energieverbrauch.

Deutschlands Rolle und nationale Umsetzung

Als EU-Verordnung gilt der AI Act in allen Mitgliedstaaten unmittelbar, ohne nationale Umsetzung. Jeder Staat muss jedoch zuständige nationale Behörden für Marktüberwachung und Durchsetzung benennen.

Deutschland hat die ursprüngliche August-2025-Frist zur Behördenbestimmung nicht eingehalten. Im Februar 2026 beschloss das Bundeskabinett das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG), das die nationale Regulierungsstruktur festlegt. Das Gesetz durchläuft derzeit das parlamentarische Verfahren im Bundestag.

• BNetzA (Bundesnetzagentur): als primäre KI-Marktüberwachungsbehörde Deutschlands koordiniert sie die sektorübergreifende Durchsetzung
• BSI (Bundesamt für Sicherheit in der Informationstechnik): zuständig für Cybersicherheitsaspekte von KI-Systemen, gibt technische Standards und Orientierungshilfen heraus
• BfDI (Bundesbeauftragter für den Datenschutz): eingebunden, wenn KI-Systeme personenbezogene Daten verarbeiten, stellt Übereinstimmung mit der DSGVO sicher
• Sektorspezifische Regulierer: BaFin (Finanzdienstleistungen), BAuA (Arbeitssicherheit) und weitere übernehmen die KI-Aufsicht in ihren jeweiligen Bereichen

Die BNetzA betreibt seit Juli 2025 einen KI Service Desk, der Unternehmen, besonders KMU, kostenlose und niedrigschwellige Beratung zur EU AI Act Compliance anbietet.

Deutschland engagiert sich zudem aktiv in der KI-Normungsarbeit durch DIN und DKE und leistet Beiträge zu den europäischen harmonisierten Normen, die künftig die Compliance-Benchmarks des AI Act definieren werden. Das BSI hat mit dem QUAIDAL-Framework 143 Qualitätsmetriken zur Bewertung von KI-Trainingsdaten veröffentlicht.

Relevante Zertifizierungen und Standards

Der EU AI Act schreibt keine spezifischen Zertifizierungen vor. In der Praxis zeichnen sich jedoch einige Standards als verlässlichste Wege zum Nachweis der Compliance ab.

ISO/IEC 42001: KI-Managementsystem

Veröffentlicht im Dezember 2023, ist dies der erste internationale Standard für KI-Managementsysteme. Er bietet einen strukturierten Rahmen für das Management von KI-Risiken, Governance und verantwortungsvoller Entwicklung. Zu verstehen wie ISO 27001, nur für KI: Ein zertifizierbarer Managementsystem-Standard, der rund 70 bis 80 % der Anforderungen des EU AI Act an Hochrisiko-Systeme abdeckt.

• Inhalte: KI-Richtlinien, Risikobewertung, Rollen und Verantwortlichkeiten, Datenmanagement, Leistungsmessung, kontinuierliche Verbesserung
• Zielgruppe: Alle Organisationen, die KI-Systeme entwickeln oder betreiben, insbesondere solche in Hochrisiko-Kategorien nach dem EU AI Act
• Zertifizierung: Erhältlich über akkreditierte Zertifizierungsstellen; Audits folgen derselben Struktur wie bei ISO 27001 (Stufe 1 und Stufe 2)

Weitere relevante Standards

Besondere Bedeutung kommt den harmonisierten CEN/CENELEC-Normen zu. Nach ihrer Veröffentlichung erzeugen sie eine sogenannte Konformitätsvermutung: Erfüllt ein KI-System diese Normen, gilt es als konform mit den entsprechenden Anforderungen des EU AI Act. Ihre Veröffentlichung wird im Laufe von 2025 und 2026 erwartet.

Bußgelder bei Verstößen

Der EU AI Act sieht ein gestuftes Bußgeldsystem vor, das sich an der Schwere des Verstoßes orientiert:

Für KMU und Startups werden Bußgelder anteilig auf die niedrigere Schwelle gedeckelt. Das eigentliche Geschäftsrisiko liegt jedoch häufig woanders: Reputationsschäden durch fehlende Compliance können schwerer wiegen als Geldbußen, besonders im B2B-Bereich, wo Kunden zunehmend Nachweise zur KI-Compliance ihrer Lieferanten einfordern.

DSGVO und AI Act: Wo sie sich überschneiden

Verarbeitet ein KI-System personenbezogene Daten, was bei den meisten der Fall ist, gelten DSGVO und AI Act nebeneinander. Sie ergänzen sich, stehen sich aber nicht entgegen:

• DSGVO regelt, wie personenbezogene Daten erhoben, verarbeitet und gespeichert werden, einschließlich Trainingsdaten für KI-Modelle
• AI Act regelt das KI-System selbst: Design, Testing, Betrieb und laufendes Monitoring
• Datenschutz-Folgenabschätzungen (DPIAs) nach DSGVO decken sich weitgehend mit den Risikobewertungen des AI Act für Hochrisiko-Systeme
• Automatisierte Entscheidungsfindung nach DSGVO-Artikel 22 gibt Betroffenen bereits das Recht, KI-Entscheidungen anzufechten; der AI Act ergänzt technische Anforderungen

Organisationen mit ausgereiften DSGVO-Prozessen haben einen klaren Vorsprung. Dokumentation, Folgenabschätzung und Governance-Strukturen überlappen erheblich.

Konkrete Schritte: Was jetzt zu tun ist

Ob Startup mit Chatbot oder Konzern mit KI-gestützter Kreditbewertung: Hier ist ein praxistauglicher Aktionsplan.

1. KI-Systeme inventarisieren

Alle KI-Systeme erfassen, die die Organisation entwickelt, betreibt oder nutzt. Dazu gehören auch Drittanbieter-Tools wie CRM-Scoring, Recruiting-Plattformen und Analytics. Jedes System ist den Risikokategorien des EU AI Act zuzuordnen.

2. Eigene Rolle klären

Der AI Act unterscheidet zwischen Anbietern (die KI-Systeme entwickeln oder in Verkehr bringen) und Betreibenden (die sie einsetzen). Die Pflichten unterscheiden sich erheblich. Wer ein KI-Tool eines Drittanbieters einsetzt, gilt als Betreibender, trägt aber dennoch Transparenz-, Aufsichts- und Monitoring-Pflichten.

3. Gap-Analyse gegen Hochrisiko-Anforderungen

Für Hochrisiko-KI-Systeme: den aktuellen Stand gegen die sieben Kernanforderungen prüfen: Risikomanagement, Data Governance, Dokumentation, Logging, Transparenz, menschliche Aufsicht und Robustheit. Lücken identifizieren und Abhilfemaßnahmen priorisieren.

4. KI-Governance etablieren

Einen KI-Governance-Rahmen aufbauen: Richtlinien, Rollen und Prozesse für den verantwortungsvollen Umgang mit KI-Systemen. ISO/IEC 42001 bietet dafür eine fertige Struktur. Auch ohne Zertifizierungsanspruch liefert das Framework eine verteidigungsfähige Ausgangsbasis.

5. Konformitätsbewertung vorbereiten

Wer Hochrisiko-KI-Systeme anbietet, sollte bereits jetzt technische Dokumentation, Testprotokolle und Qualitätsmanagementsysteme aufbauen. Die Konformitätsbewertung erfordert Nachweise für alle sieben Anforderungsbereiche.

6. Teams schulen

Der AI Act schreibt ausdrücklich vor, dass an KI-Systemen beteiligte Mitarbeitende über ausreichende KI-Kompetenz verfügen müssen. Artikel 4 macht das verbindlich. Investitionen in Schulungen für Entwicklende, Produktmanager, Compliance-Teams und Führungskräfte sind daher keine Option, sondern Pflicht.

Auswirkungen auf Website und Produkt

Setzt eine Website KI-gestützte Funktionen ein, etwa Chatbots, Personalisierungs-Engines, Empfehlungssysteme oder automatisierte Content-Generierung, gelten zumindest die Transparenzpflichten für begrenztes Risiko.

• KI-Chatbots müssen vor dem Interaktionsbeginn offenlegen, dass sie KI-Systeme sind
• KI-generierte Inhalte auf der Website sind zu kennzeichnen, wo sie mit menschlich erstellten Inhalten verwechselt werden könnten
• Personalisierungs- und Profiling-Systeme können je nach Auswirkung auf Nutzende DSGVO- und AI-Act-Pflichten auslösen
• KI-gestützte Formulare und Scoring-Systeme (Lead-Scoring, Eignungsprüfungen) müssen hinsichtlich ihrer Risikoklassifizierung bewertet werden

Eine klare KI-Offenlegungsrichtlinie informiert Nutzende in verständlicher Sprache vor Beginn der Interaktion, kennzeichnet generierte Inhalte wo nötig und zeigt Aufsichtsbehörden, dass Transparenz von Anfang an in den Prozess integriert wurde.

Nächste Schritte

Die KI-Regulierung in Europa verliert nicht an Fahrt. Der Rahmen steht, die Fristen sind gesetzt, und die Durchsetzungsmechanismen werden aufgebaut. Unternehmen, die das als ein Problem von 2027 behandeln, werden sich in Zugzwang befinden: Die August-2026-Frist für Hochrisiko-Systeme ist nur noch wenige Monate entfernt.

webvise entwickelt digitale Produkte mit Blick auf Compliance. Ob KI-Funktionen auf der Website für den EU AI Act bewertet werden müssen, Offenlegungsmechanismen implementiert werden sollen oder ein vollständiges technisches Audit des digitalen Auftritts gefragt ist: Für konkrete Unterstützung bei den regulatorischen Anforderungen steht eine unverbindliche Anfrage offen.