EU AI Act nach dem 2. August 2026: Was Unternehmen mit KI-Agenten tun müssen

Gilt der EU AI Act für Ihr Unternehmen?

Der EU AI Act hat einen breiten Anwendungsbereich - und gilt nicht nur für Unternehmen mit Sitz in der Europäischen Union. Die Verordnung erfasst jede Organisation, die ein KI-System auf dem EU-Markt in Verkehr bringt, ein KI-System innerhalb der EU betreibt oder deren KI-generierte Ergebnisse von Personen in der EU genutzt werden. Diese extraterritoriale Logik spiegelt die Funktionsweise der DSGVO wider: Ihr physischer Standort ist irrelevant, wenn Ihr KI-System EU-Nutzer erreicht.

Eine schnelle Selbsteinschätzung umfasst drei Fragen:

• Interagieren Ihre KI-Systeme mit Nutzern in der EU?
• Verarbeiten Ihre KI-Systeme Daten von EU-Bürgern?
• Werden die Ausgaben Ihrer KI-Systeme verwendet, um Entscheidungen über EU-Bürger zu treffen?

Wenn Sie eine dieser Fragen mit Ja beantworten, gilt der EU AI Act zumindest für einen Teil Ihrer KI-Aktivitäten. Eine SaaS-Plattform mit EU-Kunden, ein Marketing-Agent, der Inhalte für EU-Zielgruppen erstellt, oder ein HR-Agent, der Bewerber aus EU-Ländern bewertet - alle drei Szenarien fallen unter die Verordnung. Die Europäische Kommission bietet einen offiziellen EU AI Act Compliance Checker (derzeit in der Beta-Phase) als vorläufiges Selbstbewertungsinstrument an, das jedoch keine Rechtsanalyse ersetzt.

Der EU AI Act-Zeitplan: Was jetzt gilt und was noch kommt

Der EU AI Act ist eine schrittweise umgesetzte Verordnung. Das Verständnis des Zeitplans verhindert sowohl unnötige Panik über Verpflichtungen, die noch nicht gelten, als auch gefährliche Sorglosigkeit gegenüber Anforderungen, die bereits in Kraft sind. Der Zeitplan enthält vier wichtige Meilensteine für Unternehmen, die KI-Agenten einsetzen.

Bereits vor August 2026 in Kraft:

• Februar 2025 - Verbote für neun Kategorien unzulässiger KI-Nutzung traten in Kraft. Diese umfassen Manipulationstechniken, die psychologische Schwachstellen ausnutzen, Systeme zur sozialen Bewertung durch öffentliche Behörden sowie die biometrische Echtzeit-Identifizierung in öffentlichen Räumen zu Strafverfolgungszwecken. Wenn Ihre Systeme in die Nähe dieser Kategorien fallen, hätten Sie dies bereits adressieren müssen.
• August 2025 - Anforderungen für KI-Modelle mit allgemeinem Verwendungszweck (GPAI) traten in Kraft. Dies gilt in erster Linie für Modellentwickler und Anbieter von Basismodellen, nicht für Unternehmen, die Modell-APIs nutzen.

Ab dem 2. August 2026 in Kraft:

• Transparenzpflichten nach Artikel 50 sind nun vollständig in Kraft. Jedes Unternehmen, das ein KI-System betreibt, das direkt mit Menschen interagiert, muss offenlegen, dass diese Interaktion KI-gesteuert ist. Maschinell lesbare Kennzeichnung synthetischer Inhalte - KI-generierter Audio-, Bild-, Video- und Textinhalte von öffentlichem Interesse - ist ebenfalls vorgeschrieben. Für Systeme, die vor dem 2. August 2026 auf den Markt gebracht wurden, gilt eine begrenzte Übergangsfrist ausschließlich für die Pflicht zur maschinell lesbaren Kennzeichnung bis zum 2. Dezember 2026.

Noch ausstehend:

• 2. Dezember 2027 - Die meisten Anforderungen an Hochrisikosysteme gemäß Anhang III (Personalbeschaffung, biometrische Identifizierung, Bildungszugang, Kreditwürdigkeitsprüfung, Migrationskontrolle) werden verbindlich.
• 2. August 2028 - Anforderungen für Hochrisiko-KI-Systeme, die in regulierten Produkten wie Medizinprodukten und Transportausrüstung eingebettet sind.

Für die meisten Unternehmen, die KI-Agenten im Jahr 2026 einsetzen, ist die entscheidende Verpflichtung Artikel 50. Die Hochrisiko-Anforderungen gemäß Anhang III kommen - und die Vorbereitung sollte jetzt beginnen - sie sind jedoch für die meisten Anwendungsfälle noch nicht gesetzlich vorgeschrieben.

Unternehmen außerhalb der EU: Wie die extraterritoriale Reichweite funktioniert

Der EU AI Act gilt für Ihr Unternehmen, auch wenn sich alle Mitarbeiter, Server und Büros außerhalb der EU befinden. Der entscheidende Faktor ist, ob Ihre KI-Systeme EU-Nutzern dienen oder Ausgaben erzeugen, die diese betreffen - nicht wo Ihr Unternehmen registriert ist oder wo Ihre Infrastruktur betrieben wird. Genau so hat die DSGVO-Durchsetzung funktioniert, und die Durchsetzung des EU AI Act wird voraussichtlich derselben Logik folgen.

Drei praktische Beispiele veranschaulichen den Anwendungsbereich:

• Ein US-amerikanisches SaaS-Unternehmen, dessen Plattform einen KI-Chatbot enthält, der von EU-Kunden genutzt wird, unterliegt den Transparenzanforderungen nach Artikel 50 für diese Interaktionen.
• Eine Marketingagentur außerhalb der EU, die KI-Agenten zur Erstellung von Werbeinhalten für EU-Verbraucher einsetzt, muss die Kennzeichnungspflichten für maschinell lesbare Markierungen dieser Inhalte berücksichtigen.
• Ein HR-Technologieunternehmen, dessen KI-gestütztes Screening-Tool Bewerber mit Sitz in der EU bewertet, betreibt ein System, das bis Dezember 2027 wahrscheinlich unter die Hochrisiko-Klassifizierung gemäß Anhang III fällt.

Die praktische Konsequenz lautet: "Wir sind kein europäisches Unternehmen" ist keine Compliance-Verteidigung. Wenn EU-Nutzer mit Ihren KI-Systemen interagieren, gelten die EU-Vorschriften. Der Regulierungsrahmen der Europäischen Kommission behandelt den territorialen Geltungsbereich im Detail. Für eine vorläufige Selbstbewertung ist der oben verlinkte offizielle Compliance Checker ein sinnvoller Ausgangspunkt.

Anbieter vs. Betreiber: Ihre Pflichten hängen von Ihrer Rolle ab

Eine der wichtigsten Unterscheidungen im EU AI Act ist der Unterschied zwischen einem Anbieter und einem Betreiber. Diese beiden Rollen tragen sehr unterschiedliche Compliance-Verpflichtungen, und die meisten Unternehmen, die KI-Agenten nutzen - aber keine Basismodelle entwickeln - sind Betreiber und keine Anbieter.

Anbieter ist definiert als eine Organisation, die ein KI-System entwickelt und es unter eigenem Namen oder eigener Marke auf dem Markt in Verkehr bringt. Wenn Sie ein fein abgestimmtes Modell auf der Grundlage proprietärer Daten entwickeln und es anderen Unternehmen lizenzieren, ist Ihr Unternehmen ein Anbieter. Die Entwicklung eines KI-Systems, das Sie als Produkt unter eigener Marke verkaufen, macht Sie ebenfalls zum Anbieter.

Betreiber ist eine Organisation, die ein fertiges KI-System im Rahmen ihrer beruflichen Tätigkeiten nutzt. Die Verbindung zur OpenAI-API, zur Anthropic-API oder zu einem anderen kommerziellen Modell, um ein internes Tool oder eine kundengerichtete Funktion zu betreiben, macht Ihr Unternehmen typischerweise zum Betreiber. Der Modellentwickler ist der Anbieter; Sie sind der Betreiber.

Die entscheidende Nuance liegt bei der wesentlichen Modifikation. Wenn Ihr Unternehmen ein KI-System eines Drittanbieters nimmt und es erheblich modifiziert - es mit proprietären Daten neu trainiert, seinen beabsichtigten Verwendungszweck wesentlich ändert oder es unter Ihrer eigenen Marke als eigenständiges Produkt auf dem Markt platziert - kann sich Ihre Rolle nach der Verordnung vom Betreiber zum Anbieter verlagern. Der genaue Schwellenwert für eine "wesentliche Modifikation" unterliegt noch der regulatorischen Auslegung und ist in veröffentlichten Leitlinien noch nicht abschließend definiert.

Die Betreiberpflichten sind deutlich geringer als die Anbieterpflichten. Sie sind jedoch nicht gleich null. Als Betreiber sind Sie dafür verantwortlich, dass die von Ihnen genutzten KI-Systeme die geltenden Anforderungen in Ihrem Kontext erfüllen, einschließlich der Transparenzoffenlegungen nach Artikel 50 gegenüber Ihren Nutzern.

Ein praktisches Beispiel: Ein Unternehmen, das API-Zugang zu einem kommerziellen LLM erwirbt und darauf einen Kundensupport-Agenten aufbaut, ist ein Betreiber. Dasselbe Unternehmen ist wahrscheinlich ein Anbieter für dieses Produkt, wenn es das Modell auf proprietären Datensätzen feinabstimmt und das resultierende System unter eigenem Namen an Dritte vermarktet.

So klassifizieren Sie das Risikoniveau Ihrer KI-Agenten

Eines der häufigsten Missverständnisse über den EU AI Act ist die Annahme, dass KI-Agenten eine besondere, automatisch hochriskante Kategorie von KI-Systemen darstellen. Das tun sie nicht. Der EU AI Act definiert "KI-Agent" nicht als Risikoklassifizierung. Das Risiko wird davon bestimmt, was das System tut und welche Konsequenzen seine Entscheidungen haben - nicht durch seine technische Architektur.

Die Verordnung definiert vier Risikostufen:

• Inakzeptables Risiko (verboten) - Systeme, die Verhalten durch unterschwellige Techniken manipulieren, soziale Bewertung durch öffentliche Behörden ermöglichen oder biometrische Echtzeit-Identifizierung in öffentlichen Räumen zu Strafverfolgungszwecken durchführen. Diese waren ab Februar 2025 verboten.
• Hohes Risiko - Systeme, die in Anhang III der Verordnung aufgeführt sind. Dazu gehören KI-Systeme, die in der Personalbeschaffung und im Personalmanagement, bei der Kreditwürdigkeitsprüfung, bei Bildungszugangsentscheidungen, bei der biometrischen Kategorisierung, beim Management kritischer Infrastruktur und bei der Migrationskontrolle eingesetzt werden. Hochrisikosysteme unterliegen den umfangreichsten Dokumentations-, Test- und Aufsichtsanforderungen.
• Begrenztes Risiko (Artikel 50) - Systeme, die mit Menschen interagieren (Chatbots, virtuelle Assistenten) oder synthetische Inhalte generieren. Diese tragen Transparenzpflichten: Offenlegung und Inhaltskennzeichnung.
• Minimales Risiko - Die meisten KI-Systeme fallen hierunter. Spam-Filter, Empfehlungsmaschinen und viele interne Automatisierungstools. Es gelten keine spezifischen EU AI Act-Verpflichtungen, obwohl gute Engineering-Praxis weiterhin relevant ist.

Angewendet auf gängige KI-Agenten-Typen: Ein Kundensupport-Chatbot ist begrenztes Risiko (Offenlegungspflicht nach Artikel 50 gilt). Ein Dokumentenzusammenfassungs-Agent für den internen Gebrauch ist minimales Risiko. Ein Inhaltsgenerierungs-Agent für Marketingmaterialien ist begrenztes Risiko mit Überlegungen zur Inhaltskennzeichnung. Ein HR-Agent, der Stellenbewerber einstuft oder filtert, ist hohes Risiko - selbst wenn die zugrundeliegende Technologie dieselbe LLM-API ist, die in einem Minimal-Risiko-Agenten verwendet wird.

Die entscheidende Diagnosefrage lautet: Beeinflusst die Ausgabe des Agenten direkt eine Entscheidung über die Rechte, Gesundheit, Beschäftigung oder finanzielle Situation einer bestimmten Person? Wenn ja, sollte der Pfad zur Hochrisiko-Klassifizierung sorgfältig geprüft werden.

Multi-Agenten-Systeme erfordern besondere Aufmerksamkeit. Der EU AI Act enthält noch keine spezifischen Bestimmungen für Agentenketten - Pipelines, in denen ein Agent einen anderen aufruft, um eine Aufgabe zu erfüllen. Die aktuelle Auslegung legt die Verantwortung für die gesamte Pipeline beim Betreiber des Gesamtsystems. Wenn Ihre Architektur mehrere sequenziell arbeitende Agenten umfasst, sollten Sie das kombinierte System als Einheit der Compliance-Analyse betrachten.

Artikel 50 Transparenz: Was ab dem 2. August 2026 gefordert wird

Artikel 50 des EU AI Act ist die Compliance-Realität für die meisten Unternehmen, die KI-Agenten im Jahr 2026 einsetzen. Diese Transparenzpflichten gelten für Anbieter und Betreiber von KI-Systemen, die mit Menschen interagieren oder synthetische Inhalte generieren. Verstöße können mit Bußgeldern von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist.

Artikel 50 enthält zwei Kernverpflichtungen:

Offenlegung der KI-Interaktion

Wenn Ihr KI-System darauf ausgelegt ist, direkt mit einer natürlichen Person zu interagieren - ein Chatbot, ein virtueller Assistent, ein KI-gestützter Support-Agent - muss diese Person darüber informiert werden, dass sie mit einem KI-System und nicht mit einem Menschen interagiert. Diese Offenlegung muss vor oder zu Beginn der Interaktion erfolgen. Die Verpflichtung gilt, sofern die KI-Natur des Systems nicht aus dem Kontext offensichtlich ist.

Was als ausreichende Offenlegung gilt: eine klare, sichtbare Aussage in der Benutzeroberfläche zum Zeitpunkt der ersten Interaktion. Nicht versteckt in den Nutzungsbedingungen. Nicht nur auf einer Dokumentationsseite erscheinend. Die offizielle FAQ der Europäischen Kommission zu den Transparenzpflichten gemäß Artikel 50 bietet praktische Orientierung dazu, was als ausreichende Benachrichtigung gilt.

Es gibt eine wichtige Ausnahme: Wenn die Offenlegung den legitimen Zweck des Systems in einem Strafverfolgungskontext, einem Sicherheitskontext oder einem nationalen Verteidigungskontext gefährden würde, gilt die Verpflichtung möglicherweise nicht. Für Standard-Geschäftsanwendungen ist die Ausnahme eng gefasst und findet keine Anwendung.

Maschinell lesbare Kennzeichnung synthetischer Inhalte

Wenn Ihr KI-System synthetische Audio-, Bild-, Video- oder Textinhalte generiert, die dazu bestimmt sind, die Öffentlichkeit über Angelegenheiten von allgemeinem Interesse zu informieren - etwa Nachrichtenzusammenfassungen, politische Inhalte oder Informationen zur öffentlichen Gesundheit - muss dieser Inhalt maschinell lesbar gekennzeichnet sein, um seinen KI-Ursprung anzuzeigen. Dies unterscheidet sich von der KI-Offenlegungspflicht und gilt auf Inhaltsebene, nicht auf Interaktionsebene.

Die Verordnung schreibt keinen einheitlichen technischen Standard für die maschinell lesbare Kennzeichnung vor. C2PA (Coalition for Content Provenance and Authenticity) stellt einen etablierten Ansatz zur Inhaltsherkunft dar, der dieser Funktion dienen kann, ist aber eine Implementierungsoption, kein gesetzlich vorgeschriebener Standard. Andere technische Ansätze bleiben gültig, solange sie die Anforderung der maschinellen Lesbarkeit erfüllen.

Es gibt auch eine Deepfake-spezifische Offenlegungspflicht: KI-generierte Inhalte, die reale Personen auf eine Weise darstellen, die die Öffentlichkeit irreführen könnten, müssen eine sichtbare Kennzeichnung ihrer synthetischen Natur tragen. Dies gilt unabhängig davon, ob der Inhalt Angelegenheiten von öffentlichem Interesse betrifft.

Für Systeme, die vor dem 2. August 2026 auf den Markt gebracht wurden, gilt die Pflicht zur maschinell lesbaren Kennzeichnung - und ausschließlich diese Pflicht - mit einer Übergangsfrist bis zum 2. Dezember 2026. Alle anderen Anforderungen gemäß Artikel 50 sind ab dem 2. August 2026 ohne Übergangszeit in Kraft.

Technische Kontrollmaßnahmen: Bewährte Praktiken zur Unterstützung der Compliance

Über den rechtlichen Text des EU AI Act hinaus gibt es eine Reihe von technischen Kontrollmaßnahmen, die führende Organisationen bei der Bereitstellung von KI-Agenten implementieren. Diese Kontrollen sind nicht alle universellen gesetzlichen Pflichten nach dem EU AI Act für Betreiber im Jahr 2026 - einige sind von Branchenstandards empfohlene Best Practices, andere adressieren Hochrisiko-Anforderungen, die 2027 bis 2028 verbindlich werden. Den Unterschied zu verstehen ist wichtig: Jede bewährte Praxis als unmittelbare gesetzliche Verpflichtung zu behandeln, erzeugt unnötigen Aufwand; sie als optional zu betrachten schafft tatsächliche Risiken.

KI-System-Inventar

Bevor Sie Risikostufen klassifizieren oder Compliance-Verpflichtungen zuweisen können, müssen Sie wissen, welche KI-Systeme Ihre Organisation tatsächlich nutzt. Dazu gehören Systeme, die über offizielle IT-Kanäle beschafft wurden, und Systeme, die Mitarbeiter eigenständig eingeführt haben. Forschungsergebnisse zeigen konsistent, dass rund 49 % der Mitarbeiter nicht genehmigte KI-Tools bei der Arbeit verwenden - ein Muster, das als "Shadow AI" bezeichnet wird. Der EU AI Act erkennt gutgläubige Unkenntnis nicht als Verteidigung an: Wenn ein in Ihrer Organisation betriebenes KI-System ein Compliance-Problem verursacht, ist Ihre Organisation verantwortlich. Ein aktuelles Inventar aller KI-Systeme, einschließlich der von Teams informell genutzten, ist die Voraussetzung für alles Weitere.

Audit-Protokollierung

Die Aufzeichnung der Aktivitäten von KI-Agenten - der empfangenen Eingaben, der getroffenen Entscheidungen, der ausgeführten Aktionen - schafft die Beweisgrundlage, um Compliance nachträglich nachzuweisen und Fehler bei ihrem Auftreten zu diagnostizieren. Für Hochrisikosysteme gemäß Anhang III (gültig ab Dezember 2027) ist die Protokollierung eine formale Anforderung. Für alle Systeme ist sie eine solide Engineering-Praxis, die von Anfang an integriert werden sollte.

Zugriffskontrolle und Least-Privilege-Prinzip

KI-Agenten sollten nur Zugriff auf die Systeme, Daten und Tools haben, die sie für ihre spezifischen Aufgaben benötigen. Ein Agent, der interne Dokumente zusammenfasst, benötigt keinen Schreibzugriff auf Produktionsdatenbanken. Ein Agent, der Meetings plant, benötigt keinen Zugriff auf finanzielle Kundendaten. Die Anwendung des Least-Privilege-Prinzips begrenzt den Schadensbereich, wenn ein Agent sich unerwartet verhält oder kompromittiert wird.

Menschliche Kontrolle bei folgenreichen Aktionen

Bei Aktionen, die irreversibel sind oder erhebliche Konsequenzen haben - das Versenden externer Kommunikation, die Ausführung von Finanztransaktionen, das Löschen von Daten, die Modifikation von Produktionssystemen - ist ein menschlicher Genehmigungsschritt vor der Ausführung eine wirksame Sicherheitsmaßnahme. Dies ist besonders wichtig, je autonomer KI-Agenten werden. Der Einbau dieser Kontrollpunkte in Ihre Workflow-Architektur reduziert das Risiko kostspieliger Fehler und entspricht den allgemeinen Grundsätzen der menschlichen Aufsicht im EU AI Act, die für Hochrisikosysteme formale Anforderungen darstellen.

Agenten-spezifische Sicherheitsrisiken

Die OWASP Top 10 für Agentische Anwendungen 2026, entwickelt mit Beiträgen von mehr als 100 Branchenexperten, Forschern und Praktikern, identifiziert die bedeutendsten Risiken bei KI-Agenten-Einsätzen. Mehrere davon sind direkt relevant für die Betriebssicherheit und Compliance-Bereitschaft:

• ASI01 Agent Goal Hijack - Ein Angreifer manipuliert die Ziele des Agenten durch manipulierte Eingaben (Prompt Injection). Abhilfe: strikte Begrenzung autonomer Aktionszyklen und kontrollierte Eingabevalidierung.
• ASI02 Tool Misuse - Der Agent ruft legitime Tools mit unautorisierten Parametern auf. Abhilfe: Parametervalidierung und explizite Berechtigungszuweisung.
• ASI07 Insecure Inter-Agent Communication - In Multi-Agenten-Pipelines kommunizieren Agenten ohne Authentifizierung, was Privilegieneskalation zwischen Agenten ermöglicht. Abhilfe: signierte Nachrichten und explizite Agenten-Identitätsverifizierung.
• ASI08 Cascading Failures - Ein Ausfall in einem Agenten breitet sich schneller durch die Pipeline aus, als menschliche Operatoren reagieren können. Abhilfe: Circuit Breaker und Eingrenzung des Schadensbereichs.
• ASI10 Rogue Agents - Agenten weichen durch Kontextakkumulation oder externe Kompromittierung von ihrem beabsichtigten Verhalten ab. Abhilfe: Verhaltens-Baselines, Telemetrie und ein dokumentiertes Abschaltverfahren.

Governance-Frameworks als Referenzpunkte

ISO/IEC 42001:2023 bietet einen internationalen Standard für KI-Managementsysteme - einen strukturierten Ansatz für kontinuierliches Risikomanagement, Rückverfolgbarkeit und Lieferantenaufsicht über das gesamte KI-Portfolio einer Organisation. Eine ISO 42001-Zertifizierung ist nicht gleichbedeutend mit EU AI Act-Compliance und erfüllt gesetzliche Anforderungen nicht automatisch, bietet jedoch einen ausgereiften organisatorischen Rahmen für KI-Governance, der mit den Erwartungen der Verordnung kompatibel ist.

Ähnlich bietet das NIST AI Risk Management Framework, das in einem offenen Prozess mit Beteiligung von mehr als 240 Organisationen aus Industrie, Wissenschaft und Zivilgesellschaft entwickelt wurde, einen praktischen Govern-Map-Measure-Manage-Zyklus für das kontinuierliche Management von KI-Risiken. Es handelt sich um ein freiwilliges, unverbindliches Framework - keine gesetzliche Anforderung und nicht jurisdiktionsspezifisch - aber es lässt sich direkt in operative Prozesse übersetzen, die die Compliance-Bereitschaft unterstützen.

Fünf praktische KI-Agenten-Szenarien: Was der EU AI Act verlangt

Die Anwendung des Risikorahmens des EU AI Act auf konkrete Anwendungsfälle macht die Verpflichtungen klarer als abstrakte Klassifizierungstabellen. Hier sind fünf häufige KI-Agenten-Szenarien und ihre Bedeutung für die Compliance in der Praxis.

Szenario 1: Kundensupport-Chatbot
Risikostufe: begrenzt (Artikel 50). Der Agent interagiert direkt mit Endnutzern. Sie müssen zu Beginn jeder Interaktion offenlegen, dass der Nutzer mit einem KI-System kommuniziert, nicht mit einem Menschen. Keine Anforderungen gemäß Anhang III gelten. Dies ist das häufigste Szenario für Unternehmen, die bereits KI-gestützte Support-Tools eingesetzt haben.

Szenario 2: HR-Agent zur Lebenslaufprüfung
Risikostufe: hoch (Anhang III, Kategorie Beschäftigungsentscheidungen). Dieser Agent wird wahrscheinlich als Hochrisikosystem gemäß EU AI Act eingestuft, da seine Ausgaben direkt Entscheidungen über individuelle Beschäftigung beeinflussen. Vollständige Anhang-III-Anforderungen - einschließlich technischer Dokumentation, Konformitätsbewertung, Mechanismen zur menschlichen Aufsicht und Registrierung - werden bis zum 2. Dezember 2027 verbindlich. Sie sollten jedoch jetzt mit dem Aufbau Ihres KI-System-Inventars und der technischen Dokumentation beginnen. Nachträgliche Vorbereitung ist erheblich teurer als eine von Anfang an integrierte Herangehensweise.

Szenario 3: Inhaltsgenerierungs-Agent für Marketingmaterialien
Risikostufe: begrenzt (Artikel 50). Der Agent generiert synthetische Inhalte. Je nach Art des Inhalts kann eine maschinell lesbare Kennzeichnung erforderlich sein. Wenn der Inhalt realistische synthetische Medien mit echten Personen darstellt, gilt die Deepfake-Offenlegungspflicht. Für standardmäßige Marketingtexte sind die Anforderungen geringer - aber die Kennzeichnungspflicht für Inhalte von öffentlichem Interesse sollte fallbezogen geprüft werden.

Szenario 4: Interner Dokumentenzusammenfassungs-Agent
Risikostufe: minimal in den meisten Konfigurationen. Wenn der Agent interne Dokumente ausschließlich für den internen Gebrauch verarbeitet und seine Ausgaben keine Entscheidungen über bestimmte Personen direkt beeinflussen, fällt er wahrscheinlich in die Minimalrisiko-Kategorie. Artikel 50 gilt, wenn EU-Bürger direkt mit dem Agenten interagieren. Für ein rein intern von Mitarbeitern genutztes Tool gilt die Offenlegungspflicht gegenüber den Mitarbeitern als primärer Nutzergruppe typischerweise nicht.

Szenario 5: Finanz-Agent zur Kreditbewertung oder dynamischen Preisgestaltung
Risikostufe: wahrscheinlich hoch (Anhang III umfasst Kreditwürdigkeitsprüfung und finanzielle Risiköinschätzung). Dieses Szenario erfordert eine sorgfältige Rechtsanalyse. Ein Preisgestaltungsagent, der Preise dynamisch auf der Grundlage individueller Nutzermerkmale anpasst, kann unter die Hochrisiko-Klassifizierung fallen. Ein Kreditbewertungsagent tut dies mit hoher Wahrscheinlichkeit. Wenn Sie Agenten in diesem Bereich betreiben, ist die Frist im Dezember 2027 für die Compliance gemäß Anhang III nicht weit entfernt, und die technische Dokumentation braucht Zeit, um ordnungsgemäß aufgebaut zu werden.

Unternehmens-Checkliste für den EU AI Act

Die folgenden Schritte adressieren die wichtigsten Compliance-Maßnahmen für ein Unternehmen, das KI-Agenten im Jahr 2026 einsetzt. Dies ist ein praktischer Ausgangspunkt, kein vollständiges rechtliches Compliance-Programm.

1. Erstellen Sie ein KI-System-Inventar. Listen Sie jedes KI-Tool und jeden KI-Agenten auf, den Ihre Organisation nutzt, einschließlich Tools, die von einzelnen Teams ohne zentrale IT-Genehmigung eingeführt wurden (Shadow AI). Ohne diese Liste ist eine Klassifizierung unmöglich.
2. Bestimmen Sie Ihre Rolle für jedes System. Sind Sie Anbieter oder Betreiber? Die Antwort hängt davon ab, ob Sie das System entwickelt haben oder ein von jemand anderem entwickeltes System nutzen, und ob Sie es wesentlich modifiziert haben.
3. Klassifizieren Sie das Risikoniveau jedes Systems. Verwenden Sie das Vier-Stufen-Framework: verboten, hohes Risiko, begrenztes Risiko, minimales Risiko. Die Schlüsselfrage für die Hochrisiko-Klassifizierung ist, ob die Ausgaben des Systems direkt Entscheidungen über die Rechte, Gesundheit, Beschäftigung oder Finanzen bestimmter Personen beeinflussen.
4. Implementieren Sie die Artikel-50-Compliance für Systeme mit begrenztem Risiko. Fügen Sie klare KI-Offenlegungshinweise zu jeder nutzerorientierten Schnittstelle hinzu, über die Ihr KI-Agent mit Menschen interagiert. Prüfen Sie Ihre Inhaltsgenerierungs-Workflows auf Pflichten zur maschinell lesbaren Kennzeichnung.
5. Beginnen Sie mit der Vorbereitung auf die Hochrisiko-Anforderungen gemäß Anhang III. Wenn einige Ihrer KI-Systeme wahrscheinlich als Hochrisiko eingestuft werden, beginnen Sie jetzt mit dem Aufbau technischer Dokumentation und Prozessen zur menschlichen Aufsicht, im Vorgriff auf die Frist im Dezember 2027.
6. Nutzen Sie den offiziellen Compliance Checker. Der EU AI Act Compliance Checker (Beta) der Europäischen Kommission bietet ein strukturiertes Selbstbewertungsinstrument. Er ersetzt keine Rechtsanalyse, ist aber ein nützlicher Ausgangspunkt für die Priorisierung.
7. Richten Sie Audit-Protokollierung für KI-Agenten-Aktionen ein. Erfassen Sie Eingaben, Entscheidungen und Ausgaben für jeden KI-Agenten in der Produktion. Speichern Sie Protokolle mit ausreichender Aufbewahrungszeit, um eine nachträgliche Compliance-Verifizierung zu unterstützen.
8. Bauen Sie Kontrollpunkte mit menschlicher Genehmigung für irreversible Aktionen ein. Bevor ein KI-Agent eine Aktion ausführt, die nicht rückgängig gemacht werden kann - Datenlöschung, Versenden externer Nachrichten, Ausführen von Finanztransaktionen - fordern Sie eine menschliche Genehmigung an.
9. Prüfen Sie Lieferantenverträge für KI-Systeme, die Sie als Betreiber nutzen. Klären Sie, wie Compliance-Verpflichtungen zwischen Ihnen und Ihrem KI-System-Anbieter aufgeteilt sind. Manche Verpflichtungen liegen beim Anbieter; manche liegen bei Ihnen als Betreiber, unabhängig davon, was der Anbieter tut.

Häufige Fehler bei der EU AI Act Compliance

Mehrere Fehlermuster treten konsistent bei Organisationen auf, die zum ersten Mal an die EU AI Act-Compliance herangehen. Sie frühzeitig zu erkennen, verhindert sowohl unnötige Kosten als auch echtes rechtliches Risiko.

Fehler 1: "Wir sind nicht in der EU, daher gilt das nicht für uns." Der extraterritoriale Geltungsbereich des EU AI Act entspricht der DSGVO-Logik. Wenn Ihre KI-Systeme EU-Nutzer erreichen, gilt die Verordnung unabhängig davon, wo Ihr Unternehmen seinen Hauptsitz hat. US-amerikanische Unternehmen, Unternehmen aus Osteuropa und Unternehmen aus jeder anderen Jurisdiktion, die EU-Kunden bedienen, fallen in den Anwendungsbereich.

Fehler 2: "KI-Agenten sind automatisch hochriskant gemäß dem EU AI Act." Das sind sie nicht. Der EU AI Act definiert KI-Agent nicht als Risikokategorie. Ein Kundensupport-Chatbot und ein Kreditbewertungssystem können beide auf derselben zugrundeliegenden LLM-API aufgebaut sein. Der Chatbot ist begrenzt riskant; das Kreditsystem ist hochriskant. Das Risiko wird durch Zweck und Konsequenz bestimmt, nicht durch die Architektur.

Fehler 3: "Hochrisiko-Anforderungen sind bis 2027 aufgeschoben, also können wir warten." Artikel 50 ist bereits in Kraft. Wenn Sie KI-Systeme haben, die mit EU-Nutzern interagieren, gelten die Offenlegungsanforderungen jetzt. Darüber hinaus erfordert die Vorbereitung auf die Anhang-III-Hochrisiko-Anforderungen erhebliche Zeit - Dokumentation, Konformitätsbewertungen und Prozessänderungen sind nicht innerhalb weniger Wochen erreichbar.

Fehler 4: "Wir nutzen ChatGPT oder Claude - der KI-Anbieter übernimmt die Compliance." Als Betreiber tragen Sie Ihre eigenen Compliance-Verpflichtungen. Die Compliance von OpenAI als Anbieter des zugrundeliegenden Modells erfüllt nicht Ihre Verpflichtungen als Betreiber, der auf der Grundlage dieses Modells eine spezifische Anwendung entwickelt hat. Die Transparenzoffenlegungen nach Artikel 50 beispielsweise liegen in der Verantwortung des Betreibers.

Fehler 5: "Shadow AI liegt in der Verantwortung der Mitarbeiter." Der EU AI Act erkennt institutionelle Unkenntnis nicht als Verteidigung an. Wenn ein von Ihren Mitarbeitern genutztes KI-Tool - mit oder ohne IT-Genehmigung - ein Compliance-Problem verursacht, ist Ihre Organisation verantwortlich. Die Entdeckung und Dokumentation von Shadow AI ist eine Compliance-Aufgabe, kein optionaler Aufräumvorgang.

Fehler 6: Alle Engineering-Best-Practices als unmittelbare gesetzliche Verpflichtungen zu behandeln. Nicht jede technische Kontrollmaßnahme, die in KI-Governance-Frameworks diskutiert wird, ist eine aktuelle gesetzliche Anforderung für Betreiber im Jahr 2026. Die ISO-42001-Zertifizierung oder die vollständige NIST AI RMF-Implementierung als gesetzlich verbindlich zu behandeln, vermischt Best Practices mit rechtlichen Pflichten. Die Verwirrung erzeugt entweder unnötige Kosten oder paradoxerweise ein falsches Sicherheitsgefühl, wenn Unternehmen sich auf Frameworks konzentrieren statt auf die spezifischen Verpflichtungen, die tatsächlich jetzt für sie gelten.

KI-Agenten entwickeln, die regulatorischer Prüfung standhalten

KI-Agenten-Einsätze unter dem EU AI Act richtig zu gestalten erfordert sowohl technische Präzision als auch regulatorische Klarheit. Die Arbeit dreht sich primär nicht um Compliance-Dokumentation - es geht darum, KI-Systeme zu entwickeln, die von Grund auf beobachtbar, kontrollierbar und transparent sind. Diese Eigenschaften dienen Ihren Geschäftsinteressen unabhängig von der Regulierung: Agenten, die geprüft werden können, sind Agenten, denen man vertrauen kann; Agenten mit Verhaltens-Telemetrie sind Agenten, die verbessert werden können.

Webdelo arbeitet mit Unternehmen zusammen, um KI-Agenten-Architekturen zu entwerfen und zu entwickeln, die die in diesem Artikel beschriebenen Kontrollmaßnahmen integrieren: strukturierte KI-Anwendungsfall-Inventare, Rollen- und Zugriffskontrolle nach dem Least-Privilege-Prinzip, Audit-Protokollierung von Tag eins an, Kontrollpunkte mit menschlicher Genehmigung für folgenreiche Entscheidungen, Inhaltskennzeichnungs-Workflows und technische Dokumentation zur Unterstützung der Anhang-III-Vorbereitung. Wir helfen Organisationen auch dabei zu verstehen, welche ihrer aktuellen KI-Szenarien unter welche Risikostufe fallen - bevor sie in Compliance-Arbeit investieren, die möglicherweise nicht ihren tatsächlichen Verpflichtungen entspricht.

Ein technisches Audit Ihrer aktuellen KI-Szenarien ist ein praktischer erster Schritt. Es identifiziert Ihre Rolle (Anbieter vs. Betreiber), ordnet Ihre Systeme dem Risikorahmen zu und priorisiert Maßnahmen nach Dringlichkeit und Wirkung. Der Auditumfang ist begrenzt und die Ergebnisse sind konkret - keine generische Framework-Empfehlung, sondern ein klares Bild davon, was für Ihr Unternehmen gilt und was als nächstes zu tun ist.

Wenn Sie KI-Agenten in Ihrem Unternehmen einsetzen oder planen, sie zu entwickeln, kontaktieren Sie Webdelo, um ein technisches KI-Audit oder die Architektur eines konformen KI-Agenten-Systems zu besprechen. Wir helfen Ihnen zu verstehen, wo Sie stehen und was Sie als nächstes entwickeln sollten.

Häufig gestellte Fragen

Ist ein Unternehmen außerhalb der EU verpflichtet, den EU AI Act einzuhalten?

Ja, wenn seine KI-Systeme von Personen in der EU genutzt werden oder wenn KI-generierte Ausgaben EU-Bürger betreffen. Der territoriale Geltungsbereich der Verordnung spiegelt den DSGVO-Ansatz wider: Der Standort Ihres Unternehmens ist nicht der entscheidende Faktor; der Standort der Personen, die von Ihren KI-Systemen betroffen sind, ist es.

Wird ein KI-Agent automatisch als hochriskant gemäß dem EU AI Act eingestuft?

Nein. Der EU AI Act definiert KI-Agent nicht als Risikokategorie. Die Risikostufe wird durch den Zweck des Systems und die Konsequenzen seiner Entscheidungen bestimmt. Ein KI-Agent, der interne Besprechungsnotizen zusammenfasst, ist minimales Risiko. Ein KI-Agent, der Stellenbewerber einstuft, ist hohes Risiko. Die Architektur ist für die Klassifizierung irrelevant.

Was muss ein Unternehmen konkret bis Ende 2026 tun?

Die primäre Verpflichtung, die ab dem 2. August 2026 gilt, ist die Transparenz nach Artikel 50: Nutzer darüber informieren, dass sie mit einem KI-System interagieren, und maschinell lesbare Kennzeichnungen auf synthetische Inhalte von öffentlichem Interesse anwenden. Für Systeme, die vor dem 2. August 2026 auf den Markt gebracht wurden, gilt für die Pflicht zur maschinell lesbaren Kennzeichnung eine Übergangsfrist bis zum 2. Dezember 2026. Alle anderen Anforderungen gemäß Artikel 50 sind sofort in Kraft.

Wir nutzen die ChatGPT-API oder die Claude-API - sind wir Anbieter oder Betreiber?

Typischerweise Betreiber. Das Unternehmen, das das zugrundeliegende Modell entwickelt hat und es über API anbietet, ist der Anbieter. Sie als Unternehmen, das eine Anwendung auf der Grundlage dieser API entwickelt, sind der Betreiber. Die Ausnahme gilt, wenn Sie das Modell wesentlich modifizieren oder es unter Ihrer eigenen Marke als eigenständiges KI-Produkt auf dem Markt platzieren - in diesem Fall können Sie für dieses spezifische System als Anbieter gelten.

Welche Strafe droht bei Verstößen gegen die Transparenzanforderungen nach Artikel 50?

Bußgelder für Verstöße gegen Artikel 50 können bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes betragen, je nachdem, welcher Betrag höher ist. Der EU AI Act sieht auch vor, dass Durchsetzungsbehörden Sanktionen verhältnismäßig anwenden sollen, insbesondere bei kleinen und mittleren Unternehmen.

Benötigen wir eine ISO/IEC 42001-Zertifizierung, um den EU AI Act einzuhalten?

Nein. ISO/IEC 42001 ist ein internationaler Standard für KI-Managementsysteme - ein Governance-Framework, das systematisches Risikomanagement über das gesamte KI-Portfolio einer Organisation hinweg unterstützt. Eine ISO-42001-Zertifizierung beweist nicht automatisch die EU AI Act-Compliance. Es handelt sich um eine nützliche organisatorische Referenz, kein Ersatz für rechtliche Compliance-Analyse.

Was sollten wir tun, wenn Mitarbeiter KI-Tools nutzen, die von der IT nicht genehmigt wurden?

Führen Sie ein Inventar aller in Ihrer Organisation genutzten KI-Tools durch, einschließlich nicht genehmigter. Der EU AI Act bietet keinen Schutz bei institutioneller Unkenntnis. Wenn ein von Ihren Mitarbeitern genutztes KI-System - auch informell - ein Compliance-Problem verursacht, trägt Ihre Organisation die Verantwortung. Die Entdeckung und Dokumentation von Shadow AI ist eine Compliance-Aufgabe, kein optionaler Vorgang.