Publiziert: Zuletzt aktualisiert:

EU AI Act: die erste umfassende KI-Regulierung

Dieser Beitrag ordnet die Regulierung faktisch ein und ersetzt keine Rechtsberatung im Einzelfall. Ob und wie der EU AI Act eine konkrete Anwendung erfasst, hängt von der jeweiligen Konstellation ab und ist anhand des Verordnungstextes und gegebenenfalls fachlicher Beratung zu klären.

Die Verordnung (EU) 2024/1689 (der "EU AI Act") ist der erste umfassende Rechtsrahmen für Künstliche Intelligenz. Sie verfolgt einen risikobasierten Ansatz. Je höher das Risiko eines KI-Systems für Gesundheit, Sicherheit und Grundrechte, desto strenger die Pflichten. Sie ist am 1. August 2024 in Kraft getreten und gilt über ihren extraterritorialen Geltungsbereich auch für Schweizer Anbieter und Betreiber, deren KI-Ergebnisse in der EU verwendet werden.

Geltungsbereich: wer betroffen ist

Der AI Act spricht nicht "Unternehmen" pauschal an, sondern definierte Rollen entlang der KI-Wertschöpfungskette. Die Pflichten hängen daran, welche Rolle ein Akteur in Bezug auf ein konkretes KI-System einnimmt:

  • Anbieter (provider): entwickelt ein KI-System oder ein GPAI-Modell oder lässt es entwickeln und bringt es unter eigenem Namen in Verkehr oder nimmt es in Betrieb. Trägt die Hauptlast der Pflichten.
  • Betreiber (deployer): setzt ein KI-System unter eigener Verantwortung im beruflichen Kontext ein (nicht im rein privaten Gebrauch).
  • Einführer (importer) und Händler (distributor): bringen ein KI-System aus einem Drittland in die EU oder stellen es auf dem Markt bereit.

Massgeblich ist die tatsächliche Funktion, nicht die Firmenbezeichnung. Wer ein zugekauftes System wesentlich verändert oder unter eigenem Namen weitervertreibt, kann selbst zum Anbieter werden (Art. 25).

Extraterritoriale Reichweite (Art. 2)

Der AI Act ist EU-Recht, sein Anwendungsbereich endet aber nicht an der EU-Aussengrenze. Nach Art. 2 Abs. 1 erfasst die Verordnung unter anderem:

  • Anbieter, die ein KI-System in der EU in Verkehr bringen oder in Betrieb nehmen, unabhängig davon, ob sie in der EU oder in einem Drittland niedergelassen sind;
  • Anbieter und Betreiber mit Sitz in einem Drittland, wenn das vom KI-System erzeugte Ergebnis in der EU verwendet wird (der sogenannte Ergebnis-in-der-EU-Auslöser).

Das ist der entscheidende Mechanismus für Leserinnen und Leser ausserhalb der EU. Nicht der Standort des Anbieters, sondern der Ort der Wirkung kann den Anwendungsbereich auslösen.

Bezug zur Schweiz (Stand 2026)

Für Schweizer Akteure ergibt sich daraus eine Doppellage, die faktisch (nicht beratend) so einzuordnen ist:

  • EU-Recht reicht herein. Setzt ein Schweizer Anbieter oder Betreiber KI so ein, dass das Ergebnis in der EU verwendet wird (etwa für Kundinnen und Kunden in der EU), kann der Tatbestand des Art. 2 erfüllt sein. Ob das im Einzelfall zutrifft, hängt von der konkreten Konstellation ab. Diese Seite referiert nur den Tatbestand, sie stellt keine Feststellung zu einem bestimmten Unternehmen auf.
  • Die Schweiz hat (Stand 2026) kein eigenes AI-Act-Pendant in Kraft. Der Bundesrat hat am 12. Februar 2025 entschieden, die KI-Konvention des Europarats (Rahmenkonvention über KI und Menschenrechte, Demokratie und Rechtsstaatlichkeit) zu ratifizieren und bestehendes Recht sektoriell anzupassen, statt eine horizontale Querschnittsregulierung nach EU-Vorbild zu schaffen. Die Schweiz hat die Konvention am 27. März 2025 unterzeichnet; eine Vernehmlassungsvorlage soll bis Ende 2026 erarbeitet werden (www.admin.ch/gov/de/start/dokumentation/medienmitteilungen.msg-id-104110.html).
  • Parallel gilt der Datenschutz. Verarbeitet ein KI-System Personendaten, greift in der Schweiz das revidierte Datenschutzgesetz (nDSG/nFADP) unabhängig vom AI Act. Die beiden Regime überlagern sich, sie ersetzen sich nicht. Wer Daten zudem an US-Anbieter gibt, trifft auf eine zweite Rechtsschicht, die der US Cloud Act beschreibt.

Praxisfrage am Rande: Wer als Drittland-Akteur in den EU-Anwendungsbereich fällt, kennt aus der DSGVO bereits das Konzept eines EU-Vertreters (Art. 27 DSGVO). Der AI Act sieht für betroffene Drittland-Anbieter in Art. 22 eine vergleichbare Pflicht zur Benennung eines Bevollmächtigten in der EU vor.

Die vier Risikoklassen

Der AI Act ordnet KI-Systeme nach ihrem Risiko in vier Stufen ein. Die Stufe bestimmt die Pflichten:

  • Unannehmbares Risiko, verboten (Art. 5). Bestimmte Praktiken sind in der EU untersagt, etwa Social Scoring durch Behörden, manipulatives Ausnutzen von Schutzbedürftigkeit oder ungezieltes Abgreifen von Gesichtsbildern für Gesichtserkennungsdatenbanken. Diese Systeme dürfen nicht eingesetzt werden.
  • Hohes Risiko (Art. 6 + Anhang III). KI in sensiblen Anwendungsfeldern, zum Beispiel Beschäftigung und Personalauswahl, Kreditwürdigkeitsprüfung, Zugang zu Bildung, kritische Infrastruktur, biometrische Identifizierung, Strafverfolgung. Erlaubt, aber an umfangreiche Pflichten gebunden.
  • Begrenztes Risiko, Transparenz (Art. 50). Systeme, die mit Menschen interagieren (Chatbots) oder Inhalte erzeugen oder manipulieren (generative KI, Deepfakes). Erlaubt, aber mit Kennzeichnungs- und Offenlegungspflichten. Genau hier setzt eine RAG-Architektur mit Quellenangabe an, die KI-Antworten nachvollziehbar an Quellen bindet.
  • Minimales Risiko. Alle übrigen Systeme, etwa Spamfilter oder KI in Videospielen. Keine spezifischen Pflichten aus dem AI Act; freiwillige Verhaltenskodizes werden gefördert.

Welche Klasse für ein konkretes System gilt, lässt sich entlang einer Entscheidungsfolge bestimmen:

flowchart TD
    A["KI-System im Einsatz<br/>oder geplant"] --> B{"Verbotene Praktik?<br/>(Art. 5)"}
    B -- "Ja" --> V["Unannehmbares Risiko:<br/>verboten"]
    B -- "Nein" --> C{"Hochrisiko?<br/>(Art. 6, Anhang III)"}
    C -- "Ja" --> H["Hochrisiko:<br/>volle Pflichten"]
    C -- "Nein" --> D{"Transparenzpflicht?<br/>(Art. 50)"}
    D -- "Ja" --> L["Begrenztes Risiko:<br/>Kennzeichnung"]
    D -- "Nein" --> M["Minimales Risiko:<br/>keine Auflagen"]

Der Entscheidungsbaum bildet die Prüfreihenfolge ab: zuerst das Verbot (Art. 5), dann die Hochrisiko-Einstufung (Art. 6 + Anhang III), dann die Transparenzfälle (Art. 50); was übrig bleibt, unterliegt keinen spezifischen Pflichten. Die Reihenfolge ist eine Lesehilfe, kein Ersatz für die Prüfung am Verordnungstext.

Pflichten je Klasse

  • Unannehmbar (Art. 5)
    • Kernpflicht laut Verordnung: Verbot, das System darf nicht in Verkehr gebracht oder eingesetzt werden.
  • Hoch (Art. 8 ff., Anhang III)
    • Kernpflicht laut Verordnung: Risikomanagementsystem, Daten-Governance, technische Dokumentation, Protokollierung, Transparenz gegenüber Betreibern, menschliche Aufsicht, Genauigkeit/Robustheit/Cybersicherheit; Konformitätsbewertung und EU-Datenbank-Registrierung vor dem Inverkehrbringen.
  • Begrenzt (Art. 50)
    • Kernpflicht laut Verordnung: Transparenzpflichten: Offenlegung, dass man mit einer KI interagiert; maschinenlesbare Kennzeichnung KI-erzeugter Inhalte; Kennzeichnung von Deepfakes.
  • Minimal
    • Kernpflicht laut Verordnung: Keine spezifischen Pflichten; freiwillige Verhaltenskodizes (Art. 95).

Wer diese Pflichten nicht als einmaliges Projekt, sondern als prüfbare Regel im Betrieb verankern will, findet den methodischen Hebel unter Compliance as Code. Die organisatorische Klammer für Sicherheit und Nachweisführung beschreibt der Standard ISO 27001.

GPAI als Querschnitt (Art. 51 ff.)

Quer zu den vier Klassen stehen Allzweck-KI-Modelle (General-Purpose AI, GPAI), grosse Basismodelle, die für viele Zwecke eingesetzt werden. Für ihre Anbieter gelten eigene Pflichten (Art. 53 ff.):

  • technische Dokumentation und Informationen für nachgelagerte Anbieter;
  • eine öffentlich zugängliche Zusammenfassung der Trainingsdaten sowie eine Strategie zur Einhaltung des EU-Urheberrechts.

Verschärft wird das für GPAI-Modelle mit systemischem Risiko. Nach Art. 51 wird ein systemisches Risiko vermutet, wenn der kumulierte Rechenaufwand des Trainings 10^25 FLOP überschreitet. Solche Modelle unterliegen zusätzlich der Pflicht zu Modellbewertung, Risikominderung, Meldung schwerwiegender Vorfälle und Cybersicherheit (Art. 55). Als Umsetzungshilfe hat das EU-AI-Büro am 10. Juli 2025 den freiwilligen GPAI Code of Practice (Kapitel Transparenz, Urheberrecht, Sicherheit) veröffentlicht; die Unterzeichnung begründet eine Konformitätsvermutung, ersetzt die Pflichten aber nicht.

Zeitplan / Phase-in (Art. 113)

Die Verordnung gilt nicht auf einen Schlag, sondern gestaffelt. Die Daten ergeben sich aus Art. 113:

timeline
    title EU AI Act Phase-in (Art. 113)
    2024-08: In Kraft
    2025-02: Verbote + KI-Kompetenz
    2025-08: GPAI-Pflichten
    2026-08: Hauptanwendung + Hochrisiko
    2027-08: Hochrisiko (Anhang I)

Der Zeitstrahl zeigt: Verbote und die Pflicht zur KI-Kompetenz greifen seit dem 2. Februar 2025, die GPAI-Pflichten seit dem 2. August 2025, der Hauptteil der Verordnung (inkl. der Hochrisiko-Anwendungen nach Anhang III) ab dem 2. August 2026; die Pflichten für Hochrisiko-Systeme als Sicherheitsbauteile regulierter Produkte (Anhang I) folgen ab dem 2. August 2027.

Was ein Schweizer KMU / eine Agentur konkret tun muss

Die folgenden Schritte fassen zusammen, was die Verordnung von betroffenen Akteuren faktisch verlangt. Sie sind referierend, keine Handlungsempfehlung im Einzelfall:

  1. KI-Inventar erstellen. Alle eingesetzten und geplanten KI-Anwendungen erfassen, ausdrücklich inklusive Schatten-IT (zugekaufte SaaS-Werkzeuge, eingebettete KI-Funktionen).
  2. Rolle und Risikoklasse je Anwendung bestimmen. Pro System klären, ob man Anbieter oder Betreiber ist und in welche der vier Klassen es fällt (siehe Entscheidungsbaum).
  3. Bei Hochrisiko: die Pflichten aus Art. 8 ff. erfüllen, also Risikomanagement, technische Dokumentation, menschliche Aufsicht, Konformitätsbewertung. Erklärbarkeit (XAI) ist hier ein Mittel, die Transparenz- und Aufsichtspflichten zu erfüllen.
  4. Bei generativer KI / Chatbots: die Transparenz- und Kennzeichnungspflichten nach Art. 50 umsetzen (Offenlegung der KI-Interaktion, Markierung KI-erzeugter Inhalte).
  5. KI-Kompetenz im Team sicherstellen. Art. 4 verlangt seit Februar 2025 ein ausreichendes Mass an KI-Kompetenz bei den Personen, die KI-Systeme betreiben.

Diese Schritte decken sich mit der KI-Governance-Praxis, wie sie auch die Seite Compliance beschreibt; die Anbieter-Pflichten betreffen vor allem die, die KI selbst entwickeln.

Primärtexte + weiterführend

Primärquellen (eigene Aussagen daran gebunden):

Schweiz:

Verwandte Themen

Offene Punkte

  • Eine vereinfachende "AI-Omnibus"-Initiative der EU diskutiert (Stand 2026) Anpassungen einzelner Fristen; vor verbindlicher Nutzung ist der aktuelle Verordnungsstand zu verifizieren.
  • Die Schweizer Umsetzung der Europarats-Konvention ist im Werden (Vernehmlassung bis Ende 2026 angekündigt); der CH-Absatz ist auf diesen Stand datiert.