Was ist der AI Act?

Einführung

🎯 Lernziele

Verstehen, warum der EU AI Act entstanden ist und was er schützen soll
Wissen, wer und was reguliert wird und was ausdrücklich nicht in den Geltungsbereich fällt
Den Unterschied zwischen einem KI-System und einem Allzweck-KI-Modell (GPAI) verstehen

Der EU AI Act umfasst 113 Artikel, 13 Anhänge und 180 nicht bindende Erwägungsgründe – alles darauf ausgerichtet, den Binnenmarkt zu stärken und Innovation zu fördern und dabei Gesundheit, Sicherheit und Grundrechte zu schützen. Der Act ist stark von der Produktsicherheitsregulierung inspiriert.

Warum brauchen wir ihn?

Die Europäerinnen und Europäer haben einige Bedenken gegenüber KI.

Drei Viertel der EU-Beschäftigten im öffentlichen Sektor befürchten, dass KI Wahlen manipulieren könnte
80 % der Norwegerinnen und Norweger machen sich Sorgen, nicht mehr unterscheiden zu können, was wahr ist oder von KI stammt

Weltweit sind inzwischen mehr Menschen besorgt als begeistert – ein Trend, der besonders in Schweden zu beobachten ist.

Die EU kann kein Vertrauen regulieren. Aber sie kann Sicherheit regulieren und strenge Anforderungen für Systeme festlegen, die von Natur aus hohe Risiken mit sich bringen.

Vor dem AI Act glaubten mehr als die Hälfte der Europäerinnen und Europäer nicht, dass die damaligen Regeln KI wirksam regulierten. Der Act sollte die Lücken schließen, die bestehende Produktsicherheits- und Digitalplattformgesetze hinterlassen hatten – diese waren nicht mit KI-Systemen im Blick geschrieben worden und adressierten KI-spezifische Risiken nicht ausreichend.

Wer und was wird reguliert?

Der AI Act reguliert:

Personen oder Organisationen, die KI in einem beruflichen Kontext nutzen
Diejenigen, die ein KI-System oder ein Allzweck-KI-Modell (GPAI) entwickeln
Sowohl öffentliche als auch private Organisationen, einschließlich Behörden
Unabhängig davon, ob eine Zahlung erfolgt – wer ein KI-System kostenlos in der EU verfügbar macht, gilt trotzdem als Anbieter
Unabhängig davon, ob das KI-System vor Inkrafttreten des AI Acts bereits auf dem Markt war

Territorial: wenn eine Organisation (öffentlich oder privat) in der EU ansässig ist, wenn die Ausgaben ihres KI-Systems in der EU anfallen oder wenn die betroffenen Personen in der EU leben.

Der Act ist noch nicht in das EFTA-Abkommen aufgenommen worden und wird in Norwegen daher noch nicht durchgesetzt. Es wird erwartet, dass Norwegen ihn in nationales Recht überführt. Die GDPR wurde innerhalb eines Monats nach ihrem Inkrafttreten als EU-Recht in norwegisches Recht übernommen.

Zeitplan

Einige Teile werden bereits durchgesetzt – etwa das Verbot inakzeptabler KI-Systeme, die Anforderung zur KI-Kompetenz und die Anforderungen für Allzweck-KI-Modelle, die nach August 2025 auf den Markt gebracht wurden.

Die übrigen Anforderungen befinden sich noch in der Aushandlung, werden aber voraussichtlich ab 2026 durchgesetzt, insbesondere Transparenzanforderungen.

Was wird nicht reguliert?

Wer ein KI-System für eine „rein persönliche, nicht berufliche Tätigkeit” nutzt – etwa eine App, die den Inhalt des Kühlschranks fotografiert und einfache Rezeptvorschläge liefert – wird nicht reguliert, weil diese Person kein Betreiber ist. In diesem Fall gibt es wahrscheinlich keinen Betreiber, nur die nutzende Person selbst und den Anbieter des Systems.

Wenn du Intric nutzt, gehen wir davon aus, dass du es für berufliche Zwecke verwendest und dein Arbeitgeber der Betreiber ist. Du solltest Intric nicht für private Zwecke nutzen.

Einige Ausnahmen, die vom Act nicht erfasst werden:

KI, die ausschließlich für die Forschung eingesetzt wird
KI, die entwickelt, aber noch nicht auf dem Markt gebracht oder in Betrieb genommen wurde
KI für die nationale Verteidigung (etwa Waffen und Militär)

Beispiele für KI-Systeme außerhalb des Geltungsbereichs findest du im Abschnitt über nicht regulierte Systeme in Risikoklassen.

KI-System versus Allzweck-KI-Modell (GPAI)

Der AI Act war fast abgeschlossen, bevor ChatGPT launched wurde – und die Kommission musste schnell klären, wie große Sprachmodelle und andere generative KI-Formen einzubeziehen sind. Der Act war nie dazu gedacht, Typen von KI-Technologien zu klassifizieren. Plötzlich gab es jedoch eine sehr zugängliche und sehr populäre neue Technologie, die sich anders verhielt als fast alle anderen KI-Systeme – weil sie ausdrücklich nicht auf eine bestimmte Menge von Verhaltensweisen oder Ergebnissen beschränkt sein sollte.

Der Act entschied sich daher für eine Unterscheidung zwischen KI-Systemen – die nach inakzeptablen oder hohen Risikoniveaus eingestuft werden – und Allzweck-KI-Modellen, den GPAIs.

Ein KI-System ist der übergeordnete Begriff. Ein GPAI bezeichnet speziell ein Modell, das für den allgemeinen Einsatz bestimmt ist – es soll kompetent eine breite Palette von Aufgaben erfüllen können, unabhängig davon, wie das Modell auf den Markt gebracht wird, und es kann in verschiedene nachgelagerte Systeme oder Anwendungen integriert werden. In der Praxis fallen die meisten großen Sprachmodelle (wie die, die Intric zugrunde liegen) unter GPAIs, weil LLMs darauf ausgelegt sind, dass Nutzende damit eine breite Palette von Aufgaben erledigen können. GPAIs sind die einzige Art spezifischer Systeme, die im AI Act explizit erwähnt wird – ansonsten ist der Act technologieneutral geblieben.

Ein Allzweck-KI-System ist ein KI-System, das auf einem GPAI basiert. Dieser Begriff wird im Act nicht häufig verwendet, ist aber zu Beginn definiert.

Beispiele:

ChatGPT ist ein GPAI und weil es ein GPAI ist, ist es auch ein KI-System.
Ein maschineller Lernalgorithmus der Steuerbehörde, der entscheidet, ob eine Steuererklärung automatisch akzeptiert oder zur menschlichen Prüfung markiert wird, ist ein KI-System. Er ist kein GPAI, weil der Algorithmus speziell darauf trainiert und getestet wurde, eine bestimmte Aufgabe zu erfüllen.
Ein KI-Agent ist ein KI-System. Die meisten Agenten sind auch GPAIs, wegen ihrer beabsichtigten Autonomie – also ihrer Fähigkeit, kompetent eine breite Palette von Aktivitäten auszuführen.

Wichtigste Erkenntnisse

Der AI Act dient dem Schutz von Gesundheit, Sicherheit und Grundrechten – nicht der Klassifizierung aller KI-Systeme
Er gilt für alle, die KI in einem beruflichen Kontext nutzen, unabhängig von einer Zahlung oder ob das System vor dem Act existierte
Er wird bereits teilweise durchgesetzt, weitere Anforderungen werden ab 2026 erwartet
GPAIs (wie die Modelle, die Intric antreiben) sind die einzige spezifische Art von KI-Technologie, die im Act hervorgehoben wird; alle anderen Regulierungen sind technologieneutral

Wissen testen

4 Fragen · 100 % richtig zum Bestehen · Antworten nach Abschluss prüfen