Was das für eure Organisation bedeutet
Eure Verpflichtungen nach dem EU AI Act ergeben sich aus zwei Faktoren: der Risikoklasse eures Assistenten (wofür er eingesetzt wird) und eurer Rolle (ob ihr ihn außerhalb eurer Organisation teilt).
Nachfolgend sind die drei häufigsten Szenarien für Organisationen, die Intric nutzen, aufgeführt — jeweils mit der vollständigen Anforderungscheckliste.
Nicht sicher, welches Szenario auf euch zutrifft?
Szenario A: Betreiber, kein Hochrisiko
Abschnitt betitelt „Szenario A: Betreiber, kein Hochrisiko“Dies ist das häufigste Szenario. Euer Assistent wird intern für Aufgaben eingesetzt, die nicht in einen Hochrisikobereich fallen, oder bei denen eine gültige Ausnahme greift.
Beispiele: Stellenausschreibungen auf Basis von Vorlagen verfassen, Berichte zusammenfassen, Fragen zu internen Regeln und Abläufen beantworten, Dokumente auf Qualität prüfen, nachdem ein Mensch die Beurteilung bereits abgeschlossen hat.
Eure Verpflichtungen:
- KI-Kompetenz: Stellt sicher, dass alle Nutzenden über ausreichend Wissen verfügen, um die Plattform sicher zu nutzen und fundierte Entscheidungen über die von Intric generierten Inhalte zu treffen.
Szenario B: Betreiber, Hochrisiko
Abschnitt betitelt „Szenario B: Betreiber, Hochrisiko“Euer Assistent operiert in einem Hochrisikobereich — etwa Zugang zu Sozialleistungen, Beschäftigung und Personalwesen oder Bildung — und beeinflusst Entscheidungen, die Einzelpersonen betreffen.
Beispiele: Ein Assistent, der die Fallbearbeitung bei Sozialleistungsanträgen unterstützt, oder der Kandidaten in einem Einstellungsverfahren sortiert und bewertet.
Eure Verpflichtungen:
- Menschliche Aufsicht: Stellt echte menschliche Aufsicht durch Personen mit der richtigen Befugnis und Kompetenz sicher. Ein Mensch muss immer das letzte Wort haben.
- Beschäftigte und Gewerkschaften informieren: Informiert Arbeitnehmervertretungen und Beschäftigte, bevor das System am Arbeitsplatz eingesetzt wird.
- Betroffene Personen informieren: Personen, die von KI-gestützten Entscheidungen betroffen sind (z.B. Bewerbende), müssen darüber informiert werden, dass KI als Entscheidungsunterstützung oder im Entscheidungsprozess eingesetzt wird.
- Korrekte Eingabedaten: Stellt sicher, dass dem Assistenten nur relevante und geeignete Daten als Eingabe zugeführt werden.
- Nutzung gemäß Anweisungen: Der Assistent muss gemäß den Nutzungsanweisungen von Intric eingesetzt werden.
- Überwachung und Protokollierung: Überwacht die Nutzung systematisch und protokolliert relevante Ereignisse.
- Registrierung bei Behörden: Registriert das System im zuständigen öffentlichen Register (z.B. Nkom in Norwegen bzw. der zuständigen Behörde).
- DSFA: Führt eine Datenschutz-Folgenabschätzung durch, wenn der Assistent personenbezogene Daten verarbeitet.
Szenario C: Nachgelagerter Anbieter, Hochrisiko
Abschnitt betitelt „Szenario C: Nachgelagerter Anbieter, Hochrisiko“Ihr habt einen hochriskanten Assistenten entwickelt und gebt einer anderen Organisation tatsächlichen Systemzugang — beispielsweise über die Widget-Funktion von Intric. Damit übernehmt ihr Anbieterpflichten für diesen Assistenten.
Hinweis: Das Teilen eines Prompts über die Assistant Library macht euch nicht zu einem nachgelagerten Anbieter. Es gilt nur dann, wenn ihr einer anderen Organisation direkten Zugang zu einem von euch erstellten Assistenten gewährt.
Beispiel: Eure Organisation hat einen Assistenten zur Prüfung von Baugenehmigungsanträgen entwickelt und gibt einer Partnerorganisation im Rahmen einer organisationsübergreifenden Zusammenarbeit Zugang dazu.
Eure Verpflichtungen umfassen alles aus Szenario B, zuzüglich:
- Qualitätsmanagement: Richtet ein formelles Qualitätsmanagementsystem für den Assistenten ein und pflegt es.
- Risikobewertungen: Führt formelle Risikobewertungen vor und während der Weitergabe durch und dokumentiert diese.
- Data Governance: Richtet Routinen für Datenverwaltung und Datenqualität ein.
- Registrierung: Registriert den Assistenten als Hochrisikosystem bei der zuständigen Behörde.
- Überwachung und Protokollierung: Implementiert systematische Überwachung, wie der Assistent von der empfangenden Organisation verwendet wird und wie er sich dabei verhält.
Transparenzpflichten
Abschnitt betitelt „Transparenzpflichten“Auch wenn euer Assistent nicht hochriskant ist, können euch Transparenzpflichten nach AI Act Art. 50 treffen. Prüft, ob eine der folgenden Situationen zutrifft:
| Situation | Verpflichtung |
|---|---|
| Der Assistent interagiert direkt mit Personen (z.B. über Widget, Chatbot oder Bürgerportal) | Nutzende müssen klar darüber informiert werden, dass sie mit einem KI-System interagieren |
| Der Assistent erzeugt Texte, die dazu bestimmt sind, die Öffentlichkeit zu Angelegenheiten von öffentlichem Interesse zu informieren | Der Text muss als KI-generiert gekennzeichnet werden |
| Der Assistent erkennt Emotionen oder führt biometrische Kategorisierung durch | Betroffene Personen müssen informiert werden |
| Der Assistent erzeugt oder manipuliert Bilder, Audio oder Video, die einen Deepfake darstellen könnten | Der Inhalt muss als KI-generiert oder manipuliert gekennzeichnet werden |
Geführte Bewertung gewünscht?
Abschnitt betitelt „Geführte Bewertung gewünscht?“Der AI Act Screening-Assistent in der Assistant Library führt euch Schritt für Schritt durch den vollständigen Entscheidungsbaum — auf Norwegisch oder Englisch. Er erstellt eine dokumentierte Schlussfolgerung mit Rechtsverweisen, die ihr speichern und als Compliance-Dokumentation verwenden könnt.