Ist euer Assistent hochriskant?

Die Frage, ob ein Assistent hochriskant ist, muss für jeden Assistenten separat beantwortet werden. Dieselbe Organisation kann sowohl hochriskante als auch nicht hochriskante Assistenten betreiben — je nachdem, wie jeder einzelne eingesetzt wird.

Die Bewertung folgt vier Schritten:

1. Prüfung verbotener Nutzungen: Bestimmte Verwendungen sind grundsätzlich verboten. Trifft eine davon zu, darf der Assistent nicht eingesetzt werden.
2. Prüfung des Hochrisikobereichs: Operiert der Assistent in einem regulierten Bereich (z.B. Sozialleistungen, Personalwesen, Bildung), gilt er als hochriskant.
3. Ausnahmeprüfung: Falls der Anwendungsfall in einen Hochrisikobereich fällt, kann unter Umständen eine Ausnahme geltend gemacht werden, wenn der Assistent nur eine begrenzte, verfahrensmäßige Aufgabe ausführt.
4. Transparenzprüfung: Unabhängig von der Risikoklasse können für bestimmte Assistenten Transparenzpflichten gelten — unabhängig davon, ob sie hochriskant sind.

Arbeitet euch durch die nachstehenden Schritte. Dokumentiert eure Antworten: Sie dienen als Compliance-Nachweis, insbesondere wenn ihr eine Ausnahme geltend macht.

---

AI Act Screening-Assistent

Für eine interaktivere Erfahrung steht der AI Act Screening-Assistent in der Assistant Library zur Verfügung. Er führt euch durch denselben Entscheidungsbaum, stellt bei Bedarf Rückfragen und erstellt eine vollständige dokumentierte Bewertung mit Rechtsverweisen, die ihr speichern könnt. Er kommuniziert auf Norwegisch und Englisch.

---

Schrittweiser Fragebogen

Wählt im jeweiligen Schritt alles aus, was auf euren Assistenten zutrifft. Der Fragebogen führt euch zu einem Ergebnis und zeigt, welche Verpflichtungen gelten und was ihr tun müsst, um diese zu erfüllen.

1 Verboten2 Hochrisiko3 Ausnahmen4 Transparenz

Schritt 1 — Verbotene Nutzung AI Act Art. 5

Führt Dein Assistent eine der folgenden Aktionen durch? Wähle alle zutreffenden aus. Wenn eine davon zutrifft, kann der Assistent nicht wie beschrieben eingesetzt werden.

• Menschen auf eine Weise manipulieren oder täuschen, die ihre Fähigkeit zu freien Entscheidungen beeinträchtigt und Schaden verursacht Art. 5.1a
• Schwachstellen im Zusammenhang mit Alter, Behinderung oder sozioökonomischer Lage ausnutzen, um Verhalten zu verzerren Art. 5.1b
• Menschen anhand sozialen Verhaltens oder persönlicher Merkmale bewerten oder klassifizieren, wenn dies zu benachteiligender Behandlung führt Art. 5.1c
• Das Risiko einer Person, eine Straftat zu begehen, ausschließlich auf Basis persönlicher Merkmale oder Profiling bewerten Art. 5.1d
• Gesichtserkennung-Datenbanken durch unkontrolliertes Scraping von Bildern erstellen oder erweitern Art. 5.1e
• Emotionen von Personen in Arbeits- oder Bildungsumgebungen ableiten (außer zu medizinischen oder sicherheitsbezogenen Zwecken) Art. 5.1f
• Biometrische Kategorisierung zur Ableitung von Rasse, politischen Meinungen, Gewerkschaftszugehörigkeit, religiösen Überzeugungen, sexueller Orientierung usw. Art. 5.1g
• Echtzeit-Fernbiometrie-Identifikation in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken Art. 5.1h
• Keines der oben genannten

Prüfen