Deine Pflichten
Einführung
Abschnitt betitelt „Einführung“🎯 Lernziele
- Verstehen, wie sich Anforderungen aus Rolle und Risikoklasse ableiten
- Die Grundpflicht kennen, die für alle gilt: KI-Kompetenz
- Verstehen, welche zusätzlichen Anforderungen für Hochrisikosysteme gelten
- Wissen, welche GPAI-Anforderungen für Anbieter und Betreiber gelten
Anforderungen leiten sich aus der Rolle einer Organisation (Anbieter oder Betreiber) sowie der inhärenten Risikoklasse oder den Transparenzanforderungen ab. KI-Systeme außerhalb des Geltungsbereichs haben keine Anforderungen.
Dieser Abschnitt führt dich durch die Anforderungen – von den leichtesten bis zu den umfangreichsten.
KI-Kompetenz – gilt für alle
Abschnitt betitelt „KI-Kompetenz – gilt für alle“Die Grundanforderung sowohl für Anbieter als auch für Betreiber ist KI-Kompetenz. Wer auf Anbieterseite an dem System arbeitet und wer auf Betreiberseite das System nutzt oder steuert, muss ein „ausreichendes Maß” an KI-Kompetenz besitzen.
Es gibt keine weiteren Anforderungen oder Vorgaben, sodass Anbieter und Betreiber frei wählen können, wie sie diese Anforderung erfüllen – solange das „ausreichende Maß” das technische Wissen, die Erfahrung, die Aus- und Weiterbildung der Personen, den Kontext, in dem die KI-Systeme eingesetzt werden sollen, und die Personen berücksichtigt, für die das KI-System eingesetzt wird.
Beispiel für unzureichende KI-Kompetenz: Gymnasiasten, die als Sommerpraktikanten arbeiten, erhalten am ersten Tag Zugang zu einem Assistenten und werden gebeten, die Schulungsvideos anzuschauen, bevor sie ihn nutzen. Ihre Führungskraft berücksichtigt weder ihr Alter noch erkundet sie ihr bestehendes KI-Wissen oder beobachtet ihre Nutzung des Assistenten in den ersten Tagen.
Transparenzanforderungen
Abschnitt betitelt „Transparenzanforderungen“Wenn dein KI-System Transparenzanforderungen hat (was bei den meisten GPAIs und darauf aufbauenden Systemen der Fall ist), bestehen Pflichten für Anbieter und Betreiber.
Für Betreiber: Keine spezifischen Anforderungen.
Für Anbieter: Die Anforderung besteht einfach darin, sicherzustellen, dass eine Person, die mit einem System interagiert, weiß, dass dieses System kein Mensch ist. Wenn eine Person eine Ausgabe sieht, weiß sie, dass diese Ausgabe nicht von einem Menschen stammt.
Anforderungen für hochriskante KI-Systeme
Wenn dein KI-System in einen Hochrisiko-Bereich fällt, gelten zusätzliche Anforderungen. Diese unterscheiden sich je nach Rolle.
Betreiber von Hochrisikosystemen
Abschnitt betitelt „Betreiber von Hochrisikosystemen“- Menschliche Aufsicht: Echte menschliche Aufsicht durch Personen mit der richtigen Befugnis und Kompetenz sicherstellen. Ein Mensch muss immer das letzte Wort haben.
- Mitarbeiterbenachrichtigung: Wenn das System am Arbeitsplatz eingesetzt wird, Mitarbeitende und Gewerkschaften benachrichtigen.
- Benachrichtigung betroffener Personen: Wenn das System an Entscheidungsunterstützung oder Entscheidungsfindung beteiligt ist, die Menschen betrifft, diese Personen darüber informieren, dass das System im Einsatz ist.
- Korrekte Eingabedaten: Sicherstellen, dass nur relevante und geeignete Daten (Eingaben) in den Assistenten eingespeist werden.
- Nutzung gemäß Anweisungen: Der Assistent darf ausschließlich gemäß den Nutzungsanweisungen des Anbieters eingesetzt werden.
- Überwachung und Protokollierung: Die Nutzung des Systems überwachen und bestimmte Ereignisse systematisch protokollieren.
- Registrierung bei Behörden: Das System muss in einem öffentlichen Register auf EU- oder nationaler Ebene eingetragen werden.
- Datenschutz (DPIA): Eine Datenschutz-Folgenabschätzung (DPIA) durchführen, wenn die Lösung personenbezogene Daten verarbeitet.
Anbieter von Hochrisikosystemen
Abschnitt betitelt „Anbieter von Hochrisikosystemen“Die meisten dieser Anforderungen gelten nicht für Intrics Kunden, die nur Betreiber sind. Aber Intric und alle Kunden, die Widgets nutzen, um ihre Assistenten anderen Organisationen zugänglich zu machen, haben diese Anforderungen. Intric erfüllt diese Anforderungen für die Plattform als Ganzes, während ein nachgelagerter Anbieter nur an den Assistenten denken muss, den er teilt:
- Qualitätsmanagement: Ein formelles Qualitätsmanagementsystem für den Assistenten einrichten und aufrechterhalten.
- Risikobewertungen: Formelle Risikobewertungen vor und während des Teilens durchführen und dokumentieren.
- Daten-Governance: Strenge Routinen für Datenverwaltung und Datenqualität etablieren.
- Registrierung bei Behörden: Den Assistenten als Hochrisikosystem registrieren.
- Überwachung und Protokollierung: Systematische Überwachung und Protokollierung einrichten, wie das System funktioniert und von anderen Organisationen genutzt wird.
Anforderungen für GPAIs
Abschnitt betitelt „Anforderungen für GPAIs“GPAIs haben eigene Anforderungen, die von der Hochrisiko-Klassifizierung getrennt sind.
Für Anbieter von GPAIs
Abschnitt betitelt „Für Anbieter von GPAIs“Der einfachste Weg, alle Anforderungen zu erfüllen, ist das Ausfüllen des freiwilligen Verhaltenskodex: digital-strategy.ec.europa.eu/en/policies/contents-code-gpai. Die Anforderungen betreffen Dokumentation (insbesondere für Anbieter, die ihre GPAI-Modelle in eigenen KI-Systemen einsetzen möchten), Transparenz und bestehende urheberrechtsbezogene Regeln.
Modelle mit systemischen Risiken erfordern außerdem Evaluation, Cybersicherheit und Überwachung von Vorfällen. Von diesen Anbietern wird erwartet, dass sie systemischen Risiken begegnen.
Für Betreiber von GPAIs
Abschnitt betitelt „Für Betreiber von GPAIs“Keine spezifischen Anforderungen für Betreiber von GPAIs, obwohl es viele Überschneidungen zwischen dem Betrieb eines GPAIs und dem Betrieb eines KI-Systems mit Transparenzanforderungen geben wird.
Wichtigste Erkenntnisse
Abschnitt betitelt „Wichtigste Erkenntnisse“- KI-Kompetenz ist die Grundanforderung für alle
- Transparenzpflichten liegen vor allem bei Anbietern: sicherstellen, dass die interagierende Person weiß, dass das System kein Mensch ist
- Betreiber von Hochrisikosystemen haben erhebliche Pflichten: menschliche Aufsicht, Mitarbeiterbenachrichtigung, Benachrichtigung betroffener Personen, korrekte Eingabedaten, Überwachung, Protokollierung und Registrierung
- Anbieter von Hochrisikosystemen tragen die größte Last: Qualitätsmanagement, Risikobewertungen, Daten-Governance und Registrierung
- Die meisten Intric-Kunden sind Betreiber, keine Anbieter – aber Kunden, die Assistenten extern teilen, werden zu nachgelagerten Anbietern mit Anbieterpflichten
Wissen testen
4 Fragen · 100 % richtig zum Bestehen · Antworten nach Abschluss prüfen