Was du nicht sofort tun kannst
Einführung
Abschnitt betitelt „Einführung“🎯 Lernziele
- Verstehen, warum vollautomatisierte Entscheidungen über Menschen eingeschränkt sind
- Wissen, was Profiling ist und warum es zusätzliche Schritte erfordert
- Die höhere Hürde verstehen, die für besondere Kategorien personenbezogener Daten gilt
Manche KI-Nutzungen mit personenbezogenen Daten sind unabhängig vom verwendeten Assistenten eingeschränkt. Diese Einschränkungen existieren, weil die Risiken für Einzelpersonen ohne zusätzliche Schutzmaßnahmen als zu hoch angesehen werden. Du wirst einige Überschneidungen mit den Hochrisikokategorien des EU AI Acts bemerken — für diesen Blickwinkel siehe den AI-Act-Kurs.
Vollautomatisierte Entscheidungen
Abschnitt betitelt „Vollautomatisierte Entscheidungen“Du kannst keinen KI-Assistenten nutzen, um eine endgültige Entscheidung zu treffen, die eine Person erheblich beeinflusst — zum Beispiel ob sie eine Leistung, eine Genehmigung oder den Zugang zu einem Dienst erhält — ohne dass ein Mensch diese Entscheidung überprüft und dafür verantwortlich ist.
Das ist nicht nur gute Praxis; es ist eine gesetzliche Anforderung. Personen haben das Recht, keiner Entscheidung unterworfen zu werden, die ausschließlich auf automatisierter Verarbeitung beruht, wenn diese Entscheidung erhebliche Folgen für sie hat.
Das Schlüsselwort ist ausschließlich. KI-gestützte Entscheidungsunterstützung ist völlig in Ordnung — der Assistent kann einen Fall zusammenfassen, relevante Faktoren hervorheben oder eine Empfehlung geben. Was er nicht kann, ist der einzige Entscheidungsträger zu sein. Ein Mensch muss die Ausgabe tatsächlich überprüfen und in der Lage sein, sie zu überstimmen — nicht nur das absegnen, was der Assistent produziert hat.
Beispiel: Eine Kollegin schlägt vor, den Assistenten Genehmigungsanträge ohne menschliche Kontrolle automatisch genehmigen oder ablehnen zu lassen — das ist nicht erlaubt. Eine Person muss verantwortlich und in der Lage sein, anderer Meinung zu sein.
Profiling
Abschnitt betitelt „Profiling“Eine verwandte Einschränkung ist das Profiling — KI zu verwenden, um persönliche Eigenschaften von jemandem systematisch zu bewerten, wie Leistung, Verhalten oder Zuverlässigkeit. Selbst ein internes KI-generiertes Profil erfordert eine klare Rechtsgrundlage.
Beispiel: Einen Assistenten zu verwenden, um einen “Leistungs-Score” für Mitarbeitende zu erstellen, fällt darunter. Eine Person muss verantwortlich sein und die Bewertung überstimmen können.
Besondere Kategorien — höhere Hürde
Abschnitt betitelt „Besondere Kategorien — höhere Hürde“Wie in Abschnitt 1 besprochen erfordern Gesundheitsdaten, religiöse Überzeugungen, politische Meinungen, ethnische Herkunft und ähnliche Kategorien eine strengere Handhabung. Du solltest diese Daten grundsätzlich nicht in einen Assistenten eingeben, es sei denn:
- Der spezifische Assistent ist dafür freigegeben
- Deine Organisation hat bestätigt, dass eine gültige Rechtsgrundlage besteht
- Eine DSFA wurde durchgeführt, sofern erforderlich
Anonymisiere im Zweifelsfall — wenn du die Aufgabe lösen kannst, ohne die sensiblen Details einzubeziehen, tue es.
Wissen testen
3 Fragen · 100 % richtig zum Bestehen · Antworten nach Abschluss prüfen