Eure Verpflichtungen

Eure Verpflichtungen ergeben sich aus der Kombination von Risikoklasse (wie der Assistent genutzt wird) und Rolle (ob er geteilt wird).

Hier sind die drei häufigsten Szenarien für Kommunen. Die nachstehenden Listen beschreiben die konkreten Anforderungen, die ihr vor und während der Nutzung erfüllen müsst.

Szenario A: Betreiber + Kein Hochrisiko

Dies gilt für Kommunen, die selbst entwickelte Assistenten ausschließlich intern für Aufgaben mit geringem Risiko nutzen.

Nutzungsbeispiel: Die Kommune hat einen Assistenten erstellt, der der Personalabteilung hilft, Stellenausschreibungen auf Basis bestehender Vorlagen zu entwerfen, oder einen Assistenten, der lange öffentliche Berichte für die Kommunalführung zusammenfasst.

Das sind eure Verpflichtungen (Checkliste):

• KI-Kompetenzanforderung: Die Kommune muss sicherstellen, dass ausreichend KI-Wissen („AI literacy”) bei den Nutzern vorhanden ist. Die Mitarbeitenden müssen genug Kompetenz haben, um die Plattform sicher zu nutzen und fundierte Entscheidungen über die von Intric generierten Inhalte zu treffen.

Szenario B: Betreiber + Hochrisiko

Dies gilt für Kommunen, die Assistenten intern in als Hochrisiko eingestuften Bereichen einsetzen.

Nutzungsbeispiel: Die Kommune nutzt einen KI-Assistenten als Teil eines automatisierten Fallbearbeitungsprozesses zur Berechnung der Vergabe von Sozialhilfe oder zur Sortierung und Bewertung von Kandidaten in einem Einstellungsverfahren, bei dem er Entscheidungen über Einzelpersonen trifft oder wesentlich beeinflusst.

Das sind eure Verpflichtungen (Checkliste):

• Menschliche Aufsicht: Stelle echte menschliche Aufsicht durch Personen mit der richtigen Befugnis und Kompetenz sicher. Ein Mensch muss immer das letzte Wort haben.
• Unterrichtung von Beschäftigten und Gewerkschaften: Informiere Arbeitnehmervertreter und Beschäftigte, bevor das System am Arbeitsplatz eingesetzt wird.
• Unterrichtung von Einwohnern: Betroffene Personen (z.B. Antragsteller) müssen darüber informiert werden, dass sie einer automatisierten Entscheidungsfindung unterliegen oder dass KI als Entscheidungsunterstützung eingesetzt wird.
• Korrekte Eingabedaten: Stelle sicher, dass dem Assistenten nur relevante und angemessene Daten (Input) zugeführt werden.
• Nutzung gemäß Anweisungen: Der Assistent darf ausschließlich gemäß den vom Anbieter (Intric) bereitgestellten Nutzungsanweisungen eingesetzt werden.
• Überwachung und Protokollierung: Überwache die Systemnutzung und protokolliere Ereignisse systematisch.
• Registrierung bei Behörden: Das System muss in einem öffentlichen Register bei der Norwegischen Kommunikationsbehörde (Nkom) registriert werden.
• Datenschutz (DSFA): Führe eine Datenschutz-Folgenabschätzung (DSFA) durch, wenn die Lösung personenbezogene Daten verarbeitet.

Szenario C: Nachgelagerter Anbieter + Hochrisiko

Dies gilt für Kommunen, die einen Assistenten für einen Hochrisikobereich erstellt haben und sich entscheiden, den eigentlichen Systemzugang mit anderen Organisationen oder Kommunen zu teilen.

Nutzungsbeispiel: Die Kommune hat ein fortschrittliches KI-Tool zur Bewertung von Baugenehmigungen erstellt. Anstatt nur das Rezept (den Prompt) zu teilen, geben sie einer Nachbargemeinde im Rahmen einer interkommunalen Zusammenarbeit direkten Systemzugang zum Assistenten. Die Kommune „liefert” das System damit weiter.

Das sind eure Verpflichtungen (Checkliste):

• Qualitätsmanagement: Richtet ein formelles Qualitätsmanagementsystem für den KI-Assistenten ein und pflegt es.
• Risikobewertungen: Führt formelle Risikobewertungen vor und während der Weitergabe durch und dokumentiert diese.
• Data Governance: Richtet strenge Routinen für Datenverwaltung und Datenqualität ein („Data Governance”).
• Registrierung bei Behörden: Registriert den Assistenten als Hochrisikosystem bei Nkom.
• Überwachung und Protokollierung: Implementiert systematische Überwachung und Protokollierung, wie das System von den anderen Kommunen genutzt wird und wie es sich verhält.