Zum Inhalt springen

KI-Modelle

In dieser Ansicht erhältst du einen Überblick über alle Sprachmodelle, die dir zur Verfügung stehen, sowie die Verwaltung, welche Sprachmodelle in der Intric-Umgebung deiner Organisation verfügbar sein sollen. Als Administrator kannst du genau steuern, welche Modelle in verschiedenen Teilen der Plattform verfügbar sein sollen. Durch die Verbindung spezifischer Modelle mit verschiedenen Sicherheitsklassen kannst du sicherstellen, dass ressourcenintensive oder spezialisierte Modelle nur dort verwendet werden, wo sie wirklich gebraucht werden.

Verschiedene Modelltypen

Damit die Plattform optimal funktioniert, werden drei verschiedene Modelltypen mit spezifischen Verantwortungsbereichen verwendet:

ModelltypBeschreibung
Completion (Sprachmodelle)Fungiert als “Gehirn” des Systems. Wird verwendet, um Text zu generieren, Dialoge zu führen und logische Aufgaben basierend auf den Anweisungen des Benutzers zu lösen.
Embedding (Text-Embedding)Konvertiert Informationen in mathematische Vektoren, um die Suche in Wissensbibliotheken (RAG) zu ermöglichen. Regel: Nur ein aktives Modell pro Sicherheitsklasse.
Transcription (Transkription)Konvertiert Sprache in Text. Ermöglicht die Indizierung von Audiodateien und die Interaktion mit dem Assistenten per Sprache.

Jedes Modell in der Tabelle enthält nun eine Unterauftragsverarbeiter-Spalte. Sie zeigt, welches Unternehmen Daten direkt verarbeitet, wenn das jeweilige Modell verwendet wird.

SzenarioWas angezeigt wird
Modell über eine externe API zugänglich (z.B. OpenAI, Anthropic)Der jeweilige Modellanbieter
Von Intric auf unserer eigenen Infrastruktur gehostetes ModellIntrics zugrundeliegender Infrastrukturanbieter

Aus DSGVO- und Datenverwaltungsperspektive ist der Unterauftragsverarbeiter die Stelle, die die Daten deiner Organisation empfängt und verarbeitet, wenn das Modell aufgerufen wird. Nutze diese Spalte bei der Überprüfung deiner Auftragsverarbeitungsverträge (AVV/DPA) oder wenn du entscheidest, welche Modelle für eine bestimmte Sicherheitsklasse geeignet sind.

Wenn du wählst, welche Modelle für verschiedene Assistenten oder Sicherheitsklassen aktiv sein sollen, basiere deine Entscheidung auf folgenden Prinzipien:

  • Kompliziere es nicht: Die meisten modernen Sprachmodelle sind Allzweck-Modelle und bewältigen die meisten alltäglichen Aufgaben sehr gut.

  • Geschwindigkeit vs. Reflexionsfähigkeit: Für den persönlichen Assistenten und einfachere Aufgaben verwende ein schnelles Modell. Dies bietet eine flüssigere Benutzererfahrung, bei der Antworten direkt kommen.

    • Für komplexe Aufgaben, wie fortgeschrittene Rechtsanalyse, medizinische Überprüfung oder anspruchsvolle Problemlösung, wähle ein Modell mit hoher Reflexionsfähigkeit, auch wenn diese sich etwas langsamer anfühlen können.
  • Kosteneffizienz: Durch die Beschränkung des Zugriffs auf die fortschrittlichsten (und oft teureren) Modelle auf spezifische Sicherheitsklassen, wo sie tatsächlich gebraucht werden, kannst du die Ressourcennutzung deiner Organisation optimieren.

Du musst auch bedenken, welche Arten von personenbezogenen Daten möglicherweise von den verwendeten Assistenten verarbeitet werden könnten. Lies mehr darüber, wie dies den Benutzern durch die Verwendung von Sicherheitsklassifizierungen verdeutlicht wird.