KI-Modelle
In dieser Ansicht erhältst du einen Überblick über alle Sprachmodelle, die dir zur Verfügung stehen, sowie die Verwaltung, welche Sprachmodelle in der Intric-Umgebung deiner Organisation verfügbar sein sollen. Als Administrator kannst du genau steuern, welche Modelle in verschiedenen Teilen der Plattform verfügbar sein sollen. Durch die Verbindung spezifischer Modelle mit verschiedenen Sicherheitsklassen kannst du sicherstellen, dass ressourcenintensive oder spezialisierte Modelle nur dort verwendet werden, wo sie wirklich gebraucht werden.
Verschiedene Modelltypen
Damit die Plattform optimal funktioniert, werden drei verschiedene Modelltypen mit spezifischen Verantwortungsbereichen verwendet:
| Modelltyp | Beschreibung |
|---|---|
| Completion (Sprachmodelle) | Fungiert als “Gehirn” des Systems. Wird verwendet, um Text zu generieren, Dialoge zu führen und logische Aufgaben basierend auf den Anweisungen des Benutzers zu lösen. |
| Embedding (Text-Embedding) | Konvertiert Informationen in mathematische Vektoren, um die Suche in Wissensbibliotheken (RAG) zu ermöglichen. Regel: Nur ein aktives Modell pro Sicherheitsklasse. |
| Transcription (Transkription) | Konvertiert Sprache in Text. Ermöglicht die Indizierung von Audiodateien und die Interaktion mit dem Assistenten per Sprache. |
Modellauswahl – wie soll ich denken?
Wenn du wählst, welche Modelle für verschiedene Assistenten oder Sicherheitsklassen aktiv sein sollen, basiere deine Entscheidung auf folgenden Prinzipien:
Kompliziere es nicht: Die meisten modernen Sprachmodelle sind Allzweck-Modelle und bewältigen die meisten alltäglichen Aufgaben sehr gut.
Geschwindigkeit vs. Reflexionsfähigkeit: Für den persönlichen Assistenten und einfachere Aufgaben verwende ein schnelles Modell. Dies bietet eine flüssigere Benutzererfahrung, bei der Antworten direkt kommen.
- Für komplexe Aufgaben, wie fortgeschrittene Rechtsanalyse, medizinische Überprüfung oder anspruchsvolle Problemlösung, wähle ein Modell mit hoher Reflexionsfähigkeit, auch wenn diese sich etwas langsamer anfühlen können.
Kosteneffizienz: Durch die Beschränkung des Zugriffs auf die fortschrittlichsten (und oft teureren) Modelle auf spezifische Sicherheitsklassen, wo sie tatsächlich gebraucht werden, kannst du die Ressourcennutzung deiner Organisation optimieren.
Du musst auch bedenken, welche Arten von personenbezogenen Daten möglicherweise von den verwendeten Assistenten verarbeitet werden könnten. Lies mehr darüber, wie dies den Benutzern durch die Verwendung von Sicherheitsklassifizierungen verdeutlicht wird.