Administrative Modell-Governance
Intric bietet eine zentralisierte Governance der Modellauswahl, um die Kosteneffizienz zu optimieren. Als Administrator kannst du das System so konfigurieren, dass bestimmte leistungsstarke — und daher teurere — Modelle eine spezielle Genehmigung erfordern, bevor sie verwendet werden können.
Genehmigungsprozess für eingeschränkte Modelle
Abschnitt betitelt „Genehmigungsprozess für eingeschränkte Modelle“Der Prozess funktioniert wie folgt:
- Anfrage — Wenn ein Benutzer ein eingeschränktes Modell in einem Assistenten verwenden möchte, muss er eine Begründung für den Anwendungsfall angeben.
- Prüfung — Eine Benachrichtigung wird an den zentralen Administrator (technischer Experte) gesendet, der beurteilt, ob die Modellwahl angesichts des Zwecks des Assistenten gerechtfertigt ist.
- Genehmigung — Nach der Genehmigung wird das Modell für diesen spezifischen Anwendungsfall aktiviert.
Dieser Ansatz gewährleistet organisatorische Kontrolle und einen klaren Validierungsprozess, da jeder Assistent und Anwendungsfall nach seinen eigenen Vorzügen und seinem Potenzial zur Wertschöpfung beurteilt wird. Er verringert das Risiko, dass eine einzelne Person Zugriff erhält, um mit leistungsstarken und teuren Modellen zu experimentieren, bevor der Zweck bedacht wurde.
Das Muster minimiert außerdem den Verwaltungsaufwand: Genehmigungen werden nur dann bearbeitet, wenn der Bedarf tatsächlich entsteht, und erfordern keine spekulative Planung oder Beurteilung im Voraus.
Kostenbewusste Standardmodelle
Abschnitt betitelt „Kostenbewusste Standardmodelle“Administratoren können Standardmodelle auf Basis der Sicherheitsklassifizierung definieren, sodass das am besten geeignete Modell vorausgewählt wird. Dies stellt sicher, dass neue Assistenten standardmäßig mit dem effizientesten Modell starten, das die Anforderungen erfüllt.