Plattform · 1 Min. Lesezeit
Modelle
Aktiviere Modelle, prüfe ihren Unterauftragsverarbeiter und ihre Kosten, und lege fest, welche wo verfügbar sind.
Die Ansicht Modelle listet jedes eurer Organisation zur Verfügung stehende Modell auf und lässt dich entscheiden, welche aktiviert sind. Jede Zeile zeigt den Modelltyp und den Unterauftragsverarbeiter, der eure Daten beim Ausführen tatsächlich erhält — die Spalte, die für ein AVV-Review am wichtigsten ist.
Die vier Modelltypen
Abschnitt betitelt „Die vier Modelltypen“- Completion-Modelle — der Motor hinter dem Schlussfolgern und der Texterzeugung eines Assistenten.
- Embedding-Modelle — wandeln Dokumente für die Wissenssuche in durchsuchbare Vektoren um.
- Transkriptionsmodelle — wandeln Sprache in Text um.
- Bildmodelle — erzeugen und bearbeiten Bilder aus Textbeschreibungen.
Die Spalte für den Unterauftragsverarbeiter
Abschnitt betitelt „Die Spalte für den Unterauftragsverarbeiter“Die Zeile jedes Modells zeigt seinen Unterauftragsverarbeiter: den Modellanbieter bei einem über eine externe API angebundenen Modell, oder Intrics eigenen Infrastrukturanbieter bei einem Modell, das Intric selbst hostet. Nutze diese Spalte, wenn du Auftragsverarbeitungsverträge prüfst oder entscheidest, welche Modelle zu einer bestimmten Sicherheitsklassifizierung passen.
Kuratierte Auswahl
Abschnitt betitelt „Kuratierte Auswahl“Neben einzelnen Modellen bietet Intric vier kuratierte Optionen, die Assistenten nutzen können, statt ein bestimmtes Modell zu benennen: Ausgewogen, Schnell, Sparsam und Leistungsstärkstes. Jede davon verfolgt automatisch ein für diese Priorität passendes aktuelles Modell, während sich der zugrunde liegende Katalog weiterentwickelt.
Token-Kosten für individuelle Modelle
Abschnitt betitelt „Token-Kosten für individuelle Modelle“Wie du entscheidest, welche Modelle du aktivierst
Abschnitt betitelt „Wie du entscheidest, welche Modelle du aktivierst“Ein paar Grundsätze, die sich lohnen, wenn du entscheidest, welche Modelle du wo aktivierst:
- Die meisten modernen Modelle sind vielseitig einsetzbar und bewältigen alltägliche Aufgaben gut — verkompliziere die Wahl nicht unnötig.
- Setze für den persönlichen Assistenten und einfache Aufgaben ein schnelles Modell ein; reserviere Modelle mit stärkerer Schlussfolgerungsfähigkeit für komplexe Analysen.
- Beschränke den Zugriff auf die leistungsfähigsten — und oft teuersten — Modelle auf die Klassifizierungen, in denen sie wirklich gebraucht werden.