AI-modeller
I denne visningen får du en oversikt over alle språkmodeller du har tilgjengelige, samt administrerer hvilke språkmodeller som skal være tilgjengelige for bruk i organisasjonens Intric-miljø. Som administrator kan du kontrollere nøyaktig hvilke modeller som skal være tilgjengelige i forskjellige deler av plattformen. Ved å deretter koble spesifikke modeller til forskjellige sikkerhetsklasser, kan du sikre at mer ressurskrevende eller spesialiserte modeller bare brukes der de virkelig trengs.
Forskjellige typer modeller
For at plattformen skal fungere optimalt, brukes tre forskjellige typer modeller med spesifikke ansvarsområder:
| Modelltype | Beskrivelse |
|---|---|
| Completion (Språkmodeller) | Fungerer som systemets “hjerne”. Brukes til å generere tekst, føre dialog og løse logiske oppgaver basert på brukerens instruksjoner. |
| Embedding (Tekstembedding) | Konverterer informasjon til matematiske vektorer for å muliggjøre søk i kunnskapsbiblioteker (RAG). Regel: Bare én aktiv modell per sikkerhetsklasse. |
| Transcription (Transkripsjon) | Konverterer tale til tekst. Gjør det mulig å indeksere lydfiler og interagere med assistenten via stemme. |
Modellvalg – hvordan skal jeg tenke?
Når du velger hvilke modeller som skal være aktive for forskjellige assistenter eller sikkerhetsklasser, baser beslutningen din på følgende prinsipper:
Ikke overkompliser det: De fleste moderne språkmodeller er allsidige og håndterer de fleste hverdagslige oppgaver svært godt.
Hastighet vs. refleksjonsevne: For den personlige assistenten og enklere oppgaver, bruk en rask modell. Dette gir en smidigere brukeropplevelse der svar kommer direkte.
- For komplekse oppgaver, som avansert juridisk analyse, medisinsk gjennomgang eller tung problemløsning, velg en modell med høy refleksjonsevne, selv om disse kan føles noe tregere.
Kostnadseffektivitet: Ved å begrense tilgangen til de mest avanserte (og ofte dyrere) modellene til spesifikke sikkerhetsklasser der de faktisk trengs, kan du optimalisere organisasjonens ressursbruk.
Du må også vurdere hvilke typer personopplysninger som muligens kan behandles av assistentene som brukes. Les mer om hvordan dette avklares for brukere ved å bruke sikkerhetsklassifiseringer.