AI-modeller
I den här vyn får du en överblick över alla språkmodeller som ni har tillgängliga, samt hanterar vilka språkmodeller som ska vara tillgängliga att använda i er organisations Intric-miljö. Som administratör kan du styra exakt vilka modeller som ska vara tillgängliga inom olika delar av plattformen. Genom att sedan koppla specifika modeller till olika säkerhetsklasser kan du säkerställa att mer resurskrävande eller specialiserade modeller endast används där de verkligen behövs.
Olika typer av modeller
För att plattformen ska fungera optimalt används tre olika typer av modeller med specifika ansvarsområden:
| Modelltyp | Beskrivning |
|---|---|
| Completion (Språkmodeller) | Fungerar som systemets “hjärna”. Används för att generera text, föra dialog och lösa logiska uppgifter baserat på användarens instruktioner. |
| Embedding (Textinbäddning) | Omvandlar information till matematiska vektorer för att möjliggöra sökning i kunskapsbibliotek (RAG). Regel: Endast en aktiv modell per säkerhetsklass. |
| Transcription (Transkribering) | Omvandlar tal till skrift. Gör det möjligt att indexera ljudfiler och interagera med assistenten via röst. |
Val av modell – hur ska jag tänka?
När du väljer vilka modeller som ska vara aktiva för olika assistenter eller säkerhetsklasser bör du utgå från följande principer:
Krångla inte till det: De flesta moderna språkmodeller är generella och hanterar de allra flesta vardagliga uppgifter mycket bra.
Hastighet vs. Reflektionsförmåga: För den personliga assistenten och enklare uppgifter rekommenderas en snabb modell. Det ger en smidigare användarupplevelse där svaren kommer direkt.
- För komplexa uppgifter, såsom avancerad juridisk analys, medicinsk granskning eller tung problemlösning, bör du välja en modell med hög reflektionsförmåga, även om dessa kan upplevas som något långsammare.
Kostnadseffektivitet: Genom att begränsa tillgången till de mest avancerade (och ofta dyrare) modellerna till specifika säkerhetsklasser där de faktiskt behövs, kan du optimera organisationens resursanvändning.
Självklart behöver du även ta ställning till huruvida vilka typer av personuppgifter som eventuellt kommer behandlas av de assistenter som används. Läs mer om hur detta förtydligas mot användarna genom att använda Säkerhetsklassningar.