AI-modeller

I den här vyn får du en överblick över alla språkmodeller som ni har tillgängliga, samt hanterar vilka språkmodeller som ska vara tillgängliga att använda i er organisations Intric-miljö. Som administratör kan du styra exakt vilka modeller som ska vara tillgängliga inom olika delar av plattformen. Genom att sedan koppla specifika modeller till olika säkerhetsklasser kan du säkerställa att mer resurskrävande eller specialiserade modeller endast används där de verkligen behövs.

Olika typer av modeller

För att plattformen ska fungera optimalt används tre olika typer av modeller med specifika ansvarsområden:

Modelltyp	Beskrivning
Completion (Språkmodeller)	Fungerar som systemets “hjärna”. Används för att generera text, föra dialog och lösa logiska uppgifter baserat på användarens instruktioner.
Embedding (Textinbäddning)	Omvandlar information till matematiska vektorer för att möjliggöra sökning i kunskapsbibliotek (RAG). Regel: Endast en aktiv modell per säkerhetsklass.
Transcription (Transkribering)	Omvandlar tal till skrift. Gör det möjligt att indexera ljudfiler och interagera med assistenten via röst.

Kolumnen Underleverantör

Varje modell i tabellen har nu en kolumn för Underleverantör. Den visar vilket företag som direkt behandlar data när den modellen används.

Scenario	Vad visas
Modell som nås via ett externt API (t.ex. OpenAI, Anthropic)	Respektive modelleverantör
Modell som driftas av Intric på vår egen infrastruktur	Intrics underliggande infrastrukturleverantör

Ur ett GDPR- och datahanterings-perspektiv är underleverantören den part som tar emot och behandlar din organisations data när modellen anropas. Använd den här kolumnen när du granskar era Personuppgiftsbiträdesavtal (DPA) eller när du avgör vilka modeller som är lämpliga för en given säkerhetsklass.

Val av modell – hur ska jag tänka?

När du väljer vilka modeller som ska vara aktiva för olika assistenter eller säkerhetsklasser bör du utgå från följande principer:

• Krångla inte till det: De flesta moderna språkmodeller är generella och hanterar de allra flesta vardagliga uppgifter mycket bra.

• Hastighet vs. Reflektionsförmåga: För den personliga assistenten och enklare uppgifter rekommenderas en snabb modell. Det ger en smidigare användarupplevelse där svaren kommer direkt.

  • För komplexa uppgifter, såsom avancerad juridisk analys, medicinsk granskning eller tung problemlösning, bör du välja en modell med hög reflektionsförmåga, även om dessa kan upplevas som något långsammare.

• Kostnadseffektivitet: Genom att begränsa tillgången till de mest avancerade (och ofta dyrare) modellerna till specifika säkerhetsklasser där de faktiskt behövs, kan du optimera organisationens resursanvändning.

Självklart behöver du även ta ställning till huruvida vilka typer av personuppgifter som eventuellt kommer behandlas av de assistenter som används. Läs mer om hur detta förtydligas mot användarna genom att använda Säkerhetsklassningar.