1 artiklar · 3 min läsning
Virtuell maskin
Varje assistent har en egen, avskild dator under konversationen och kör program på den i stället för att räkna ut allt i sitt kontextfönster.
Varje assistent i Intric har tillgång till en egen virtuell maskin (VM) så länge konversationen pågår. En virtuell maskin är en dator som bara finns i mjukvara: den har ett eget operativsystem, egna filer och egna program, men ingen egen fysisk hårdvara. Se den som en privat arbetsstation eller dator som hör till just den konversationen och ingen annan.
Assistenten avgör själv när den behöver maskinen. Du slår inte på den för varje assistent och behöver inte be om den, men det går förstås bra att göra det. ”Lös det här med ett skript” är en helt rimlig instruktion.
Varför en assistent behöver en dator
Section titled “Varför en assistent behöver en dator”Utan en dator sker allt som assistenten gör i modellens kontextfönster: modellens korttidsminne, allt den kan ”se” på en gång. Varje dokument, instruktion och mellanresultat måste hanteras i kontextfönstret. Varje ny färdighet, som att läsa en CSV-fil eller öppna ett kalkylark, kräver dessutom ett eget verktyg med en beskrivning som också kräver utrymme. Stora uppgifter fyller kontextfönstret snabbt. Det kostar mer, och modeller svarar sämre när kontextfönstret är fullt.
Med en VM kan assistenten se när ett program är bästa sättet att lösa ett problem, skriva programmet och köra det. Den slipper då resonera sig fram till svaret, vilket innebär ett antal fördelar:
- Arbetet flyttar ut ur konversationen. Filer och program arbetar tillsammans på maskinen, och bara resultatet kommer tillbaka. Kontextfönstret har kvar sin plats till det som är viktigt.
- En allmän förmåga ersätter många smala. I stället för dussintals separata verktyg har assistenten ett enda: att använda en dator. Dagens språkmodeller har under sin träning lärt sig mycket om att arbeta i en Linux-terminal och skriva kod, så det klarar dem redan av väldigt väl.
- Exakta svar i stället för uppskattningar. Assistenten räknar fram summor, antal, datum, sorteringar och jämförelser med kod i stället för att gissa.
- Assistenten arbetar direkt i dina filer. Den kan öppna, analysera, redigera och skapa CSV-, Excel-, Word-, PowerPoint- och PDF-filer och ge dig resultatet som en fil att ladda ner.
Exempel ett: jämför två årsredovisningar
Section titled “Exempel ett: jämför två årsredovisningar”Du frågar: ”Jämför årets årsredovisning med fjolårets och lista alla nyckeltal som har ändrats med mer än 10 %.”
Utan en VM måste assistenten läsa in båda rapporterna i kontextfönstret och leta efter skillnaderna genom att läsa. Det går långsamt och kostar mycket, och bland hundratals siffror är det lätt att missa en.
Med en VM plockar assistenten ut tabellerna ur båda filerna och jämför dem med ett kort program. Du får en exakt lista över alla skillnader och kan ladda ner den som Excel-fil.
Exempel två: fyll i ett dokument
Section titled “Exempel två: fyll i ett dokument”Du laddar upp organisationens Word-mall för beslutspromemorior tillsammans med ärendehandlingarna och dina anteckningar och skriver: ”Fyll i mallen för det här ärendet och ge mig en PDF som jag kan skicka.”
Utan VM kan assistenten skriva texten i chatten, så att du själv för in den i mallen. Den kan också skapa promemorian som en artefakt: ett dokument som bygger på din mall, visas bredvid konversationen och som du kan redigera och ladda ner. En artefakt passar bra för ett kort dokument som du vill läsa och justera medan det växer fram. Men modellen skriver själv varje ord, så hela dokumentet måste passera genom kontextfönstret. När du ber om en ändring skriver modellen inte nödvändigtvis om hela artefakten, men allt den arbetar med går ändå genom kontextfönstret. För ett långt dokument, eller en mall med många fält, går det åt många tokens.
Med VM öppnar assistenten själva Word-filen, skriver in varje avsnitt på rätt plats och behåller rubriker, logotyp och layout precis som de är. Bara texten som assistenten lägger till behöver passera genom kontextfönstret, inte mallen runt omkring. Sedan gör assistenten om resultatet till PDF, och du får både den färdiga Word-filen och PDF:en att ladda ner.
Tekniska detaljer
Section titled “Tekniska detaljer”Maskinen saknar internetanslutning, varje konversation får en egen, och assistenten kan inte ändra filerna du delar med den. Läs mer i Tekniska detaljer om vad som finns installerat på maskinen och hur Intric skyddar den.
Tillgänglighet
Section titled “Tillgänglighet”Kör du Intric i molnet, på en dedikerad instans eller en multi-tenant-instans, är den virtuella maskinen redan påslagen för alla assistenter. Du behöver inte aktivera något.
I on-prem- och egenhostade installationer är funktionen avstängd tills någon aktiverar den. Den kräver en server med hårdvaruvirtualisering (KVM) och lite extra kapacitet för varje maskin som är igång samtidigt. Läs mer i Server och hårdvara.