Skip to content
Service status

Skriv for å søke

1 artikler · 3 min lesing

Virtuell maskin

Hver assistent har sin egen avskjermede datamaskin i samtalen, og kjører programmer på den i stedet for å regne ut alt i kontekstvinduet.

Hver assistent i Intric har tilgang til sin egen virtuelle maskin (VM) så lenge samtalen varer. En virtuell maskin er en datamaskin som bare finnes i programvare: Den har sitt eget operativsystem, sine egne filer og sine egne programmer, men ingen egen fysisk maskinvare. Tenk på den som en privat arbeidsstasjon som hører til akkurat den samtalen og ingen annen.

Assistenten bestemmer selv når den trenger maskinen. Du slår den ikke på for hver assistent, og du trenger ikke be om den, men det kan du gjerne gjøre. «Løs dette med et skript» er en helt grei instruksjon.

Hvorfor en assistent trenger en datamaskin

Section titled “Hvorfor en assistent trenger en datamaskin”

Uten en datamaskin skjer alt assistenten gjør, i modellens kontekstvindu: korttidsminnet til modellen, alt den kan «se» på én gang. Hvert dokument, hver instruksjon og hvert mellomresultat må få plass der. Hver nye ferdighet, som å lese en CSV-fil eller åpne et regneark, krever i tillegg et eget verktøy med en beskrivelse som også tar plass. Store oppgaver fyller kontekstvinduet raskt. Det koster mer, og modellene svarer dårligere når kontekstvinduet er fullt.

Med en VM kan assistenten se når et program er den beste måten å løse et problem på, skrive programmet og kjøre det. Da slipper den å resonnere seg frem til svaret ved å lese:

  • Arbeidet flytter ut av samtalen. Filer og programmer jobber sammen på maskinen, og bare resultatet kommer tilbake. Kontekstvinduet beholder plassen til det som betyr noe.
  • Én generell evne erstatter mange smale. I stedet for dusinvis av separate verktøy har assistenten ett: å bruke en datamaskin. Dagens språkmodeller har lært mye om å jobbe i en Linux-terminal gjennom treningen sin, så de kan det allerede.
  • Nøyaktige svar fremfor anslag. Assistenten regner ut summer, antall, datoer, sorteringer og sammenligninger med kode i stedet for å gjette.
  • Assistenten jobber direkte i filene dine. Den kan åpne, analysere, redigere og lage CSV-, Excel-, Word-, PowerPoint- og PDF-filer, og gi deg resultatet som en fil du kan laste ned.

Du spør: «Sammenlign årets årsrapport med fjorårets, og list opp alle nøkkeltall som har endret seg med mer enn 10 %.»

Uten VM må assistenten laste begge rapportene inn i kontekstvinduet og finne forskjellene ved å lese. Det går tregt og koster mye, og blant hundrevis av tall er det lett å overse ett.

Med VM henter assistenten ut tabellene fra begge filene og sammenligner dem med et kort program. Du får en nøyaktig liste over alle forskjellene og kan laste den ned som Excel-fil.

Du laster opp Word-malen organisasjonen din bruker til vedtaksnotater, sammen med saksdokumentene og notatene dine, og skriver: «Fyll ut malen for denne saken, og gi meg en PDF jeg kan sende.»

Uten VM kan assistenten skrive teksten i chatten, slik at du selv limer den inn i malen. Den kan også lage notatet som en artefakt: et dokument som bygger på malen din, vises ved siden av samtalen og som du kan redigere og laste ned. En artefakt passer godt til et kort dokument du vil lese og justere underveis. Men modellen skriver selv hvert eneste ord, så hele dokumentet må gjennom kontekstvinduet. Ber du om en endring, skriver ikke modellen nødvendigvis om hele artefakten, men alt den jobber med, går likevel gjennom kontekstvinduet. For et langt dokument, eller en mal med mange felt, går det med mange tokens.

Med VM åpner assistenten selve Word-filen, skriver hver del inn på riktig sted og beholder overskrifter, logo og oppsett akkurat som de er. Bare teksten assistenten legger til, må gjennom kontekstvinduet, ikke malen rundt. Deretter gjør assistenten resultatet om til PDF, og du får både den ferdige Word-filen og PDF-en til nedlasting.

Maskinen har ingen internettilkobling, hver samtale får sin egen, og assistenten kan ikke endre filene du deler med den. Les mer i Tekniske detaljer om hva som er installert på maskinen, og hvordan Intric beskytter den.

Kjører du Intric i skyen, på en dedikert instans eller en multi-tenant-instans, er den virtuelle maskinen allerede slått på for alle assistenter. Du trenger ikke aktivere noe.

I on-prem- og selvhostede installasjoner er funksjonen slått av til noen aktiverer den. Den krever en server med maskinvarevirtualisering (KVM) og litt ekstra kapasitet for hver maskin som kjører samtidig. Les mer i Server og maskinvare.