1 articoli · 4 min di lettura
Macchina virtuale
Ogni assistente ha un proprio computer isolato per tutta la conversazione e ci esegue programmi, invece di elaborare tutto nella finestra di contesto.
Ogni assistente in Intric ha a disposizione una propria macchina virtuale (VM) per tutta la durata di una conversazione. Una macchina virtuale è un computer che esiste solo come software: ha un proprio sistema operativo, file e programmi propri, ma nessun hardware fisico. Immaginala come una postazione di lavoro privata che appartiene a quella sola conversazione.
È l’assistente a decidere quando usarla. Non devi attivarla per ogni assistente e non devi chiederla, anche se puoi farlo: “risolvilo con uno script” è un’istruzione del tutto valida.
Perché un assistente ha bisogno di un computer
Sezione intitolata “Perché un assistente ha bisogno di un computer”Senza un computer, tutto il lavoro dell’assistente avviene nella finestra di contesto del modello, cioè la sua memoria a breve termine: tutto ciò che può “vedere” in una volta. Ogni documento, istruzione e risultato intermedio deve starci dentro. Ogni nuova capacità, come leggere un file CSV o aprire un foglio di calcolo, richiede poi uno strumento a sé, e anche la descrizione di quello strumento pesa sulla finestra di contesto. Le attività più grandi riempiono in fretta la finestra di contesto. Questo costa di più, e i modelli rispondono peggio quando la finestra di contesto è piena.
Con una VM l’assistente riconosce quando il modo migliore per risolvere un problema è un programma, lo scrive e lo esegue. Non deve più arrivare alla risposta ragionando e leggendo:
- Il lavoro esce dalla conversazione. File e programmi lavorano insieme sulla VM e alla conversazione torna solo il risultato. La finestra di contesto resta libera per ciò che conta.
- Una capacità generale ne sostituisce molte specifiche. Al posto di decine di strumenti separati, l’assistente ne ha uno solo: usare un computer. I modelli linguistici di oggi hanno imparato moltissimo sul lavoro in un terminale Linux durante l’addestramento, quindi sanno già come fare.
- Risposte esatte, non stime. L’assistente calcola con il codice somme, conteggi, date, ordinamenti e confronti, invece di tirare a indovinare.
- L’assistente lavora direttamente sui tuoi file. Può aprire, analizzare, modificare e creare file CSV, Excel, Word, PowerPoint e PDF, e consegnarti il risultato come file da scaricare.
Esempio: confrontare due bilanci
Sezione intitolata “Esempio: confrontare due bilanci”Chiedi: “Confronta il bilancio di quest’anno con quello dell’anno scorso ed elenca tutti gli indicatori chiave che sono cambiati di oltre il 10%.”
Senza VM, l’assistente deve caricare entrambi i documenti nella finestra di contesto e cercare le differenze leggendo. È lento e costoso, e tra centinaia di cifre è facile perderne una.
Con la VM, l’assistente estrae le tabelle da entrambi i file e le confronta con un breve programma. Ottieni un elenco esatto di tutte le differenze e puoi scaricarlo come file Excel.
Esempio: compilare un documento
Sezione intitolata “Esempio: compilare un documento”Carichi il modello Word della tua organizzazione per le note di decisione, insieme al fascicolo della pratica e ai tuoi appunti, e scrivi: “Compila il modello per questa pratica e dammi un PDF da inviare.”
Senza VM, l’assistente può scrivere il testo nella chat e lasciare a te il compito di copiarlo nel modello. Oppure può creare la nota come artefatto: un documento basato sul tuo modello, che si apre accanto alla conversazione e che puoi modificare e scaricare. Un artefatto va bene per un documento breve che vuoi leggere e ritoccare man mano. Però il modello scrive ogni parola da sé, quindi l’intero documento deve passare per la finestra di contesto. Quando chiedi una modifica, il modello non riscrive per forza tutto l’artefatto, ma tutto ciò su cui lavora passa comunque per la finestra di contesto. Con un documento lungo, o con un modello pieno di campi, questo consuma molti token.
Con la VM, l’assistente apre direttamente il file Word, inserisce ogni sezione al posto giusto e lascia intatti titoli, logo e impaginazione. Nella finestra di contesto passa solo il testo che l’assistente aggiunge, non il modello che lo circonda. Poi l’assistente converte il risultato in PDF e puoi scaricare sia il file Word finito sia il PDF.
Dettagli tecnici
Sezione intitolata “Dettagli tecnici”La VM non ha connessione a Internet, ogni conversazione ne ha una propria e l’assistente non può modificare i file che condividi. Cosa è installato sulla VM e come Intric la protegge lo trovi in Dettagli tecnici.
Disponibilità
Sezione intitolata “Disponibilità”Se usi Intric nel cloud, su un’istanza dedicata o multi-tenant, la macchina virtuale è già attiva per tutti gli assistenti. Non devi attivare nulla.
Nelle installazioni on-prem e self-hosted la funzione resta disattivata finché qualcuno non la attiva. Richiede un server con virtualizzazione hardware (KVM) e un po’ di capacità in più per ogni VM attiva in contemporanea. Trovi i dettagli in Server e hardware.