Zum Inhalt springen
Service status

Tippen, um zu suchen

1 Artikel · 3 Min. Lesezeit

Virtuelle Maschine

Jeder Assistent hat für die Dauer einer Unterhaltung einen eigenen, abgeschotteten Computer und führt darauf Programme aus, statt alles im Kontextfenster zu erarbeiten.

Jeder Assistent in Intric hat für die Dauer einer Unterhaltung Zugriff auf eine eigene virtuelle Maschine (VM). Eine virtuelle Maschine ist ein Computer, der nur als Software existiert: Sie hat ein eigenes Betriebssystem, eigene Dateien und eigene Programme, aber keine eigene physische Hardware. Stell sie dir als privaten Arbeitsplatz vor, der genau zu dieser einen Unterhaltung gehört und zu keiner anderen.

Wann der Assistent die VM nutzt, entscheidet er selbst. Du musst sie weder pro Assistent einschalten noch darum bitten. Du kannst es aber tun: „Löse das mit einem Skript“ ist eine völlig sinnvolle Anweisung.

Ohne Computer passiert alles, was ein Assistent tut, im Kontextfenster des Modells. Das ist sein Kurzzeitgedächtnis, also alles, was es auf einmal „sehen“ kann. Jedes Dokument, jede Anweisung und jedes Zwischenergebnis muss dort hineinpassen. Jede neue Fähigkeit, etwa eine CSV-Datei lesen oder eine Tabelle öffnen, braucht außerdem ein eigenes Tool, und dessen Beschreibung belegt ebenfalls Platz. Große Aufgaben füllen das Kontextfenster schnell. Das kostet mehr, und Modelle antworten schlechter, wenn ihr Kontextfenster voll ist.

Mit einer VM erkennt der Assistent, wann ein Programm der beste Weg zur Lösung ist, schreibt dieses Programm und führt es aus. So muss er sich die Antwort nicht lesend erarbeiten:

  • Die Arbeit verlagert sich aus der Unterhaltung heraus. Dateien und Programme arbeiten auf der VM zusammen, und nur das Ergebnis kommt zurück. Im Kontextfenster bleibt Platz für das Wesentliche.
  • Eine allgemeine Fähigkeit ersetzt viele spezielle. Statt Dutzender einzelner Tools hat der Assistent eines: einen Computer bedienen. Heutige Sprachmodelle haben im Training sehr viel über die Arbeit in einem Linux-Terminal gelernt und beherrschen das bereits.
  • Exakte Antworten statt Schätzungen. Summen, Anzahlen, Datumsangaben, Sortierungen und Vergleiche berechnet der Assistent mit Code, statt zu raten.
  • Der Assistent arbeitet direkt mit deinen Dateien. Er kann CSV-, Excel-, Word-, PowerPoint- und PDF-Dateien öffnen, analysieren, bearbeiten und erstellen und dir das Ergebnis als Datei zum Herunterladen geben.

Du fragst: „Vergleiche den diesjährigen Jahresbericht mit dem vom Vorjahr und liste alle Kennzahlen auf, die sich um mehr als 10 % verändert haben.“

Ohne VM muss der Assistent beide Berichte in sein Kontextfenster laden und die Unterschiede durch Lesen finden. Das ist langsam und teuer, und bei Hunderten von Zahlen übersieht er leicht eine.

Mit VM zieht der Assistent die Tabellen aus beiden Dateien und vergleicht sie mit einem kurzen Programm. Du bekommst eine exakte Liste aller Unterschiede und kannst sie als Excel-Datei herunterladen.

Du lädst die Word-Vorlage deiner Organisation für Entscheidungsvorlagen hoch, dazu die Vorgangsakte und deine Notizen, und schreibst: „Füll die Vorlage für diesen Vorgang aus und gib mir ein PDF, das ich verschicken kann.“

Ohne VM kann der Assistent den Text in den Chat schreiben, und du überträgst ihn selbst in die Vorlage. Oder er erstellt die Entscheidungsvorlage als Artefakt: ein Dokument auf Basis deiner Vorlage, das neben der Unterhaltung erscheint und das du bearbeiten und herunterladen kannst. Ein Artefakt eignet sich gut für ein kurzes Dokument, das du lesen und Schritt für Schritt anpassen möchtest. Allerdings schreibt das Modell jedes Wort selbst, das ganze Dokument muss also durch das Kontextfenster. Bittest du um eine Änderung, schreibt das Modell nicht unbedingt das ganze Artefakt neu, aber alles, woran es arbeitet, läuft trotzdem durch das Kontextfenster. Bei einem langen Dokument oder einer Vorlage mit vielen Feldern verbraucht das viele Tokens.

Mit VM öffnet der Assistent die Word-Datei selbst, schreibt jeden Abschnitt an die richtige Stelle und lässt Überschriften, Logo und Layout unverändert. Nur der Text, den er ergänzt, muss durch das Kontextfenster, nicht die Vorlage drumherum. Anschließend wandelt er das Ergebnis in ein PDF um, und du kannst sowohl die fertige Word-Datei als auch das PDF herunterladen.

Die VM hat keine Internetverbindung, jede Unterhaltung bekommt ihre eigene, und der Assistent kann die Dateien, die du teilst, nicht verändern. Was auf der VM installiert ist und wie Intric sie schützt, erfährst du unter Technische Details.

Nutzt du Intric in der Cloud, auf einer dedizierten oder einer Multi-Tenant-Instanz, ist die virtuelle Maschine für alle Assistenten bereits eingeschaltet. Du musst nichts aktivieren.

In On-Premises- und Self-hosted-Installationen ist die Funktion ausgeschaltet, bis jemand sie aktiviert. Sie braucht einen Server mit Hardware-Virtualisierung (KVM) und etwas zusätzliche Kapazität für jede gleichzeitig laufende VM. Mehr dazu unter Server und Hardware.