On-prem

On-prem Managed er alternativet for organisasjoner med svært strenge sikkerhetskrav, der data ifølge policy må bli værende i eget IT-miljø. Intric installeres og kjøres på deres egen maskinvare, inne i deres eget nettverk, og plattformen er som standard bare tilgjengelig derfra. Dere beholder full kontroll over både maskinvare og datastrømmer — Intric drifter plattformen, dere eier miljøet den kjører i.

En komplett plattform, ikke en nedskalert utgave

On-prem-installasjonen er den samme plattformen som skytjenesten: assistenter, kunnskapsbaser med vektorsøk, dokument- og lydbehandling, integrasjoner og administrasjonsgrensesnittet. Ingenting holdes tilbake for den skybaserte versjonen.

Alt plattformen trenger for arbeidet sitt kjører på deres server: applikasjonen og API-et, identitetsleverandøren, databasene, objektlagringen, meldingskøen og arbeidsprosessene som håndterer dokumenter, PDF-er og lyd. Leveransen skjer på Kubernetes, fra versjonerte Helm-charts, og det er dette som gjør oppgraderinger forutsigbare og repeterbare i stedet for skreddersydde.

Data blir værende innenfor

Ingen dokumenter, samtaler eller filer forlater miljøet deres som en del av normal drift. Plattformen når ut kun der dere uttrykkelig har åpnet for det i brannmuren — vanligvis til en leverandør av språkmodeller — og disse endepunktene listes opp og avtales før installasjon.

For miljøer som ikke kan tillate utgående trafikk i det hele tatt, kan plattformen installeres helt isolert (air-gapped), med alle container-images speilet til et eget privat registry.

Deres modeller, eller våre

Språkmodeller kan konsumeres fra en ekstern leverandør gjennom et snevert og uttrykkelig tillatt sett av endepunkter, eller kjøres i sin helhet i deres eget datasenter på lokale GPU-er — både chat, embeddings og tale-til-tekst. Med lokale GPU-er minimeres, eller elimineres helt, behovet for eksterne API-kall, noe som skaper et lukket miljø for maksimal sikkerhet og integritet.

Begge tilnærmingene kan kombineres, og valget kan endres over tid uten å installere plattformen på nytt.

Passer inn i nettverket dere allerede har

On-prem-miljøer er sjelden enkle, og plattformen er bygget for det: utgående trafikk kan rutes gjennom deres eksisterende proxy, organisasjonens egne sertifikatutstedere er betrodde gjennomgående, og plattformen publiseres under deres egne vertsnavn og sertifikater. Innlogging skjer via den medfølgende identitetsleverandøren eller fødereres med identitetsleverandøren dere allerede drifter, slik at brukerne beholder kontoene og single sign-on de har i dag.

Skalerer med arbeidsmengden, ikke med gjetning

Dokument- og lydbehandling kjører som separate arbeidsprosesser som skalerer ut fra kølengde — kapasiteten følger etterspørselen i stedet for et fast anslag, og tunge innlesingsjobber bremser ikke den daglige bruken av assistenter. Dimensjoneringsgrunnlag er dokumentert for både et minimums- og et anbefalt nivå, slik at maskinvaren kan spesifiseres med trygghet før noe bestilles.

Driftes, ikke bare leveres

Intric installerer plattformen, verifiserer den mot de samme kontrollene som brukes for hver release, og vedlikeholder den deretter. Oppgraderinger innføres som versjonerte releaser og verifiseres på stedet; installasjonen dokumenteres slik at deres egen driftsorganisasjon ser nøyaktig hva som kjører og hvor.

---

Neste: Server og maskinvare for dimensjonering, porter og nettverkskrav, og Installasjon og sjekkliste for hva som må forberedes før installasjonsdagen.