Modelli personalizzati

Un modello personalizzato è un modello che Intric non fornisce e che colleghi tu. Può girare sulla tua infrastruttura, in un deployment privato presso un cloud provider o presso un fornitore assente dal catalogo. Una volta collegato, le persone lo scelgono come qualsiasi altro modello, e la classificazione di sicurezza dello Space determina dove è utilizzabile.

Prima di iniziare

• I modelli personalizzati devono essere abilitati per la tua organizzazione. Se nella finestra Add a model non trovi il pulsante Add custom, la tua organizzazione non ha ancora questa funzionalità: contatta Intric per farla attivare. Solo gli Admin possono creare modelli personalizzati.
• L’endpoint deve supportare l’API OpenAI Chat Completions. La offre la maggior parte dei server e dei gateway per il self-hosting, come vLLM, Ollama e LiteLLM.
• Tieni a portata di mano tre dati del tuo provider: l’URL di base, il nome esatto del modello e, se l’endpoint la richiede, una chiave API.

Aggiungere un modello personalizzato

Aggiungere un modello personalizzato

1. Vai in Admin → Platform → Models, seleziona Add model e poi Add custom.
2. Name your model. Il Nickname è il nome che le persone vedono ovunque scelgano un modello, quindi scegline uno che riconoscano. Un’anteprima mostra come apparirà nell’elenco.
3. Connection. Compila Base URL, Model name e API Key.
4. Hosting location. Scegli il paese o la regione in cui gira il modello.
5. Context window. Indica quanti token il modello riesce a gestire in una volta sola. Trovi il valore nella documentazione del modello del tuo provider.
6. Seleziona Create model.

Intric crea il modello, lo aggiunge subito alla tua organizzazione ed esegue un test di connessione. Il pannello mostra poi tutte le impostazioni del modello, così finisci di configurarlo senza doverlo riaprire.

I campi di connessione

• Base URL — l’indirizzo a cui Intric invia le richieste, fino alla versione dell’API, ad esempio https://api.your-domain.com/v1. Il resto del percorso lo aggiunge Intric, quindi non includere /chat/completions.
• Model name — l’identificativo esatto del modello che l’endpoint si aspetta in ogni richiesta, ad esempio vendor/model-latest. Spesso non coincide con il nickname.
• API Key — Intric la invia nell’header Authorization, anteponendo in automatico Bearer. Dopo il salvataggio, Intric non mostra più la chiave. Lascia vuoto il campo per mantenere quella salvata, oppure inseriscine una nuova per sostituirla.

Testare la connessione

Il test invia all’endpoint una sola richiesta, breve ma reale, con le impostazioni salvate. Il risultato è Success! oppure Connection failed, insieme all’errore restituito dall’endpoint. Se in seguito modifichi i campi di connessione, Save & test li salva e ripete il test.

Se il test riesce, sai che Intric raggiunge l’endpoint e riceve una risposta. Sulla qualità delle risposte, invece, il test non ti dice nulla.

Cosa configurare dopo la creazione

Di un modello del catalogo Intric conosce già prezzo, capacità e luogo di esecuzione. Di un modello personalizzato no, quindi questi dati li inserisci tu:

• Description — il testo che le persone vedono passando il mouse sul nome del modello in uno Space o in un Assistente, e nella scheda del modello.
• Features — la finestra di contesto, Vision support se il modello accetta immagini ed Enable tools se supporta le chiamate a strumenti. Attiva gli strumenti solo se l’endpoint gestisce davvero queste chiamate: la ricerca web, le integrazioni e gli strumenti MCP dipendono tutti da loro.
• Extra parameters — un oggetto JSON che Intric inoltra invariato con ogni richiesta, ad esempio {"temperature": 0.2} o un’impostazione di ragionamento che il tuo server riconosce. Lascialo vuoto se non vuoi inviare altro. Le chiavi model, messages, stream, stream_options, tools, tool_choice e n le imposta Intric, quindi qui non puoi usarle.
• Token cost — il prezzo per milione di token in input e in output, con la relativa valuta. Vedi Costo per token dei modelli personalizzati più avanti.
• Performance — le valutazioni di velocità e intelligenza del modello. Vedi Valutazioni dei modelli personalizzati più avanti.
• Hosting location — compare accanto al modello, così le persone vedono dove vanno i loro dati. Conta anche per le classificazioni che limitano il trattamento a determinate aree. Vedi Regioni di trattamento.
• Security classification — gli Space che possono usare il modello. Imposta il livello più alto per cui il modello è approvato: diventa automaticamente disponibile anche a tutti i livelli inferiori. Vedi Classificazione dei modelli.

Valutazioni dei modelli personalizzati

Puoi collegare un modello di completamento personalizzato a uno dei benchmark che Intric sincronizza. In questo modo le sue valutazioni di velocità e intelligenza seguono il benchmark anziché cifre inserite a mano, e restano corrette a ogni aggiornamento del benchmark. Quando aggiungi il modello, Intric ti propone un benchmark corrispondente in base al nome: puoi accettare il suggerimento, scegliere un altro benchmark o inserire i valori manualmente.

Costo per token dei modelli personalizzati

Importante

Per i modelli standard dei fornitori, Intric conosce già il prezzo e lo applica automaticamente ai report di utilizzo e costi. Per i modelli personalizzati — self-hosted o distribuiti per una singola organizzazione — Intric non ha modo di conoscere il prezzo: imposta tu il costo per token nella configurazione del modello, usando la tariffa che hai effettivamente negoziato e non un prezzo di listino. Se il modello non ha alcun costo per token, imposta entrambe le tariffe a 0. Tieni il valore aggiornato: se è vecchio o manca, le cifre risultano sottostimate o sovrastimate ovunque compaia il costo di quel modello, comprese le sezioni Usage e Billing.

Differenze rispetto ai modelli del catalogo

• Le selezioni curate non scelgono mai un modello personalizzato. Un Assistente impostato su Balanced, Fast, Economical o Smart gira sempre su un modello del catalogo. Per usare un modello personalizzato, selezionalo per nome.
• I modelli personalizzati non sono legati a un sub-processore. Intric non può sapere chi gestisce il tuo endpoint, quindi non subordina il modello all’approvazione in Sub-processors. Annota il gestore nella tua documentazione DPA, e usa la località di hosting e la classificazione di sicurezza per stabilire dove è consentito usare il modello.
• Add custom crea un modello di completamento. Da questa finestra non puoi creare modelli personalizzati di embedding, trascrizione o immagini.

Modificare e rimuovere un modello personalizzato

Nella pagina Models, apri il menu delle azioni di un modello personalizzato e scegli Edit model per modificarne le impostazioni, oppure Remove per eliminarlo.

Importante

Rimuovere un modello personalizzato significa eliminarlo definitivamente: a differenza di un modello del catalogo, non torna nel catalogo. Intric non elimina un modello personalizzato finché Assistenti, Assistenti personali, app o conversazioni lo usano, quindi prima assegna a tutti un altro modello.