Modello open weight o proprietario: cosa cambia

Redazione AIR
Per la mia azienda è meglio un modello AI open weight o uno proprietario?Un modello proprietario lo usi solo attraverso il servizio del produttore, pagando a consumo 1. Uno open weight lo scarichi e lo fai girare dove vuoi, anche in azienda, nei limiti della sua licenza 2. Il primo dà più potenza senza pensieri tecnici, il secondo più controllo su dati e costi.
Lo schema in breve

Chiara è responsabile qualità in un'azienda alimentare. Vorrebbe usare l'AI per leggere i rapporti dei fornitori, ma i documenti contengono ricette e capitolati riservati. Un collega le ha parlato di "modelli aperti" da installare in casa. Prima di decidere serve capire cosa si guadagna e cosa si perde. La scelta tra open weight e proprietario non riguarda solo dove gira il modello: riguarda la licenza, chi lo aggiorna, chi risponde quando qualcosa non va.

Cosa vuol dire, in pratica

Un modello proprietario resta sui server del produttore. Tu mandi il testo, ricevi la risposta e paghi secondo il listino, come succede con i modelli di OpenAI 1. Non vedi il modello e non puoi spostarlo.

Un modello open weight mette a disposizione i pesi, cioè il file che contiene quello che il modello ha imparato. Lo scarichi e lo fai girare sul tuo computer, su un server tuo o presso un fornitore a tua scelta. Un esempio dalla libreria di Ollama: il modello nimble è distribuito con licenza Apache 2.0 e si scarica in un file di circa 9 GB 2. Open weight non vuol dire per forza libero per ogni uso: la licenza va sempre letta.

Qualità e potenza

I modelli proprietari più grandi sono in genere i più capaci sui compiti difficili: ragionamenti lunghi, documenti complessi, scrittura curata. Molti modelli open weight sono più piccoli e pensati per girare su macchine normali. Non è un difetto: per compiti precisi e ripetitivi, come classificare una mail o estrarre un campo da un documento, un modello piccolo e ben scelto può bastare.

La domanda da farsi non è "quale è più intelligente" ma "quale basta per questo compito". Prova il modello aperto sui tuoi casi veri e confronta il tasso di errore con quello del proprietario.

Dati, costi e responsabilità

Con un modello open weight installato in azienda, i testi non escono: è il motivo per cui piace a chi tratta dati riservati. Eseguito in locale con un programma come Ollama non ci sono costi d'uso per richiesta 3; restano il costo della macchina e di chi la configura.

Con un modello proprietario usato tramite API, i dati viaggiano verso il fornitore, ma con regole aziendali: OpenAI dichiara di non usarli per l'addestramento salvo tua scelta 4. In cambio non ti occupi di hardware, aggiornamenti e sicurezza del server. Con l'open weight queste cose diventano tue, o di un fornitore che paghi per farle.

Dipendenza dal fornitore e futuro

Con un proprietario dipendi dalle decisioni del produttore: prezzi, versioni che vengono ritirate, condizioni che cambiano. Con un open weight il file resta tuo e puoi continuare a usarlo anche se il progetto si ferma. Per un processo che deve durare anni senza sorprese, questa stabilità ha un valore. Per un assistente da ufficio che deve migliorare a ogni versione, conta di più l'accesso ai modelli più recenti.

Una via di mezzo è scrivere il proprio processo in modo che il modello si possa cambiare senza rifare tutto: le istruzioni, gli esempi e i controlli restano vostri, il modello diventa un pezzo sostituibile. Così puoi partire con un proprietario per avere risultati subito e provare un open weight più avanti, sugli stessi casi, senza ricominciare da capo.

Il verdetto

Per gli assistenti di uso generale e i compiti che richiedono il massimo della qualità, un modello proprietario con piano aziendale è la scelta più semplice. Per compiti ripetitivi su dati riservati, come quelli di Chiara, vale la pena provare un modello open weight in casa, con una licenza compatibile e qualcuno che lo gestisca. Molte aziende finiscono per usare entrambi, ognuno dove rende di più.

Altri confronti sono in Confronti e strumenti.

Domande frequenti

Open weight vuol dire gratuito?

Il modello di solito si scarica senza pagare, ma non è gratis usarlo: servono un computer adatto, la corrente e il tempo di chi lo installa e lo mantiene. E la licenza può porre limiti all'uso commerciale.

Un modello open weight è meno sicuro?

Non per forza. Il rischio si sposta: non dipendi dalla sicurezza del fornitore, ma da come configuri e proteggi la tua macchina. Va trattato come qualsiasi altro server aziendale.

Posso far girare un modello open weight su un portatile?

I modelli più piccoli sì, quelli grandi no. Prima di comprare hardware prova il modello sulla macchina che useresti davvero, con i tuoi testi.

Da leggere dopo

Glossario

Cos'è un modello open weight e cosa lo distingue

Un modello open weight è un modello di AI i cui pesi, cioè i parametri imparati durante l'addestramento, sono scaricabili, così che chiunque possa farlo girare sui propri computer.

Glossario

Cos'è un modello AI proprietario (chiuso)

Un modello proprietario, o chiuso, è un modello di AI che il produttore non pubblica: lo usi solo attraverso il suo servizio, con un abbonamento o via API, alle condizioni che lui stabilisce. Ne sono esempi i modelli principali dietro ChatGPT, Claude e Gemini.

Glossario

Cos'è la licenza di un modello AI e cosa controllare

La licenza di un modello di AI è il documento che stabilisce chi può usarlo, per quali scopi e a quali condizioni: se è ammesso l'uso commerciale, se si può modificare e ridistribuire, quali usi sono vietati e cosa va dichiarato.

Novità che contano

Ollama: smistare richieste con l'AI in locale, senza costi

I modelli decisionali non scrivono testi: scelgono un'etichetta e ti dicono quanto sono sicuri. Per smistare mail e ticket è quello che serve.

Glossario

Cos'è l'AI in locale e quando conviene tenerla in casa

Usare l'AI in locale significa far girare il modello su computer o server dell'azienda, invece che usarlo attraverso il servizio cloud di un fornitore, così che i dati restino dentro l'azienda.

Confronti e strumenti

AI in cloud o in locale: cosa conviene a una PMI

Il cloud è la via più rapida: nessun hardware, modelli più potenti e, con i piani aziendali, dati esclusi dall'addestramento [1]. Il locale tiene i testi dentro l'azienda e non ha costi per richiesta [2], ma chiede una macchina adatta e qualcuno che la gestisca. Spesso conviene usare il locale solo per i compiti più delicati.

Non sai quale strumento fa per la tua azienda? Parliamone.

Fonti

  1. OpenAI, prezzi delle API, https://developers.openai.com/api/docs/pricing
  2. Ollama, modello nimble, https://ollama.com/library/nimble
  3. Ollama, Ollama now supports Jev-style decision models, https://ollama.com/blog/ollama-now-supports-jev-style-decision-models
  4. OpenAI, Your data (API), https://developers.openai.com/api/docs/guides/your-data

Testi e grafica realizzati con il supporto dell'AI. Metodo e contenuti sono di AIR.

Contattaci