Cos'è un modello open weight e cosa lo distingue
I modelli più noti di ChatGPT o Claude si usano solo attraverso il servizio del produttore. Altri modelli vengono pubblicati: scarichi i pesi e li esegui dove vuoi, anche senza internet.
"Open weight" e "open source" non sono sinonimi. Spesso vengono pubblicati i pesi ma non i dati né il codice di addestramento, e la licenza può porre limiti all'uso commerciale. Prima di costruirci sopra un servizio va letta la licenza.
Un esempio in una PMI
Uno studio medico vuole riassumere i referti senza mandarli a un servizio esterno. Installa un modello open weight su un computer dello studio: il testo resta in casa, e il costo è quello della macchina, non delle singole richieste.
Gli errori più comuni
- Pensare che gratis da scaricare significhi gratis da usare: servono una macchina adeguata e qualcuno che la mantenga.
- Non leggere la licenza: alcune vietano certi usi o pongono condizioni per le aziende più grandi.
- Aspettarsi le stesse prestazioni dei migliori modelli a pagamento su ogni compito.
Perché ti interessa
Un modello open weight ti dà una cosa che i servizi cloud non danno: il controllo. Il modello non cambia da un giorno all'altro, non sparisce se il produttore lo ritira e non dipende da un listino altrui. Per processi che devono restare stabili nel tempo, o per dati che non vuoi far uscire, è un'opzione da valutare.
Tutte le parole dell'AI spiegate semplici sono nel glossario.
Domande frequenti
I modelli open weight sono meno sicuri?
Non per forza. Il vantaggio è che i dati non escono dall'azienda; lo svantaggio è che la sicurezza della macchina dipende da te.
Che computer serve?
Dipende dalla dimensione del modello. I modelli piccoli girano su un buon computer da ufficio, i grandi richiedono schede grafiche dedicate.
Chi pubblica i modelli open weight?
Grandi aziende tecnologiche, laboratori di ricerca e startup, spesso tramite piattaforme come Hugging Face. Ogni modello ha una scheda con licenza, lingue supportate e limiti dichiarati: è la prima cosa da leggere.
Da leggere dopo
Cos'è l'AI in locale e quando conviene tenerla in casa
Usare l'AI in locale significa far girare il modello su computer o server dell'azienda, invece che usarlo attraverso il servizio cloud di un fornitore, così che i dati restino dentro l'azienda.
Novità che contanoOllama: smistare richieste con l'AI in locale, senza costi
I modelli decisionali non scrivono testi: scelgono un'etichetta e ti dicono quanto sono sicuri. Per smistare mail e ticket è quello che serve.
GlossarioCos'è la distillazione di un modello AI
È il motivo per cui esistono modelli quasi bravi come i migliori, ma molto più economici.
GlossarioCos'è il fine-tuning e quando conviene a una PMI
Il fine-tuning è un addestramento supplementare di un modello già pronto, fatto su esempi tuoi, per fargli imparare uno stile, un formato o un compito specifico.
Vuoi capire cosa serve davvero alla tua azienda, senza gergo? Parliamone.
Testi e grafica realizzati con il supporto dell'AI. Metodo e contenuti sono di AIR.