Cos'è il fine-tuning e quando conviene a una PMI
Un modello generico sa fare tante cose discretamente. Con il fine-tuning gli mostri molti esempi di domanda e risposta corretta nel tuo ambito, e il modello si adatta: scrive come scriveresti tu, usa i tuoi formati, classifica come classificheresti tu.
Il fine-tuning cambia il comportamento del modello, ma è uno strumento poco adatto a fargli "sapere" informazioni che cambiano spesso, come prezzi o disponibilità. Per quelle si usa il RAG.
Un esempio in una PMI
Un'azienda che riceve molte richieste di preventivo vuole che il modello le trasformi sempre nello stesso schema per il gestionale. Con il solo prompt ogni tanto sbaglia formato. Con un fine-tuning su qualche centinaio di richieste già trascritte a mano, l'errore di formato diventa raro e il prompt si accorcia.
Gli errori più comuni
- Partire dal fine-tuning prima di aver provato un buon prompt e il RAG, che spesso bastano.
- Usare esempi pochi, sporchi o incoerenti: il modello impara anche gli errori.
- Dimenticare che ogni nuovo modello del fornitore richiede di rifare il lavoro.
Perché ti interessa
Se un fornitore ti propone di addestrare un modello sui tuoi dati, chiedi cosa vuole ottenere: un formato più stabile, un tono preciso o informazioni aggiornate. Per le prime due il fine-tuning può avere senso, per la terza quasi mai. Chiedi anche chi possiede il modello adattato e cosa succede se cambi fornitore.
Tutte le parole dell'AI spiegate semplici sono nel glossario.
Domande frequenti
Serve il fine-tuning per avere un chatbot sui miei prodotti?
Quasi mai. Per le informazioni sui prodotti si usa il RAG, che si aggiorna quando cambi i documenti.
Quanti esempi servono?
Dipende dal compito e dal fornitore. Conta più la qualità che il numero: esempi coerenti e corretti.
Il modello adattato resta mio?
Dipende dal contratto e dalla piattaforma. Con i servizi cloud di solito resta sui server del fornitore e si usa solo lì; con un modello open weight puoi tenerlo sulle tue macchine.
Da leggere dopo
Cos'è il RAG: l'AI che risponde dai tuoi documenti
Il RAG (Retrieval Augmented Generation) è una tecnica in cui, prima di rispondere, l'AI cerca i passaggi utili nei tuoi documenti e li usa come base per la risposta.
GlossarioCos'è l'addestramento di un modello AI
L'addestramento è la fase in cui un modello di AI impara da una grande quantità di esempi, regolando i propri parametri finché le sue risposte diventano corrette.
GlossarioCos'è un modello open weight e cosa lo distingue
Un modello open weight è un modello di AI i cui pesi, cioè i parametri imparati durante l'addestramento, sono scaricabili, così che chiunque possa farlo girare sui propri computer.
GlossarioCos'è la distillazione di un modello AI
È il motivo per cui esistono modelli quasi bravi come i migliori, ma molto più economici.
Vuoi capire cosa serve davvero alla tua azienda, senza gergo? Parliamone.
Testi e grafica realizzati con il supporto dell'AI. Metodo e contenuti sono di AIR.