Cos'è la temperatura di un modello AI e come regolarla

A ogni passo il modello ha diverse parole possibili, alcune molto probabili e altre meno. Con una temperatura bassa sceglie quasi sempre la più probabile; con una alta si concede alternative meno scontate.

Nella chat di solito non la vedi, la decide il prodotto. Si imposta quando usi il modello via API o in strumenti per sviluppatori, e alcuni modelli recenti la gestiscono da sé.

Un esempio in una PMI

Un'azienda usa lo stesso modello per due compiti. Per estrarre i dati dagli ordini imposta una temperatura bassa: vuole sempre lo stesso formato. Per proporre idee di nomi per una nuova linea di prodotti la alza, perché vuole varietà.

Gli errori più comuni

• Usare una temperatura alta per compiti di estrazione dati o classificazione.
• Pensare che la temperatura a zero renda le risposte vere: le rende ripetibili, non corrette.
• Cercare nella temperatura la soluzione a un prompt scritto male.
• Cambiare temperatura e prompt insieme: poi non sai quale delle due modifiche ha migliorato o peggiorato il risultato.

Perché ti interessa

Se un fornitore ti dice che il sistema dà risposte diverse alla stessa domanda, la temperatura è una delle prime cose da guardare, insieme al prompt. Nei processi che alimentano un gestionale o un report la variabilità è un difetto. Nei testi di marketing, invece, un po' di varietà evita che tutti i post sembrino uguali.

Tutte le parole dell'AI spiegate semplici sono nel glossario.