Cosa sono i parametri di un modello AI
Immagina un mixer audio con un numero enorme di manopole. All'inizio sono girate a caso. L'addestramento le sposta un poco alla volta finché il suono in uscita è quello giusto. Le manopole sono i parametri, e la loro posizione finale è il sapere del modello.
Quando si dice che un modello è grande si intende che ha molti parametri. In genere più parametri vogliono dire più capacità, ma anche più memoria e calcolo per farlo girare. Non è una regola rigida: un modello ben addestrato con meno parametri può battere uno più grosso. Quando un'azienda pubblica i pesi, chiunque può scaricare il modello e usarlo sui propri computer.
Un esempio in una PMI
Francesca deve scegliere tra due modelli aperti per un assistente interno. Il primo ha molti più parametri e risponde meglio, ma richiede una scheda grafica costosa. Il secondo è più piccolo e gira sul server che hanno già. Prova entrambi su venti domande vere dei colleghi e scopre che, per quell'uso, il secondo basta.
Gli errori più comuni
- Scegliere un modello guardando solo il numero di parametri, come se fosse una classifica di qualità.
- Confondere i parametri del modello con le impostazioni che regoli tu, come la temperatura.
- Pensare che i pesi contengano una copia dei documenti di addestramento consultabile come un archivio.
Perché ti interessa
Il numero di parametri ti dice soprattutto quanto ferro serve per far girare un modello. Per sapere se fa bene il tuo lavoro, l'unico metro è una prova sui tuoi casi.
Tutte le parole dell'AI spiegate semplici sono nel glossario.
Domande frequenti
Posso cambiare i parametri di un modello?
Solo riaddestrandolo, per esempio con un fine-tuning. Nell'uso normale i parametri restano fermi e cambi solo il prompt.
I pesi di un modello contengono i miei dati?
Se il modello è stato addestrato anche sui tuoi dati, qualcosa può restarci. Per questo conta sapere se un fornitore usa le tue conversazioni per addestrare.
Da leggere dopo
Cos'è l'addestramento di un modello AI
L'addestramento è la fase in cui un modello di AI impara da una grande quantità di esempi, regolando i propri parametri finché le sue risposte diventano corrette.
GlossarioCos'è un modello open weight e cosa lo distingue
Un modello open weight è un modello di AI i cui pesi, cioè i parametri imparati durante l'addestramento, sono scaricabili, così che chiunque possa farlo girare sui propri computer.
GlossarioCos'è il fine-tuning e quando conviene a una PMI
Il fine-tuning è un addestramento supplementare di un modello già pronto, fatto su esempi tuoi, per fargli imparare uno stile, un formato o un compito specifico.
GlossarioCos'è una rete neurale e perché è dietro ogni AI moderna
Una rete neurale è un modello matematico fatto di tanti piccoli nodi collegati, che durante l'addestramento regolano i propri collegamenti per trasformare un dato in ingresso nel risultato giusto.
GlossarioCos'è la quantizzazione di un modello AI
La quantizzazione è una tecnica che riduce la precisione con cui sono salvati i numeri interni di un modello. Il modello diventa più leggero e più veloce, occupa meno memoria e può girare su computer modesti, in cambio di una piccola perdita di qualità.
Vuoi capire cosa serve davvero alla tua azienda, senza gergo? Parliamone.
Testi e grafica realizzati con il supporto dell'AI. Metodo e contenuti sono di AIR.