Cos'è un token nell'AI e perché decide quanto paghi

I modelli come GPT, Claude e Gemini non vedono lettere o parole come le vediamo noi. Prima di leggere un testo lo spezzano in token, e quando rispondono producono un token dopo l'altro. Le parole comuni spesso sono un token solo, quelle lunghe o rare vengono divise in più pezzi.

Il token è anche l'unità con cui si paga l'uso via API e con cui si misura quanto testo il modello può tenere a mente in una volta.

Un esempio in una PMI

Un negozio online usa un modello via API per rispondere alle mail dei clienti. Ogni mail letta sono token in ingresso, ogni risposta scritta sono token in uscita, e di solito i token in uscita costano di più. Se le risposte sono lunghe e cortesi oltre il necessario, la bolletta cresce senza che il cliente ne abbia alcun vantaggio. Chiedere al modello risposte brevi è il primo risparmio.

Gli errori più comuni

• Confrontare i prezzi dei modelli guardando solo il costo per token, senza contare quanti token produce ciascuno per lo stesso lavoro.
• Pensare che un token sia una parola: per stimare i costi su testi italiani conviene misurare su esempi veri.
• Dimenticare che anche le istruzioni fisse e i documenti allegati a ogni richiesta si pagano, ogni volta.

Perché ti interessa

Se usi un abbonamento a ChatGPT o Claude per i dipendenti, i token non li vedi. Se invece un fornitore ti vende un chatbot o un'automazione a consumo, il conto è fatto di token: chiedi come li misura e come li tiene bassi.

Tutte le parole dell'AI spiegate semplici sono nel glossario.