Costo per attività di un modello AI: come si calcola

Redazione AIR
Cos'è il costo per attività di un modello AI e perché conta più del prezzo per token?Il costo per attività è quanto spendi davvero per far completare a un modello di AI un compito intero, come rispondere a una mail o leggere una fattura. Dipende dal prezzo per token, ma anche da quanti token il modello legge e produce per arrivare al risultato.
Lo schema in breve

I listini dei modelli indicano un prezzo per token in ingresso e uno in uscita. Confrontare due modelli solo su quel prezzo inganna. Un modello che costa meno per token ma ragiona a lungo, sbaglia e richiede un secondo tentativo, o scrive risposte prolisse, può costare di più per ogni lavoro finito.

Il conto vero tiene insieme più voci: il testo fisso che mandi a ogni richiesta, i documenti allegati, il ragionamento interno dei modelli che pensano prima di rispondere, la lunghezza della risposta, i tentativi falliti. Tecniche come il prompt caching e l'elaborazione in differita abbassano alcune di queste voci.

Un esempio in una PMI

Un'azienda di traslochi usa un modello per leggere le richieste di preventivo. Ne prova due: il primo costa meno per token, il secondo di più. Misurando su un campione di richieste vere, scopre che il secondo legge meglio, non serve rifare quasi mai il lavoro e produce risposte più corte. Alla fine costa meno per richiesta gestita.

Gli errori più comuni

  • Scegliere il modello guardando solo il listino per token.
  • Dimenticare il costo delle persone che correggono gli errori del modello più economico.
  • Fare la stima su esempi inventati invece che su lavori veri.

Perché ti interessa

Per decidere se un'automazione conviene ti serve un numero solo: quanto costa ogni pratica gestita, comprese le correzioni. È quello da confrontare con il costo del lavoro fatto a mano.

Tutte le parole dell'AI spiegate semplici sono nel glossario.

Domande frequenti

Come misuro il costo per attività?

Fai girare il modello su un campione di casi reali e dividi la spesa registrata dal fornitore per il numero di casi completati bene.

Con un abbonamento questo calcolo serve?

Meno, perché il prezzo è fisso. Serve quando usi i modelli via API o quando un fornitore ti fa pagare a consumo.

Da leggere dopo

Vuoi capire cosa serve davvero alla tua azienda, senza gergo? Parliamone.

Testi e grafica realizzati con il supporto dell'AI. Metodo e contenuti sono di AIR.

Contattaci