Cos'è il rate limit delle API di AI
I fornitori usano i limiti per distribuire la capacità tra i clienti ed evitare abusi. Di solito ci sono limiti sulle richieste al minuto e sui token al minuto, a volte anche al giorno. Crescono con il livello dell'account, che sale man mano che spendi e paghi regolarmente. Anche gli abbonamenti per persone hanno limiti d'uso, solo meno visibili.
Per un'automazione aziendale il rate limit è un vincolo di progetto. Se a fine mese devi elaborare in un colpo tutte le fatture, rischi di sbattere contro il tetto. Le soluzioni sono note: distribuire il lavoro nel tempo, ripetere le richieste rifiutate dopo una pausa crescente, usare l'elaborazione batch per i lavori non urgenti o chiedere un limite più alto.
Un esempio in una PMI
Un'azienda di e-commerce lancia di notte la riscrittura di tutte le schede prodotto. Dopo poco il sistema inizia a ricevere errori e metà delle schede resta vuota. Lorenzo modifica lo script: le richieste partono a ritmo costante, quelle respinte vengono ripetute dopo una pausa, e il lavoro si completa entro la mattina.
Gli errori più comuni
- Non gestire gli errori di limite, perdendo in silenzio parte del lavoro.
- Ripetere subito le richieste rifiutate, peggiorando il blocco.
- Scoprire i limiti del proprio account il giorno del lancio invece che in prova.
Perché ti interessa
Se un fornitore ti costruisce un'automazione con l'AI, chiedigli come gestisce i limiti. È uno dei motivi più comuni per cui un sistema che andava in prova si inceppa con i volumi veri.
Tutte le parole dell'AI spiegate semplici sono nel glossario.
Domande frequenti
Posso aumentare il rate limit?
Sì, di solito salendo di livello con la spesa o chiedendolo al fornitore. Per volumi grandi esistono accordi dedicati.
L'abbonamento a ChatGPT o Claude ha limiti?
Sì, anche gli abbonamenti hanno limiti d'uso, che variano col piano. Sono diversi da quelli delle API.
Da leggere dopo
Cos'è un'API e perché serve per collegare l'AI ai tuoi programmi
Un'API è un'interfaccia che permette a un programma di usare i servizi di un altro in modo automatico, per esempio mandare un testo a un modello di AI e ricevere la risposta senza passare dalla chat.
GlossarioCos'è un token nell'AI e perché decide quanto paghi
Un token è il pezzo di testo con cui un modello linguistico legge e scrive: può essere una parola intera, una parte di parola o un segno di punteggiatura.
GlossarioCos'è l'elaborazione batch (Batch API) nell'AI
L'elaborazione batch è un modo di usare le API dei modelli in cui mandi in un colpo solo un grande gruppo di richieste e ricevi i risultati più tardi, entro una finestra di tempo, invece che subito. In cambio dell'attesa il fornitore applica di solito un prezzo ridotto.
GlossarioCos'è la latenza di un modello AI e perché conta
La latenza è il tempo che passa tra l'invio di una richiesta a un modello AI e l'arrivo della risposta. Di solito si misurano due cose: quanto ci mette ad arrivare la prima parola, e quanto è veloce poi a scrivere il resto. Conta molto nelle conversazioni dal vivo.
Novità che contanoClaude Sonnet 5.5: stesso listino, ma il conto dipende dai token
Il prezzo per token non cambia. Quanto paghi davvero dipende da quanto il modello scrive, e lo decidi tu con il livello di effort.
Vuoi capire cosa serve davvero alla tua azienda, senza gergo? Parliamone.
Testi e grafica realizzati con il supporto dell'AI. Metodo e contenuti sono di AIR.