Glossario: modelli e costi
Come funziona un modello linguistico dall'interno e cosa decide quanto paghi: token, contesto, ragionamento, fine-tuning e uso via API.
33 pagine, in ordine alfabetico. Tutto il glossario dalla A alla Z
Cos'è l'allineamento dell'AI e perché ti riguarda
L'allineamento è il lavoro per fare in modo che un sistema di AI faccia ciò che le persone intendono davvero, rispettando i limiti stabiliti, e non solo ciò che è scritto alla lettera nelle istruzioni o è stato premiato durante l'addestramento.
Cos'è un benchmark AI e perché non basta per scegliere
Un benchmark è una serie di prove standard, uguali per tutti, con cui si misurano e si confrontano le capacità dei modelli di AI, di solito con punteggi pubblici che finiscono nelle classifiche.
Cos'è la catena di ragionamento (chain of thought)
La catena di ragionamento è la sequenza di passaggi intermedi che un modello scrive prima di dare la risposta finale. Invece di saltare subito alla conclusione, scompone il problema, valuta i pezzi e arriva al risultato, e questo riduce gli errori sui compiti con più passaggi.
Cos'è la distillazione di un modello AI
È il motivo per cui esistono modelli quasi bravi come i migliori, ma molto più economici.
Cos'è un LLM, il modello dietro ChatGPT, Claude e Gemini
Quasi ogni strumento AI che ti propongono ne usa uno. Spesso è lo stesso, rivenduto a prezzi diversi.
Cos'è un LLM, il modello linguistico dietro ChatGPT, Claude e Gemini
Una parola sola spiega perché tanti strumenti AI si somigliano, e perché a volte paghi due volte la stessa cosa.
Cos'è un modello frontier e quando non serve pagarlo
Il modello più potente sul mercato è spesso quello sbagliato per il lavoro di tutti i giorni.
Cos'è un modello frontier, e quando non serve pagarlo
Sono i modelli più potenti sul mercato. Per molti lavori di una PMI sono anche i più sprecati.
Costo per attività di un modello AI: come si calcola
Il costo per attività è quanto spendi davvero per far completare a un modello di AI un compito intero, come rispondere a una mail o leggere una fattura. Dipende dal prezzo per token, ma anche da quanti token il modello legge e produce per arrivare al risultato.
Cos'è il deep learning e perché ha cambiato l'AI
Il deep learning è una forma di machine learning che usa reti neurali con molti strati sovrapposti. Ogni strato trasforma i dati e passa il risultato al successivo, così il sistema impara da solo concetti via via più astratti, dai pixel a un volto, dalle lettere al significato di una frase.
Cos'è l'elaborazione batch (Batch API) nell'AI
L'elaborazione batch è un modo di usare le API dei modelli in cui mandi in un colpo solo un grande gruppo di richieste e ricevi i risultati più tardi, entro una finestra di tempo, invece che subito. In cambio dell'attesa il fornitore applica di solito un prezzo ridotto.
Cosa sono le eval e come si collauda un sistema AI
Le eval sono le prove con cui verifichi che un sistema di AI costruito per te faccia bene il suo lavoro: una raccolta di casi reali con il risultato atteso, da ripetere ogni volta che cambi prompt, modello o documenti.
Cos'è il fine-tuning e quando conviene a una PMI
Il fine-tuning è un addestramento supplementare di un modello già pronto, fatto su esempi tuoi, per fargli imparare uno stile, un formato o un compito specifico.
Cos'è la finestra di contesto di un modello AI
La finestra di contesto è la quantità massima di testo, misurata in token, che un modello può considerare in una volta: istruzioni, conversazione, documenti e risposta insieme.
Cos'è l'inferenza nell'AI e perché decide i costi
L'inferenza è il momento in cui un modello di AI già addestrato viene usato: riceve una richiesta, la elabora e produce una risposta. È la fase che si ripete a ogni domanda e che, nei servizi a consumo, si paga ogni volta.
Cos'è la latenza di un modello AI e perché conta
La latenza è il tempo che passa tra l'invio di una richiesta a un modello AI e l'arrivo della risposta. Di solito si misurano due cose: quanto ci mette ad arrivare la prima parola, e quanto è veloce poi a scrivere il resto. Conta molto nelle conversazioni dal vivo.
Cos'è il livello di effort di un modello AI
Il livello di effort è un'impostazione dei modelli che ragionano prima di rispondere: stabilisce quanto lavoro interno il modello può fare, da poco a molto. Più effort di solito vuol dire risposte migliori sui problemi difficili, ma anche più attesa e più costo.
Cos'è la mixture of experts nei modelli AI
La mixture of experts è un modo di costruire un modello in cui, invece di una sola grande rete usata per intero, ci sono molti sottomodelli, gli esperti, e un selettore che per ogni pezzo di testo ne attiva solo alcuni.
Modello base e modello istruito: che differenza c'è
Un modello base è un modello linguistico appena uscito dal pre-addestramento: sa continuare un testo ma non segue istruzioni. Il modello istruito è la stessa base rifinita con esempi di domande e risposte, per comportarsi da assistente.
Cos'è un modello di ragionamento e quando ne vale la pena
Un modello di ragionamento è un modello di AI che, prima di dare la risposta, produce una serie di passaggi intermedi in cui analizza il problema, e per questo è più bravo nei compiti complessi.
Cos'è un modello fondazionale (foundation model)
Un modello fondazionale è un grande modello di AI addestrato su enormi quantità di dati generici, che poi fa da base comune per molte applicazioni diverse: chatbot, traduzione, analisi di documenti, scrittura di codice, riconoscimento di immagini.
Cos'è un modello multimodale e cosa sa vedere e sentire
Un modello multimodale è un modello di AI che lavora con più tipi di dati insieme, per esempio testo e immagini, oppure testo, audio e video.
Cos'è un modello AI proprietario (chiuso)
Un modello proprietario, o chiuso, è un modello di AI che il produttore non pubblica: lo usi solo attraverso il suo servizio, con un abbonamento o via API, alle condizioni che lui stabilisce. Ne sono esempi i modelli principali dietro ChatGPT, Claude e Gemini.
Cosa sono i parametri di un modello AI
I parametri sono i numeri interni che un modello regola durante l'addestramento e che poi usa per produrre le risposte. I pesi sono la parte principale di questi parametri. Insieme rappresentano tutto quello che il modello ha imparato dai dati.
Cos'è il prompt caching e quanto fa risparmiare
Il prompt caching è una funzione delle API dei modelli che memorizza la parte iniziale di un prompt usata spesso, come istruzioni fisse o un documento lungo, così le richieste successive con lo stesso inizio costano meno e rispondono più in fretta.
Cos'è il rate limit delle API di AI
Il rate limit è il tetto che un fornitore di AI impone a quante richieste o quanti token puoi usare in un certo intervallo di tempo. Superato il limite, le richieste vengono rifiutate o messe in attesa finché la finestra non si libera.
Cos'è il reinforcement learning, spiegato semplice
Il reinforcement learning, o apprendimento per rinforzo, è un modo di addestrare un sistema facendogli fare tentativi in un ambiente: ogni azione riceve un premio o una penalità, e il sistema impara le strategie che portano più premi nel tempo.
Cos'è l'RLHF, l'AI che impara dal giudizio umano
L'RLHF, apprendimento per rinforzo dal feedback umano, è una tecnica per rifinire un modello linguistico: delle persone confrontano più risposte e scelgono le migliori, e il modello viene addestrato a produrre più spesso risposte di quel tipo.
Cos'è il routing tra modelli AI e perché fa risparmiare
Il routing tra modelli è il meccanismo che, per ogni richiesta, sceglie quale modello di AI usare: uno piccolo e veloce per le domande semplici, uno più potente per quelle difficili, oppure un'alternativa quando il fornitore principale non risponde.
Cos'è la temperatura di un modello AI e come regolarla
La temperatura è un'impostazione che regola quanto un modello di AI varia le sue risposte: bassa per risposte prevedibili e ripetibili, alta per risposte più varie e creative.
Cos'è un token nell'AI e perché decide quanto paghi
Un token è il pezzo di testo con cui un modello linguistico legge e scrive: può essere una parola intera, una parte di parola o un segno di punteggiatura.
Cos'è un transformer, il motore dei modelli linguistici
Il transformer è l'architettura di rete neurale su cui si basano quasi tutti i modelli linguistici attuali, da GPT a Claude a Gemini. La sua idea chiave è l'attenzione: ogni parola di un testo viene interpretata guardando tutte le altre.
Cos'è un wrapper AI: app costruite su un modello
Un wrapper AI è un'applicazione costruita sopra un modello di un altro produttore, come GPT, Claude o Gemini: aggiunge un'interfaccia, istruzioni già pronte e magari collegamenti ad altri programmi, ma il lavoro intelligente lo fa il modello sottostante.
