Cos'è il few-shot prompting: insegnare con esempi

Descrivere a parole cosa vuoi è difficile: tono, lunghezza, campi, eccezioni. Mostrarlo è più semplice. Se nel prompt metti qualche coppia "domanda e risposta giusta", il modello coglie il modello implicito e lo applica. Quando non dai esempi si parla di zero-shot.

Gli esempi pesano più delle istruzioni. Se sono tutti simili, il modello li copierà troppo da vicino. Se ne contengono uno sbagliato, imparerà anche l'errore. Conviene sceglierli vari, corretti e rappresentativi dei casi difficili, non solo di quelli facili.

Un esempio in una PMI

Un negozio di articoli sportivi deve etichettare le recensioni come lodi, lamentele sul prodotto o lamentele sulla consegna. Con la sola istruzione il modello confonde le ultime due categorie. Silvia aggiunge al prompt sei recensioni già etichettate, tra cui due ambigue risolte bene. Da lì gli errori calano molto.

Gli errori più comuni

• Usare esempi tutti uguali, così il modello risponde sempre nello stesso modo anche quando non dovrebbe.
• Inserire esempi con dati personali veri dei clienti dentro prompt condivisi.
• Mettere troppi esempi lunghi, che occupano contesto e fanno salire i costi.

Perché ti interessa

È la tecnica di prompt con il miglior rapporto tra fatica e risultato. Prima di pensare a un fine-tuning, prova qualche buon esempio nel prompt.

Tutte le parole dell'AI spiegate semplici sono nel glossario.