Cos'è il RAG: l'AI che risponde dai tuoi documenti

Redazione AIR
Cos'è il RAG (Retrieval Augmented Generation)?Il RAG (Retrieval Augmented Generation) è una tecnica in cui, prima di rispondere, l'AI cerca i passaggi utili nei tuoi documenti e li usa come base per la risposta.
Video con sottotitoli: Cos'è il RAG: l'AI che risponde dai tuoi documenti

Video realizzato con il supporto dell'AI. Metodo e contenuti sono di AIR.

Lo schema in breve

Un modello linguistico sa molte cose in generale, ma non conosce i tuoi listini, i tuoi manuali o le tue procedure. Con il RAG il sistema fa due passi. Prima cerca nei tuoi documenti i pezzi più pertinenti alla domanda. Poi li passa al modello insieme alla domanda, chiedendogli di rispondere da lì.

È il modo più comune per costruire un assistente che conosce l'azienda senza addestrare un modello nuovo. Quando aggiorni un documento, basta reindicizzarlo e le risposte seguono la versione nuova.

Un esempio in una PMI

Un'azienda che vende ricambi industriali ha centinaia di schede tecniche in PDF. Con il RAG il commerciale scrive "quale guarnizione va sul modello X a temperature alte?" e riceve la risposta con il rimando alla scheda da cui viene. Prima la stessa ricerca richiedeva di aprire diversi PDF o di chiamare l'ufficio tecnico.

Gli errori più comuni

  • Caricare documenti vecchi o contraddittori: il sistema risponde da quello che trova, anche se è superato.
  • Pensare che basti caricare i file: come si dividono e si indicizzano i documenti decide la qualità delle risposte.
  • Non mostrare la fonte della risposta: senza il rimando nessuno può controllare.

Tutte le parole dell'AI spiegate semplici sono nel glossario.

Domande frequenti

Il RAG è meglio del fine-tuning?

Per far conoscere al modello informazioni aziendali che cambiano, quasi sempre sì: è più economico e si aggiorna subito. Il fine-tuning serve di più a cambiare stile o comportamento.

I miei documenti finiscono nell'addestramento del modello?

Con il RAG i documenti vengono letti al momento della domanda, non usati per addestrare il modello. Cosa il fornitore può conservare o usare lo stabilisce il suo contratto: va letto prima di caricare i file.

Da leggere dopo

Vuoi capire cosa serve davvero alla tua azienda, senza gergo? Parliamone.

Testi, grafica e video realizzati con il supporto dell'AI. Metodo e contenuti sono di AIR.

Contattaci