Cosa sono le allucinazioni dell'AI e come ridurle

Un modello linguistico non consulta un archivio di fatti: genera il testo più plausibile in base a ciò che ha imparato. Quando non sa una cosa, spesso non dice "non lo so", ma completa con qualcosa che suona giusto. Un prezzo, una data, il titolo di una sentenza, il nome di un referente.

Le allucinazioni non si eliminano del tutto, ma si riducono molto dando al modello le fonti da cui rispondere, chiedendogli di citarle e dicendogli esplicitamente che può rispondere "non lo so".

Un esempio in una PMI

Un commercialista chiede a un chatbot generico la scadenza di un adempimento e riceve una data precisa, con tanto di riferimento normativo. Il riferimento non esiste. Lo stesso modello, collegato ai documenti dello studio e istruito a rispondere solo da quelli, dice invece che l'informazione non è nei documenti. Meno brillante, molto più utile.

Gli errori più comuni

• Fidarsi di un dato perché è scritto con sicurezza: il tono non dice nulla sulla verità.
• Usare l'AI come motore di ricerca per fatti puntuali senza controllare la fonte.
• Pensare che il modello più nuovo non sbagli: sbaglia meno, ma sbaglia.

Perché ti interessa

Per un'azienda il rischio non è la risposta sbagliata in sé, ma la risposta sbagliata che arriva al cliente. Ogni processo con l'AI ha bisogno di un punto in cui i dati importanti vengono controllati.

Tutte le parole dell'AI spiegate semplici sono nel glossario.