Cos'è l'AI spiegabile (explainable AI)

Molti modelli moderni sono scatole nere: danno una risposta ma non dicono come ci sono arrivati. Per suggerire un titolo per un post va bene. Per negare un fido a un cliente o scartare un candidato no: la persona coinvolta ha diritto di capire, e chi decide deve poter verificare.

Le tecniche variano. Con i modelli semplici, come alberi di decisione, la logica si legge direttamente. Con quelli complessi si usano metodi che stimano quanto ogni fattore ha contato in un singolo caso. Per i modelli linguistici si chiede di citare le fonti o i passaggi su cui si basa la risposta. Nessun metodo è perfetto, ma tutti aiutano a scoprire quando il modello guarda le cose sbagliate.

Un esempio in una PMI

Una finanziaria regionale usa un modello che suggerisce se approvare piccoli prestiti alle imprese. Per ogni pratica, accanto al punteggio, il sistema mostra i tre fattori che hanno pesato di più. Un giorno Marco nota che conta molto il comune di sede: il modello aveva imparato una scorciatoia ingiusta. La correggono.

Gli errori più comuni

• Usare un modello opaco per decisioni che riguardano persone, senza poter spiegare l'esito.
• Prendere la spiegazione prodotta dal modello come verità assoluta, senza verificarla.
• Scegliere sempre il modello più complesso quando uno semplice e leggibile funziona quasi uguale.

Perché ti interessa

Se un cliente o un dipendente contesta una decisione presa con l'aiuto dell'AI, devi saper dire perché. Chiedilo al fornitore prima di adottare lo strumento.

Tutte le parole dell'AI spiegate semplici sono nel glossario.