Cos'è il bias nell'AI e perché ti riguarda

Un modello impara da ciò che vede. Se per anni un'azienda ha assunto soprattutto uomini in un ruolo, un modello addestrato sulle sue assunzioni passate tenderà a preferire candidati uomini, anche senza che nessuno glielo chieda. Non è cattiveria: è statistica applicata a dati sbilanciati.

Il bias non riguarda solo genere e origine. Un modello linguistico può scrivere meglio in inglese che in italiano, un sistema di visione può riconoscere peggio i prodotti fotografati con una certa luce. Nelle decisioni che toccano persone, come selezione, credito o prezzi, il bias diventa anche un rischio legale: l'AI Act chiede controlli sui dati proprio per i sistemi più delicati.

Un esempio in una PMI

Un'agenzia per il lavoro prova uno strumento che ordina i curriculum. Silvio nota che i candidati con lunghi periodi di pausa finiscono sempre in fondo, anche se qualificati: spesso sono donne rientrate dopo la maternità. Decide di togliere quel criterio e di far rivedere a una persona ogni lista prima di contattare i candidati.

Gli errori più comuni

• Pensare che una decisione presa da un algoritmo sia neutrale per definizione.
• Usare strumenti di selezione del personale senza chiedere al fornitore come ha verificato i pregiudizi.
• Controllare il bias una volta sola, invece di monitorare i risultati nel tempo.

Perché ti interessa

Se usi l'AI per scegliere persone, clienti o prezzi, un risultato distorto può costarti reputazione e contestazioni. Conviene chiedere prove, non promesse.

Tutte le parole dell'AI spiegate semplici sono nel glossario.