Glossario: regole e rischi
Le parole per leggere l'AI Act e gestire i rischi: pratiche vietate, sistemi ad alto rischio, bias, deepfake e l'AI usata di nascosto in azienda.
10 pagine, in ordine alfabetico. Tutto il glossario dalla A alla Z
Cos'è l'AI spiegabile (explainable AI)
L'AI spiegabile è l'insieme di metodi che rendono comprensibile perché un modello ha prodotto un certo risultato: quali dati hanno pesato di più, quali fattori hanno spinto verso una decisione. Serve a fidarsi dei risultati, a trovare errori e a rispondere a chi chiede conto.
Cos'è il bias nell'AI e perché ti riguarda
Il bias di un modello AI è una distorsione sistematica nei suoi risultati, che lo porta a trattare in modo diverso persone o situazioni simili. Nasce quasi sempre dai dati di addestramento, che riflettono squilibri e pregiudizi del passato, o da come il sistema è stato progettato.
Cos'è un deepfake e cosa rischia un'azienda
Un deepfake è un'immagine, un video o un audio generato o modificato con l'AI in modo da far sembrare che una persona reale abbia detto o fatto qualcosa che non ha mai detto o fatto.
Cos'è un modello di AI per finalità generali (GPAI)
Un modello di AI per finalità generali, o GPAI, è per l'AI Act un modello addestrato su grandi quantità di dati e capace di svolgere molti compiti diversi, che può essere integrato in tante applicazioni. I grandi modelli linguistici come GPT, Claude e Gemini sono l'esempio tipico.
Cos'è una policy aziendale sull'AI e cosa scriverci
Una policy aziendale sull'AI è il documento interno che stabilisce quali strumenti di intelligenza artificiale si possono usare, per quali compiti, con quali dati e con quali controlli, e chi ne risponde. È la base della governance dell'AI in un'azienda.
Pratiche di AI vietate: quali sono in breve
Le pratiche di AI vietate sono gli usi che l'AI Act europeo proibisce del tutto, perché considerati incompatibili con i diritti fondamentali: per esempio manipolare le persone, dare punteggi sociali o riconoscere le emozioni di lavoratori e studenti.
Cos'è il riconoscimento facciale e cosa dice la legge
Il riconoscimento facciale è una tecnica di AI che confronta i tratti di un volto in un'immagine con quelli memorizzati per identificare o verificare una persona. Fa parte della biometria, che usa caratteristiche del corpo come dati per riconoscere qualcuno.
Cos'è la shadow AI e perché preoccupa le aziende
La shadow AI è l'uso di strumenti di intelligenza artificiale da parte dei dipendenti senza che l'azienda lo sappia o lo abbia approvato: account personali di ChatGPT, estensioni del browser, app per trascrivere riunioni. Il lavoro si fa, ma i dati escono senza controllo.
Cos'è un sistema di AI ad alto rischio
Un sistema di AI ad alto rischio è, per il regolamento europeo AI Act, un sistema usato in ambiti dove può incidere molto su salute, sicurezza o diritti delle persone, come selezione del personale, istruzione, accesso al credito, infrastrutture critiche, o come componente di sicurezza di prodotti regolati. Per questi valgono gli obblighi più severi.
Cos'è il watermark dei contenuti generati dall'AI
Il watermark dei contenuti AI è un segno, visibile o nascosto, inserito in immagini, video, audio o testi generati da un modello per indicare che sono artificiali. Alcuni sono marchi evidenti, altri sono segnali invisibili all'occhio ma leggibili da un software, o dati allegati al file.
