Cosa sono i guardrail di un agente AI

I guardrail di un agente AI sono i limiti che stabiliscono cosa può fare, con quali permessi e quando deve fermarsi a chiedere a una persona.

Un agente AI non si limita a rispondere: usa programmi, legge e scrive dati, manda messaggi. Più cose può fare, più danni può fare quando sbaglia.

Il rischio che i guardrail coprono

OWASP, l'organizzazione che cataloga le vulnerabilità del software, chiama questo rischio "agenzia eccessiva" e lo scompone in tre: troppe funzioni, troppi permessi, troppa autonomia ¹.

C'è poi un rischio più subdolo, la prompt injection: istruzioni nascoste dentro un testo che l'agente legge, come una mail o una pagina web, che provano a fargli fare altro ². Un agente che legge la posta in arrivo legge anche le mail scritte da chi vuole ingannarlo.

I guardrail che contano per un'azienda

Seguono le raccomandazioni di OWASP ¹:

• Solo gli strumenti necessari. Se l'agente prepara preventivi, non gli serve l'accesso alla posta di tutti.
• Il permesso più basso possibile. Leggere il gestionale non vuol dire poterlo modificare.
• Una persona approva le azioni ad alto impatto: pagamenti, invii ai clienti, cancellazioni.
• Le azioni restano registrate, così si può ricostruire cosa è successo.

Le domande da fare al fornitore

Prima di firmare, chiedi per iscritto: a quali sistemi accede l'agente e con quali permessi? Quali azioni fa da solo e quali mi chiede di approvare? Dove vedo cosa ha fatto ieri? Come si spegne?

Se le risposte sono vaghe, il guardrail non c'è.