AI in cloud o in locale: cosa conviene a una PMI

Luca è titolare di uno studio di consulenza del lavoro. Ogni giorno passano dalle sue mani buste paga, contratti e certificati medici. L'AI gli farebbe risparmiare molto tempo, ma l'idea di mandare quei documenti a un server esterno non lo convince. Qualcuno gli ha detto che si può tenere tutto in casa. È vero, con alcune condizioni. Questa pagina mette a confronto le due strade guardando quattro cose: dove vanno i dati, quanto costa, cosa sa fare il modello, chi deve occuparsene.

Dove vanno i dati

In cloud il testo parte dal tuo computer e arriva ai server del fornitore. Con i piani aziendali e le API le regole sono favorevoli: OpenAI dichiara che i dati delle API non servono all'addestramento salvo tua scelta, ma conserva i registri per il controllo degli abusi fino a 30 giorni ¹. Google dichiara che i contenuti dei clienti Workspace non addestrano i modelli senza permesso ³. Restano comunque dati affidati a un terzo, con un accordo sul trattamento da firmare.

In locale il testo non lascia l'azienda: il modello legge e risponde sulla tua macchina. Per i dati sanitari o del personale, come quelli di Luca, è un argomento forte.

Quanto costa

Il cloud si paga a canone o a consumo: parti subito, e la spesa cresce con l'uso. Il locale ha un costo iniziale, la macchina, e poi nessun costo per richiesta: Ollama, un programma gratuito per far girare i modelli sul proprio computer, lo dichiara espressamente ². Per compiti ad alto volume, come smistare tutte le mail in arrivo, il locale può diventare conveniente proprio perché il costo non sale con il numero di messaggi.

C'è però una voce che si dimentica: il tempo di chi installa, collega e aggiorna. In cloud lo fa il fornitore, in locale lo fai tu o qualcuno che paghi.

Cosa sa fare il modello

I modelli più potenti si usano solo in cloud. In locale girano modelli più piccoli, che vanno benissimo per compiti precisi: classificare un documento, estrarre dei campi, rispondere sì o no. Ollama per esempio supporta dalla versione 0.35 i modelli decisionali, che non scrivono testi ma scelgono un'etichetta e dicono quanto sono sicuri ⁴. Per scrivere un parere articolato o ragionare su un fascicolo intero, il cloud resta in vantaggio.

Una soluzione mista

Molte PMI non scelgono una sola strada. Mettono in locale il primo passaggio sui dati sensibili, per esempio riconoscere il tipo di documento o togliere i nomi, e mandano al cloud solo quello che non contiene dati personali. Oppure usano il cloud per il lavoro d'ufficio generico e il locale per un solo processo delicato. Prima di comprare hardware, prova il modello locale sulla macchina che useresti davvero: le prestazioni dichiarate vengono spesso da computer di fascia alta.

Per lo studio di Luca un percorso ragionevole è questo: un mese di prova in cloud con un piano aziendale, solo su documenti senza dati personali, per capire quali compiti fanno davvero risparmiare tempo. Poi, per il compito più ripetitivo che tocca dati delicati, una prova in locale con un modello piccolo, misurando quante volte sbaglia rispetto a una persona.

Il verdetto

Per la maggior parte delle PMI il cloud con un piano aziendale è il punto di partenza: si accende in fretta e i fornitori principali escludono i dati dall'addestramento. Il locale diventa la scelta giusta quando tratti dati molto delicati, hai compiti ripetitivi ad alto volume o vuoi un costo che non cresce con l'uso. Lo studio di Luca, per esempio, può usare entrambi, ognuno per il suo pezzo di lavoro.

Altri confronti sono in Confronti e strumenti.