Approfondimento editoriale · fonti ufficiali (ENISA, NIST)medium
Shadow AI: il rischio non è l'intelligenza artificiale, è quella che usi di nascosto
Ogni volta che un dipendente incolla un documento riservato, un pezzo di codice o dati di clienti in un chatbot pubblico per fare prima, l'azienda ha un problema che non vede: la Shadow AI, l'uso di strumenti di intelligenza artificiale fuori dal controllo dell'IT. È l'evoluzione dello Shadow IT, e la reazione istintiva — vietare tutto — è quasi sempre quella sbagliata. Un approfondimento su cosa rischia davvero chi usa l'IA di nascosto, su cosa suggeriscono i quadri ufficiali come il NIST AI Risk Management Framework, e su perché la risposta è culturale e di governance prima che tecnica.
Il gesto invisibile
C'è un gesto che accade decine di volte al giorno in un'azienda qualunque e che nessun firewall registra: un dipendente, per fare prima, incolla in un chatbot pubblico un contratto, il verbale di una riunione, un elenco di clienti, un frammento di codice sorgente. Non c'è cattiva intenzione, c'è una scadenza. Ma in quel gesto un dato che doveva restare dentro il perimetro esce, e finisce su un servizio che l'azienda non controlla, non ha valutato, spesso non sa nemmeno che esiste. È la Shadow AI: l'uso di strumenti di intelligenza artificiale al di fuori della conoscenza e del controllo dell'IT. È la versione aggiornata di un fenomeno vecchio — lo Shadow IT, le app e i servizi che i dipendenti adottano da soli — con una differenza che pesa: l'IA generativa invita a darle proprio i dati che non dovrebbe vedere.
Cosa si rischia davvero
Il rischio più immediato è la fuoriuscita di dati. Ciò che viene inserito in un servizio di IA pubblico può essere conservato, trattato, in alcuni casi usato per addestrare i modelli: informazioni riservate, dati personali, proprietà intellettuale possono lasciare l'organizzazione senza che nessuno se ne accorga.
- 01Dati riservati in un servizio pubblicoconservati o riutilizzati fuori dal controllo aziendale
- 02Dati personali senza base giuridicapossibile violazione del GDPR se finiscono a terzi
- 03Output errati presi per buonile allucinazioni entrano in decisioni reali
Ma non è solo una questione di dati che escono. C'è un rischio di conformità: se tra quei dati ci sono informazioni personali, darle a un fornitore terzo — magari fuori dall'UE — senza una base giuridica e senza garanzie può configurare una violazione del GDPR. C'è un rischio di qualità: i modelli generativi possono produrre risposte sbagliate ma plausibili — le cosiddette allucinazioni — e se un output non verificato entra in una decisione aziendale, l'errore si propaga. E c'è la superficie d'attacco che ogni strumento non censito aggiunge, dai plugin di terze parti alla prompt injection.
Perché vietare non funziona
La reazione istintiva, davanti a tutto questo, è il divieto: "l'IA è proibita". È la stessa reazione che il fattore umano riceve da sempre — dare la colpa a chi ha cliccato — ed è altrettanto inefficace. Il divieto non elimina la Shadow AI: la spinge più a fondo nell'ombra. Le persone usano questi strumenti perché funzionano, perché fanno risparmiare tempo; togliere lo strumento senza offrire un'alternativa significa solo far usare lo stesso strumento di nascosto, con più attenzione a non farsi scoprire che a proteggere i dati.
La strada che i quadri ufficiali indicano è l'opposta: governare invece di proibire. Il NIST AI Risk Management Framework (AI 100-1) organizza la gestione del rischio dell'IA attorno a quattro funzioni — Govern, Map, Measure, Manage — che partono tutte dallo stesso presupposto: non si gestisce ciò che non si conosce. Prima si mappa quali strumenti di IA vengono usati e per cosa, poi si valutano i rischi, poi si mettono misure. L'ENISA, nei suoi rapporti sul panorama delle minacce, colloca l'IA sia tra gli strumenti degli attaccanti sia tra le superfici da proteggere: il problema non è la tecnologia in sé, è l'uso non governato.
La cultura prima dello strumento
Tradotto in pratica, affrontare la Shadow AI significa tre cose, in quest'ordine. Offrire un'alternativa sicura: strumenti di IA approvati, dove i dati aziendali non finiscono in un modello pubblico. Dare regole chiare: una classificazione dei dati che dica cosa si può inserire e cosa no, in linguaggio comprensibile, non un regolamento di trenta pagine che nessuno legge. E rendere possibile chiedere: un canale in cui un dipendente può domandare "posso usare questo strumento per questo compito?" senza sentirsi in colpa, così che l'uso emerga alla luce invece di nascondersi.
È un approfondimento, non l'attacco del giorno; ma è esattamente il tipo di rischio che decide se le difese tecniche reggono. La lezione è la stessa del fattore umano: le persone non sono l'anello debole da sgridare, sono un sistema da progettare. Se l'unico modo per fare bene il proprio lavoro è aggirare le regole, le regole sono sbagliate. I riferimenti che contano — il framework del NIST e i rapporti dell'ENISA — sono verificabili alle fonti ufficiali in testa alla pagina.
