Hai mai copiato un documento aziendale dentro ChatGPT per fartelo riassumere?
Hai fatto riscrivere una mail a Gemini?
Hai caricato un PDF su Claude?
Hai chiesto a Copilot di prepararti una presentazione?
Hai usato un’AI per analizzare curriculum, clienti o documenti interni?
Se ad almeno una di queste domande hai risposto sì, continua a leggere.
Prima di tutto: che cos’è la Shadow AI?
Partiamo da una cosa molto semplice.
La Shadow AI non è un nuovo tipo di intelligenza artificiale.
È semplicemente l’uso di strumenti AI all’interno di un’organizzazione senza che l’organizzazione sappia realmente che vengono utilizzati, da chi, per fare cosa e soprattutto con quali dati.
A casa tua, naturalmente, puoi utilizzare ChatGPT, Gemini o Claude come preferisci.
Il problema nasce quando lo fai nell’ambito del tuo lavoro utilizzando informazioni dell’azienda, dei clienti, dei colleghi o di altre persone.
Shadow AI non significa automaticamente “multa”. Se un dipendente utilizza ChatGPT senza autorizzazione, l’azienda non viene automaticamente sanzionata.Il problema è come viene utilizzata l’AI, quali dati vengono inseriti e quali decisioni vengono prese utilizzando le sue risposte.
E allora chi stabilisce le regole?
Qui entra in gioco l’AI Act.
È il regolamento europeo sull’intelligenza artificiale, approvato nel 2024 ed entrato in vigore il 1° agosto 2024, con un’applicazione progressiva delle varie regole negli anni successivi.
Non riguarda soltanto chi costruisce sistemi di intelligenza artificiale.
Può interessare anche:
- aziende;
- pubbliche amministrazioni;
- scuole e università;
- ospedali e strutture sanitarie;
- banche e assicurazioni;
- organizzazioni che utilizzano sistemi AI;
- anche soggetti extra-UE quando operano sul mercato europeo.
Come funziona l’AI Act?
Clicca sull’immagine per ingrandire
Per capire meglio di cosa stiamo parlando, guardiamo questa tabella.
| LIVELLO | COSA SIGNIFICA | ESEMPIO |
|---|---|---|
| 🟢 RISCHIO MINIMO | AI utilizzata per attività ordinarie | Correggere un testo, filtro antispam, funzioni di produttività |
| 🟡 TRASPARENZA | In alcuni casi bisogna chiarire che dietro c’è un’AI o che un contenuto è artificiale | Chatbot, deepfake, alcuni contenuti sintetici |
| 🟠 ALTO RISCHIO | L’AI può incidere seriamente sui diritti o sulle opportunità di una persona | Selezione del personale, istruzione, biometria, alcuni servizi essenziali |
| 🔴 VIETATO | Determinati utilizzi sono considerati incompatibili con i diritti fondamentali | Alcune forme di manipolazione, sfruttamento delle vulnerabilità, social scoring |
Quanto si rischia?
L’AI Act prevede sanzioni diverse in base alla violazione.
| VIOLAZIONE | SANZIONE MASSIMA |
|---|---|
| 🔴 Pratiche AI vietate | Fino a 35 milioni di euro o 7% del fatturato mondiale annuo |
| 🟠 Violazione di altri obblighi previsti dall’AI Act | Fino a 15 milioni di euro o 3% |
| 🟡 Informazioni inesatte o incomplete fornite alle autorità | Fino a 7,5 milioni di euro o 1% |
Naturalmente non significa che qualsiasi errore produca automaticamente una sanzione milionaria. Vengono considerate la gravità della violazione, la durata, le conseguenze, le dimensioni dell’organizzazione e altre circostanze.
Ma chi può far emergere il problema?
Questa è forse la parte che viene sottovalutata di più. Non bisogna immaginare soltanto un ispettore che un giorno bussa alla porta dell’azienda. Una situazione può emergere anche attraverso una segnalazione o un reclamo.
Per esempio da:
- un dipendente;
- un ex dipendente;
- un cliente;
- un candidato escluso da una selezione;
- un concorrente;
- un’associazione;
- un altro soggetto che ritenga violato il regolamento.
Ed è qui che la Shadow AI diventa pericolosa.
Non perché esista una “multa per Shadow AI”, ma perché l’azienda potrebbe scoprire soltanto dopo una segnalazione che un sistema AI veniva utilizzato in un modo che non aveva mai autorizzato, controllato o addirittura conosciuto.
Chi controlla in Italia?
In Italia il sistema nazionale coinvolge principalmente:
ACN – Agenzia per la Cybersicurezza Nazionale
con funzioni di vigilanza del mercato e poteri ispettivi e sanzionatori.
AgID – Agenzia per l’Italia Digitale
con funzioni nell’ambito della governance e della conformità.
Quando vengono coinvolti dati personali può naturalmente entrare in gioco anche il Garante per la protezione dei dati personali.
Conclusione facile facile.
A casa fai come ti pare ma in azienda è meglio stare attenti. Per altro non dimentichiamoci che molte di queste Ai possono essere installate sui nostri computer ed eseguire tutta una serie di azioni senza che tocchiamo ne tastiera e ne mouse. Agenti capaci di una efficienza incredibile. Ma occhio comodo non vuol dire quasi sempre sicuro…Anzi!!



