Neural Network Header - Blog

Cosa cambia davvero per chi usa l’intelligenza artificiale al lavoro ? Il pericolo della SHADOW AI > AI ACT

Hai mai copiato un documento aziendale dentro ChatGPT per fartelo riassumere?

Hai fatto riscrivere una mail a Gemini?
Hai caricato un PDF su Claude?
Hai chiesto a Copilot di prepararti una presentazione?
Hai usato un’AI per analizzare curriculum, clienti o documenti interni?

Se ad almeno una di queste domande hai risposto sì, continua a leggere.


Prima di tutto: che cos’è la Shadow AI?

Partiamo da una cosa molto semplice.

La Shadow AI non è un nuovo tipo di intelligenza artificiale.

È semplicemente l’uso di strumenti AI all’interno di un’organizzazione senza che l’organizzazione sappia realmente che vengono utilizzati, da chi, per fare cosa e soprattutto con quali dati.

A casa tua, naturalmente, puoi utilizzare ChatGPT, Gemini o Claude come preferisci.

Il problema nasce quando lo fai nell’ambito del tuo lavoro utilizzando informazioni dell’azienda, dei clienti, dei colleghi o di altre persone.

ATTENZIONE:
Shadow AI non significa automaticamente “multa”. Se un dipendente utilizza ChatGPT senza autorizzazione, l’azienda non viene automaticamente sanzionata.Il problema è come viene utilizzata l’AI, quali dati vengono inseriti e quali decisioni vengono prese utilizzando le sue risposte.

E allora chi stabilisce le regole?

Qui entra in gioco l’AI Act.

È il regolamento europeo sull’intelligenza artificiale, approvato nel 2024 ed entrato in vigore il 1° agosto 2024, con un’applicazione progressiva delle varie regole negli anni successivi.

Non riguarda soltanto chi costruisce sistemi di intelligenza artificiale.

Può interessare anche:

  • aziende;
  • pubbliche amministrazioni;
  • scuole e università;
  • ospedali e strutture sanitarie;
  • banche e assicurazioni;
  • organizzazioni che utilizzano sistemi AI;
  • anche soggetti extra-UE quando operano sul mercato europeo.

Come funziona l’AI Act?

Clicca sull’immagine per ingrandire

Più l’intelligenza artificiale può incidere sulla vita e sui diritti delle persone, più aumentano le regole.

Per capire meglio di cosa stiamo parlando, guardiamo questa tabella.

LIVELLO COSA SIGNIFICA ESEMPIO
🟢 RISCHIO MINIMO AI utilizzata per attività ordinarie Correggere un testo, filtro antispam, funzioni di produttività
🟡 TRASPARENZA In alcuni casi bisogna chiarire che dietro c’è un’AI o che un contenuto è artificiale Chatbot, deepfake, alcuni contenuti sintetici
🟠 ALTO RISCHIO L’AI può incidere seriamente sui diritti o sulle opportunità di una persona Selezione del personale, istruzione, biometria, alcuni servizi essenziali
🔴 VIETATO Determinati utilizzi sono considerati incompatibili con i diritti fondamentali Alcune forme di manipolazione, sfruttamento delle vulnerabilità, social scoring

Quanto si rischia?

L’AI Act prevede sanzioni diverse in base alla violazione.

VIOLAZIONE SANZIONE MASSIMA
🔴 Pratiche AI vietate Fino a 35 milioni di euro o 7% del fatturato mondiale annuo
🟠 Violazione di altri obblighi previsti dall’AI Act Fino a 15 milioni di euro o 3%
🟡 Informazioni inesatte o incomplete fornite alle autorità Fino a 7,5 milioni di euro o 1%

Naturalmente non significa che qualsiasi errore produca automaticamente una sanzione milionaria. Vengono considerate la gravità della violazione, la durata, le conseguenze, le dimensioni dell’organizzazione e altre circostanze.

Ma chi può far emergere il problema?

Questa è forse la parte che viene sottovalutata di più. Non bisogna immaginare soltanto un ispettore che un giorno bussa alla porta dell’azienda. Una situazione può emergere anche attraverso una segnalazione o un reclamo.

Per esempio da:

  • un dipendente;
  • un ex dipendente;
  • un cliente;
  • un candidato escluso da una selezione;
  • un concorrente;
  • un’associazione;
  • un altro soggetto che ritenga violato il regolamento.

Ed è qui che la Shadow AI diventa pericolosa.

Non perché esista una “multa per Shadow AI”, ma perché l’azienda potrebbe scoprire soltanto dopo una segnalazione che un sistema AI veniva utilizzato in un modo che non aveva mai autorizzato, controllato o addirittura conosciuto.

Chi controlla in Italia?

In Italia il sistema nazionale coinvolge principalmente:

ACN – Agenzia per la Cybersicurezza Nazionale
con funzioni di vigilanza del mercato e poteri ispettivi e sanzionatori.

AgID – Agenzia per l’Italia Digitale
con funzioni nell’ambito della governance e della conformità.

Quando vengono coinvolti dati personali può naturalmente entrare in gioco anche il Garante per la protezione dei dati personali.

Conclusione facile facile.

A casa fai come ti pare ma in azienda è meglio stare attenti. Per altro non dimentichiamoci che molte di queste Ai possono essere installate sui nostri computer ed eseguire tutta una serie di azioni senza che tocchiamo ne tastiera e ne mouse. Agenti capaci di una efficienza incredibile. Ma occhio comodo non vuol dire quasi sempre sicuro…Anzi!!

 

Ti è piaciuto questo articolo? CONDIVIDILO

Facebook
WhatsApp
articolo

ALTRI CONTENUTI

Chi sono — Marco Mirra

Il mio percorso tra informatica per la ricerca, intelligenza artificiale e sonificazione. Progetti artistici, libri, formazione, interviste, video e pubblicazioni scientifiche.

Read More »
E se il gruppo 17 ottobre fosse un’AI?

Le immagini degli scontri di Milano, con le vetrine infrante e la presenza di giovanissimi in piazza, hanno riportato l’attenzione sulle chat (per la precisione Telegram che ga come suo punto di forza la possibilità, salvo indagini autorizzate a mantenere

Read More »