Neural Network Header - Blog

E se il gruppo 17 ottobre fosse un’AI?

Le immagini degli scontri di Milano, con le vetrine infrante e la presenza di giovanissimi in piazza, hanno riportato l’attenzione sulle chat (per la precisione Telegram che ga come suo punto di forza la possibilità, salvo indagini autorizzate a mantenere segreto il nome e il numero del cellulare di chi si è registrato) attraverso cui circolano gli inviti, le informazioni e i racconti delle proteste. Il Movimento 17 ottobre si è attribuito un ruolo in quegli eventi. Da qui nasce la domanda iniziale: non abbiamo prove che il movimento sia stato gestito da un’intelligenza artificiale, ma il caso offre uno spunto per capire una dinamica che, oggi, riguarda qualunque comunità online.
Oggi una persona può affidare a un agente di intelligenza artificiale la gestione operativa di un gruppo Telegram. Gli assegna uno scopo, gli dà gli strumenti e i permessi necessari e lo avvia. Da quel momento il sistema può leggere i messaggi, rispondere, pubblicare contenuti e applicare le regole di moderazione. Può scegliere come intervenire mentre la conversazione evolve, senza aspettare una conferma umana per ogni singola azione.

Questo è il passaggio cruciale da comprendere: chi ha predisposto il sistema può anche allontanarsi dallo schermo. L’attività andrà avanti da sola.
Per molte comunità questo automatismo sarebbe un aiuto prezioso. Pensiamo a un gruppo di assistenza, a un’associazione che riceve sempre le stesse domande o a un’organizzazione che deve tenere aggiornati i propri iscritti. È ragionevole che una parte del lavoro venga affidata a un assistente automatico, purché il suo ruolo sia trasparente. Il problema nasce quando la fiducia viene ottenuta attraverso un inganno.
I normali bot di Telegram hanno un’etichetta riconoscibile; la sola presenza di un testo scritto bene, invece, non ci dice chi lo abbia prodotto.
Qui entra in gioco l’ingegneria sociale. Forse non tutti ne conoscono il significato ed è bene prima di continuare di capire bene cosè questa tecnica. Partiamo dal presupposto chè un forma  di manipolazione psicologica che sfrutta il comportamento umano, la fiducia, la curiosità o la paura per indurre le persone a rivelare informazioni sensibili, consegnare dati personali o compiere azioni che compromettono la sicurezza. Questo normalmente serve per poi assestare un  attacco cyber classico per colpire la singola persona per rubarle la password. L’ingegneria sociale di massa punta a indirizzare il pensiero, l’opinione pubblica o il comportamento di milioni di persone sfruttando i medesimi bias cognitivi (le “scorciatoie” mentali del cervello umano). Qualcuno si guadagna la nostra fiducia e la usa per indurci a fare qualcosa che altrimenti avremmo valutato diversamente. Immaginiamo di esprimere un dubbio in una chat e di trovare molte persone apparentemente d’accordo nel rassicurarci. È facile pensare che sappiano qualcosa più di noi. Se quelle decine di risposte avessero un’origine comune e nascosta, però, staremmo attribuendo il peso di tante opinioni indipendenti a interventi che indipendenti non sono. L’IA diventerebbe così uno strumento per creare finto consenso e manipolare la conversazione.
Quando in queste chat ci sono ragazzi molto giovani, la questione ci riguarda ancora più da vicino. Sentirsi accolti e riconosciuti ha un valore enorme, e l’approvazione ricevuta sul telefono può accompagnare e influenzare una scelta anche fuori dalla chat, nelle piazze reali. Per questo dovremmo aiutarli a chiedersi da dove arriva un’informazione e a sentirsi liberi di dubitare, senza trattarli come incapaci di pensare.
Resta infine un aspetto meno visibile: quello delle indagini. Come sottolineano anche i ricercatori del NIST (l’istituto federale statunitense per gli standard tecnologici), se una parte dell’attività viene svolta da un agente autonomo, leggere i messaggi pubblicati non basta più per ricostruire l’accaduto. Diventa fondamentale capire quale obiettivo iniziale fosse stato assegnato al sistema dall’essere umano. L’IA aggiunge uno strato di complessità alla ricostruzione giudiziaria: le prove non spariscono, ma bisogna risalire anche alla “delega” operativa del software.
Non possiamo concludere che dietro gli scontri di Milano ci sia un’IA. La vera domanda generale, però, rimane: siamo preparati a riconoscere e abitare una comunità in cui una parte delle interazioni è affidata a un software?
Oggi possiamo sentire vicina una persona che non abbiamo mai incontrato. Possiamo dare peso a un consiglio perché arriva al momento giusto, con le parole esatte che ci aspettavamo. Dobbiamo però poter sapere se quelle parole sono state scelte da un umano o da un agente automatico. Perché la fiducia che gli concediamo, e le azioni che decideremo di compiere dopo aver spento lo schermo, sono reali al cento per cento. La mia speranza è che dietro questi atti estremi che hanno coinvolto ricordiamo per l’85% dei fermati minori, ci sia stato spirito di emulazione o come dire metodi antichi di esaltazione veicolati con vettori moderni e nessun tipo di AI che da qualsiasi parte del mondo potrebbe orchestrare il tutto.

Ti è piaciuto questo articolo? CONDIVIDILO

Facebook
WhatsApp
articolo

ALTRI CONTENUTI

Chi sono — Marco Mirra

Il mio percorso tra informatica per la ricerca, intelligenza artificiale e sonificazione. Progetti artistici, libri, formazione, interviste, video e pubblicazioni scientifiche.

Read More »