Niente mantello di Harry Potter, ma un sofisticato attacco all'intelligenza artificiale. La sfida tra hacker e sistemi di sorveglianza si sposta su un nuovo, affascinante campo di battaglia.
Avete mai immaginato di poter sfrecciare sotto gli occhi del Tutor senza essere multati? Un sogno per molti, una realtà (sperimentale) per un hacker americano. Durante la famosa conferenza sulla cybersecurity DEF CON di Las Vegas, il ricercatore Bill Swearingen ha presentato un progetto tanto semplice nella sua essenza quanto dirompante nella pratica: una pellicola per auto che inganna i sistemi di visione artificiale delle telecamere di sorveglianza, rendendo di fatto "invisibile" il veicolo .
Come funziona il "trucco"?
Non si tratta di un mantello dell'invisibilità. La pellicola non cancella l'auto dal video: anzi, la telecamera la inquadra perfettamente. Il "trucco" sta nel fatto che il software di intelligenza artificiale, quello che dovrebbe riconoscere il veicolo e leggerne la targa, non ci riesce più .
Swearingen ha utilizzato l'intelligenza artificiale per generare milioni di pattern geometrici e combinazioni di colori, testandoli contro 11 diversi algoritmi di riconoscimento open source . L'obiettivo era trovare il disegno "perfetto" in grado di confondere gli algoritmi, che non interpretano l'immagine come farebbe un occhio umano ma la scompongono in caratteristiche e pattern matematici .
Il risultato? La Toyota Yaris ricoperta con la pellicola, nel test, è passata davanti alle telecamere di Flock Safety, un'azienda che fornisce sistemi di sorveglianza e lettura targhe alla polizia americana, senza che il sistema la riconoscesse come automobile . L'IA non riusciva a classificarla come "veicolo", e quindi non attivava i successivi processi di lettura della targa.
Le implicazioni per il mondo reale
Questa tecnologia rappresenta un'escalation nella "guerra" tra privacy e sorveglianza di massa . Swearingen e il suo progetto noRecognition hanno un obiettivo dichiarato: combattere l'uso indiscriminato di sistemi di riconoscimento facciale e veicolare che, secondo loro, minacciano le libertà individuali .
E se il sistema mostrato a Las Vegas non è ancora un prodotto in vendita, i suoi principi sono già noti alla comunità scientifica. Da anni si parla di "adversarial camouflage", un termine tecnico che indica l'uso di pattern per ingannare i sistemi di object detection, e sono stati sviluppati attacchi fisici con percentuali di successo superiori all'80% già a distanze di 12 metri .
Il futuro? La pellicola sui vestiti
La mente dell'hacker non si ferma alle auto. Swearingen sta già lavorando per applicare gli stessi pattern sui vestiti, con l'idea di creare felpe o T-shirt capaci di confondere i sistemi di riconoscimento facciale nelle città, offrendo un nuovo mezzo per l'anonimato digitale nella vita reale .
La domanda è: questa è una geniale trovata per difendere la privacy o un pericoloso grimaldello per i malintenzionati? La sfida è appena iniziata, e con ogni probabilità, la prossima partita si giocherà tra aggiornamenti software e nuovi, bizzarri pattern di colore.
Commenti
Posta un commento