Gazzetta di Modena

MODENA. Un decreto legislativo sul riconoscimento facciale, per le forze di polizia, che consente l’uso dell’Intelligenza artificiale nei sistemi di videosorveglianza, in recepimento dell’AI Act europeo, dovrebbe presto entrare in vigore (per ora ha avuto il sì della Camera). Sull’AI Act abbiamo provato a fare un po’ di chiarezza con l’aiuto della professoressa Rita Cucchiara, rettrice di Unimore e ordinaria di Ingegneria informatica presso la medesima Università.

Professoressa Cucchiara, cosa cambia rispetto a quanto era consentito fino a oggi?

«Credo sia doveroso fare una premessa. Questo 2 agosto segna uno snodo fondamentale per la regolamentazione dell’intelligenza artificiale in Europa: entra in piena applicazione la disciplina dell’AI Act relativa ai sistemi intelligenti “ad alto rischio”. Questa scadenza stabilisce un netto spartiacque tra le applicazioni consentite, quelle regolate in modo preciso e quelle considerate del tutto incompatibili con i valori democratici dell’Unione Europea, ponendo paletti rigorosi contro ogni forma di controllo sociale indebito. L’Europa ha strutturato la normativa attorno a un principio chiaro: vietare in modo assoluto tutte le tecnologie che si prestano alla sorveglianza di massa e al tracciamento non consapevole dei cittadini. Rientrano tra i sistemi vietati la raccolta massiva e automatizzata (scraping) di dati da internet o l’uso di telecamere per creare archivi identificativi, la categorizzazione biometrica pensata per dedurre aspetti sensibili come opinioni politiche, credo religioso o appartenenza etnica, e l’uso di algoritmi per il riconoscimento delle emozioni nei luoghi di lavoro e negli istituti scolastici. In questo quadro si inserisce la disciplina specifica del riconoscimento facciale basato su intelligenza artificiale, ossia quella tecnologia che mappa la geometria del volto per creare un’impronta biometrica univoca. Per evitare che trasformi gli spazi pubblici in luoghi di tracciamento continuo, l’AI Act ne proibisce l’uso in tempo reale da parte delle forze dell’ordine, consentendolo solo in casi straordinari legati a imminenti minacce terroristiche o alla ricerca di vittime di sequestro, e sempre previa autorizzazione giudiziaria. L’uso di questa tecnologia a posteriori (come l’analisi di filmati per indagini) resta invece consentito, ma classificato ad alto rischio e vincolato a una costante supervisione umana».

Che cos’è, in termini semplici, il riconoscimento facciale basato sull’intelligenza artificiale?

«Dal punto di vista tecnico, il riconoscimento facciale rappresenta una delle declinazioni più sofisticate della visione artificiale, una materia cardine per gli ingegneri che ora ad Unimore si laureano all’interno del corso di laurea in AI Engineering. Questa branca dell’AI insegna alle macchine a elaborare e interpretare il mondo visivo. Se i primi esperimenti sul riconoscimento del volto risalgono ai primi anni 2000 presso il Mit (Massachusetts Institute of Technology) e altri atenei americani, nell’arco di un quarto di secolo queste tecnologie hanno compiuto un balzo evolutivo straordinario. Uno snodo cruciale si è verificato attorno al 2016 con la svolta delle reti neurali profonde».

Quanto è affidabile questa tecnologia?

«Il lavoro pionieristico sviluppato da ricercatori come l'italiano Marc’Aurelio Ranzato nell’ambito del progetto DeepFace in Facebook AI Research (Fair) e i progressi paralleli nei laboratori di Google, hanno dimostrato che i sistemi di deep learning potevano superare la capacità visiva dell’occhio umano. I numeri mostrano un sorpasso prestazionale netto: laddove l’essere umano registra un’accuratezza media di circa il 95% su volti non familiari in contesti standard, gli algoritmi più avanzati raggiungono oggi tassi di precisione che superano il 99.7% in condizioni ottimali. Un tempo l’uomo manteneva un vantaggio competitivo potendo sfruttare informazioni contestuali come la corporatura, l’andatura o l’ambiente circostante, ma oggi le architetture di intelligenza artificiale più moderne incorporano l’analisi simultanea di tutti questi indizi fisici e ambientali, lavorando a tutti gli effetti meglio e più velocemente di noi.

Tuttavia, la precisione dei sistemi non è del tutto esente da criticità. L’affidabilità può essere influenzata da fattori ambientali e tecnici come la scarsa illuminazione, le angolazioni estreme della fotocamera, la bassa risoluzione dei filmati o la presenza di camuffamenti fisici, problemi che possono trarre in inganno sia le macchine sia gli esseri umani. A questo si aggiungeva il problema strutturale delle distorsioni algoritmiche (bias) dovuto ad un addestramento selettivo su genere o etnia, problema che ora è stato in gran parte superato nei moderni sistemi con un addestramento massivo e bilanciato».

Qual è l’impatto di questa tecnologia?

«Per comprendere l’impatto di questa tecnologia occorre distinguere le sue due modalità operative principali: dai sistemi di autenticazione, che effettuano un controllo uno-a-uno per confermare se una persona sia chi dichiara di essere (come avviene ai varchi automatizzati degli aeroporti o nello sblocco dello smartphone), ai sistemi di identificazione, che eseguono una ricerca uno-a-molti comparando un volto sconosciuto con un intero archivio per verificare se il soggetto appartenga a una lista di indagati o persone scomparse.

Se questi sistemi sono stati e sono un preziosissimo strumento biometrico, ora più accessibile ed efficace dell’impronta digitale, in ambito di sicurezza e di lotta al crimini, è evidente che l’impiego capillare di tali tecnologie porta con sé enormi rischi per i diritti e la riservatezza dei cittadini».

Quale è il pericolo principale?

«Il pericolo principale è la progressiva scomparsa dell'anonimato nello spazio pubblico, un fenomeno capace di innescare il cosiddetto “effetto raffreddante” (chilling effect), che spinge le persone a limitare la propria libertà di espressione, manifestazione o associazione sapendosi costantemente tracciabili. La vera criticità risiede nella capacità potenziale di sistemi di AI, se dotati di adeguate infrastrutture di acquisizione, calcolo e storage, di tracciare chiunque, ovunque e in qualunque momento, a prescindere dalle ragioni del tracciamento. È precisamente su questo punto che si misura il solco etico e geopolitico tra l’Europa e il resto del mondo».

Nello specifico?

«Mentre in altri contesti, come in Cina o in diverse realtà americane, il tracciamento capillare viene sfruttato per finalità commerciali o di controllo statale, la disciplina comunitaria dell’AI Act ha stabilito che la straordinaria accuratezza della visione artificiale non debba mai essere convertita in uno strumento di monitoraggio indifferenziato della popolazione».

Secondo lei, per come è formulato, offre garanzie sufficienti contro possibili abusi?

«L’efficacia del quadro regolatorio e il bilanciamento tra sicurezza e libertà individuali costituiscono il perimetro centrale dell’AI Act europeo. La normativa introduce tutele stringenti imponendo precisi obblighi di trasparenza: le autorità e gli operatori sono tenuti a informare la collettività in caso di utilizzo di sistemi di sorveglianza o categorizzazione biometrica, escludendo il tracciamento arbitrario a insaputa del cittadino».

In che modo, sul piano tecnico-operativo, si cercherà di bilanciare sicurezza e tutela delle libertà individuali?

«Sul piano tecnico-operativo, la tutela dei diritti fondamentali si fonda sul principio inderogabile dell’human-in-the-loop: nessun algoritmo può disporre azioni sanzionatorie o d'autorità in modo autonomo, demandando sempre la valutazione finale e la responsabilità legale a un operatore umano. A ciò si affiancano l'obbligo di valutazioni d'impatto sui diritti fondamentali ( Fundamental Rights Impact Assessment FRIA, art. 27 Ai ACT) e rigorosi architetture di cifratura e segregazione dei dati. Tali presidi rispondono direttamente ai timori di una "sorveglianza di massa": un rischio non enfatizzato ma intrinseco alla pervasività della tecnologia, verso cui l'Europa ha eretto un chiaro confine democratico».

L’Europa è oggi più avanti o più indietro rispetto a Stati Uniti e Cina nella regolamentazione dell’IA?

«In ambito globale, l'Unione Europea si posiziona all'avanguardia nella regolamentazione antropocentrica dell’IA a differenza del modello statunitense, orientato alle dinamiche di mercato, e di quello cinese, integrato nell'apparato di controllo statale».

Quali ulteriori sviluppi possiamo aspettarci nei prossimi anni?

«Al netto delle restrizioni in materia di ordine pubblico, l'evoluzione della visione artificiale esprime straordinarie potenzialità nei settori scientifici e clinici. Un emblematico ambito applicativo risiede nella medicina predittiva: presso Unimore sono attualmente in corso studi importantissimi. L'evoluzione legislativa vedrà invece l'emanazione di standard tecnici armonizzati da parte degli enti di normazione europei (Cen/Cenelec), l'introduzione di vincoli di tracciabilità (watermarking) contro la disinformazione da IA generativa e il perfezionamento del regime di responsabilità civile per i danni da disfunzione algoritmica. Infine, l’AI Act e l’Europa dimostra che il progresso tecnologico non deve necessariamente barattare la libertà con la sicurezza: la vera sfida del futuro non sarà arginare la visione artificiale, ma governarla affinché continui a essere uno straordinario strumento al servizio della vita e dei diritti dell'uomo».

© RIPRODUZIONE RISERVATA