L’Università degli Studi di Cagliari entra a far parte della External Red Team Alliance (EXTRA), la nuova iniziativa internazionale promossa da Microsoft per rafforzare la ricerca sulla sicurezza e sull’affidabilità dell’Intelligenza artificiale. Il sAIfer Lab, laboratorio di ricerca del dipartimento di Ingegneria Elettrica ed Elettronica, è stato infatti selezionato tra i partner dell’alleanza e ha ottenuto un finanziamento non vincolato di 25.000 dollari statunitensi a sostegno delle proprie attività scientifiche nel campo dell’AI Security e dello sviluppo responsabile dei sistemi di intelligenza artificiale.
Guidato dal professor Battista Biggio, co-direttore del laboratorio, il sAIfer Lab vanta oltre trent’anni di esperienza nei settori della cybersecurity, della biometria, della videosorveglianza intelligente e della sicurezza dei sistemi di intelligenza artificiale. Il laboratorio è riconosciuto a livello internazionale per i suoi contributi pionieristici nell’Adversarial Machine Learning, disciplina che studia le vulnerabilità degli algoritmi di apprendimento automatico e sviluppa tecniche per renderli più robusti, affidabili e resistenti agli attacchi.
La sicurezza dell’Intelligenza artificiale rappresenta oggi una delle principali sfide della ricerca scientifica. L’impiego sempre più diffuso dell’AI in ambiti strategici come sanità, finanza, mobilità, sicurezza e servizi digitali rende infatti essenziale comprendere i possibili rischi legati al suo utilizzo e progettare sistemi capaci di operare in modo sicuro, trasparente e conforme ai valori umani.
Le attività del sAIfer Lab si concentrano proprio su questi aspetti: analizzare le vulnerabilità dei sistemi di AI, individuare possibili attacchi e sviluppare metodi per prevenirli, contribuendo alla realizzazione di tecnologie più sicure, robuste e resilienti. I ricercatori del laboratorio hanno contribuito in maniera significativa allo sviluppo della moderna ricerca sulla sicurezza dell’intelligenza artificiale, migliorando la comprensione dei meccanismi con cui i sistemi di machine learning possono essere manipolati e delle strategie per proteggerli.
La External Red Team Alliance nasce dalla consapevolezza che la valutazione della sicurezza dei modelli di intelligenza artificiale più avanzati richieda competenze multidisciplinari e una collaborazione internazionale. Il programma riunisce università ed esperti di sei continenti con l’obiettivo di ampliare la ricerca indipendente sull’AI Security e favorire il confronto tra il mondo accademico e chi sviluppa tecnologie di intelligenza artificiale.
Siamo lieti che il sAIfer Lab sia stato selezionato per questa iniziativa internazionale, commenta il professor Battista Biggio. Il riconoscimento ottenuto conferma il valore del lavoro svolto dal nostro gruppo nell’ambito dell’adversarial machine learning e dell’AI Security e rappresenta un’importante opportunità per rafforzare la ricerca e la collaborazione tra università e industria. La nostra attività coniuga ricerca di base e applicazioni concrete nei settori della sicurezza informatica, della biometria e dell’intelligenza artificiale, con l’obiettivo di sviluppare sistemi sempre più sicuri e affidabili, capaci di prevenire sia danni accidentali sia attacchi intenzionali a persone, infrastrutture e sistemi informatici.
Il professore sottolinea inoltre come il tema della sicurezza dell’AI sia diventato ancora più centrale con l’entrata in vigore dell’AI Act europeo:
Le nuove normative richiedono che i sistemi di intelligenza artificiale siano trasparenti, sicuri e conformi a precisi standard etici. La ricerca è chiamata a sviluppare soluzioni in grado di rispondere a queste sfide, garantendo tecnologie affidabili e responsabili.