I ricercatori di sicurezza informatica hanno dimostrato un grave difetto di privacy nell’assistente AI Gemini di Google, consentendo l’accesso non autorizzato ai dati del calendario degli utenti con il minimo sforzo. La vulnerabilità, dettagliata in un rapporto di Miggo Security, evidenzia i rischi di sistemi di intelligenza artificiale sempre più sofisticati quando esposti a tattiche di ingegneria sociale di base.
Come funziona l’exploit
L’attacco sfrutta una tecnica chiamata Indirect Prompt Injection. I ricercatori hanno inviato a un utente preso di mira un invito di Google Calendar contenente un messaggio dannoso. Questa richiesta indicava a Gemini di riassumere le riunioni programmate dell’utente per un giorno specifico, quindi di incorporare i dati sensibili nella descrizione di un nuovo invito nascosto nel calendario.
La chiave del successo sta nel desiderio di Gemini di essere d’aiuto: quando l’utente preso di mira ha chiesto all’intelligenza artificiale il suo programma, Gemini ha obbedito etichettando falsamente il nuovo invito come “fascia oraria libera” e contemporaneamente popolandolo con i dettagli della riunione privata. Ciò ha consentito all’aggressore di visualizzare le informazioni rubate.
Le implicazioni: assistenti AI come vettori di dati
Il rapporto di Miggo Security, intitolato “Weaponizing Calendar Invites: A Semantic Attack on Google Gemini”, sottolinea una tendenza in crescita. Gli assistenti IA, progettati per comodità, stanno diventando sempre più vettori di violazioni dei dati. I ricercatori spiegano che la tendenza di Gemini a “ingerire e interpretare automaticamente i dati degli eventi” crea una debolezza sfruttabile.
Questo non è un problema isolato; la vulnerabilità è probabilmente presente anche in altri assistenti IA. Gli aggressori si stanno già adattando, rendendo questo tipo di iniezione tempestiva una minaccia crescente.
Risposta e mitigazione di Google
Google ha riconosciuto la vulnerabilità dopo essere stata allertata dai ricercatori. Un portavoce ha affermato che erano già in atto “solide protezioni” e che il problema è stato risolto. Google ha inoltre sottolineato il valore dei contributi della comunità nel miglioramento della sicurezza dell’intelligenza artificiale.
Tuttavia, l’incidente solleva domande più ampie sulla privacy dell’IA. Il fatto che un exploit così semplice possa avere successo evidenzia la necessità per gli sviluppatori di dare priorità alla protezione dei dati degli utenti.
“Le società di intelligenza artificiale devono attribuire l’intento alle azioni richieste”, esorta Miggo Security, suggerendo che i sistemi di intelligenza artificiale dovrebbero segnalare le richieste sospette anziché eseguirle ciecamente.
L’incidente costituisce un chiaro avvertimento: il rapido progresso dell’intelligenza artificiale non garantisce la sicurezza intrinseca e la vigilanza è essenziale per prevenire future violazioni.
