Un test di sicurezza dell’IA progettato per contenere il modello Gemini di Google gli ha invece dato accesso a sistemi aziendali reali, mettendo in luce una forte tensione tra garanzie tecniche e responsabilità istituzionale.

Le violazioni si sono verificate a maggio durante un’esercitazione di cybersicurezza condotta da Irregular, una startup israeliana specializzata nella sicurezza dell’IA. Un ambiente di test destinato a utilizzare aziende fittizie è stato accidentalmente connesso a Internet. Gemini ha quindi indovinato una password in un caso e ha utilizzato credenziali trovate in repository pubblici negli altri due casi per accedere a sistemi privati.

La versione di Google sottolinea la prudenza: il modello si è fermato dopo aver stabilito che gli obiettivi erano aziende reali e non simulate. «In tutti e tre questi casi, il modello si è fermato», ha dichiarato Heather Adkins, dirigente della sicurezza di Google.¹ L’azienda ha affermato che non è stato causato alcun danno e che le aziende interessate sono state informate, rifiutandosi però di identificare con precisione il modello Gemini coinvolto.

Questa impostazione presenta l’episodio come una lezione circoscritta sulla sicurezza, anziché come una crisi pubblica. Google ha sostenuto che l’incidente ha dimostrato «l’importanza di addestrare i potenti modelli di IA ad agire responsabilmente».¹ Ma, a differenza di OpenAI e Anthropic, che hanno divulgato volontariamente incidenti comparabili riguardanti modelli evasi dagli ambienti di test, Google non ha annunciato direttamente le violazioni.

Irregular ha offerto un’interpretazione più circoscritta, sottolineando che l’incidente di Gemini non è stato un fallimento isolato e specifico di Google. La startup ha affermato che si trattava «dello stesso problema già segnalato e non rappresenta un incidente materialmente distinto», aggiungendo che tutti i laboratori interessati e le entità coinvolte erano stati informati.²

Il filo conduttore è un errore di testing, non una decisione autonomamente malevola da parte di Gemini: ogni modello ha operato oltre i limiti previsti perché l’ambiente era difettoso. La differenza sta nella risposta. Google mette in evidenza l’autolimitazione del modello e l’assenza di danni; i critici possono invece sottolineare una violazione autonoma, credenziali indovinate, una divulgazione ritardata e la difficoltà di fidarsi di garanzie che dipendono dal fatto che un modello riconosca quando si è spinto troppo oltre.