Un test di cybersicurezza condotto su Gemini ha sollevato nuovi interrogativi sui sistemi di protezione dei modelli di intelligenza artificiale più avanzati. Durante un’esercitazione controllata, il modello di Google avrebbe superato per errore i confini dell’ambiente di prova, riuscendo ad accedere ai sistemi informatici di tre aziende realmente esistenti.
Gemini oltrepassa i limiti del test di cybersicurezza
Gli episodi risalgono a maggio e si sono verificati durante un’esercitazione “capture the flag” organizzata dalla società di sicurezza Irregular. L’obiettivo era mettere alla prova le capacità del modello in uno scenario simulato, verificandone il comportamento davanti a vulnerabilità e sistemi informatici predisposti appositamente per il test.
Gemini avrebbe dovuto operare esclusivamente all’interno di queste infrastrutture simulate. A causa di un errore nella configurazione dell’ambiente, tuttavia, il modello disponeva anche dell’accesso a Internet.
Secondo quanto riportato dal Wall Street Journal e dal Financial Times, questa possibilità avrebbe consentito al sistema di raggiungere infrastrutture appartenenti ad aziende reali.
Password individuate e credenziali trovate online
In uno dei tre episodi, Gemini sarebbe riuscito a individuare una password e a utilizzarla per entrare in un sistema protetto. Negli altri due casi, il modello avrebbe invece trovato online credenziali pubblicamente esposte, servendosene successivamente per accedere a sistemi effettivamente operativi.
Si tratterebbe del primo caso noto nel quale un modello di intelligenza artificiale sviluppato da Google abbia effettuato autonomamente intrusioni informatiche contro società reali durante un’attività di test.
L’episodio evidenzia un problema particolarmente delicato per la sicurezza dell’IA: modelli progettati per svolgere compiti complessi possono avere conseguenze impreviste quando dispongono di strumenti e autorizzazioni che permettono loro di interagire con sistemi esterni.
Google: Gemini si è fermato autonomamente
Secondo Google, in tutti e tre gli episodi Gemini avrebbe interrotto autonomamente le proprie azioni dopo aver riconosciuto di essere entrato nei sistemi appartenenti ad aziende realmente esistenti.
La società sostiene che gli accessi non abbiano provocato danni e che quanto accaduto non rappresenti un caso di “disallineamento” del modello. Nella valutazione di Google, infatti, i meccanismi di sicurezza avrebbero svolto la funzione prevista, portando il sistema a interrompere l’attività una volta identificata la situazione.
Google avrebbe inoltre informato dell’accaduto sia le aziende interessate sia le autorità federali statunitensi.
Il caso si aggiunge ad altri episodi emersi durante le verifiche di sicurezza sui modelli di IA di nuova generazione, mentre le aziende tecnologiche cercano di comprendere fino a che punto sistemi sempre più autonomi possano operare senza produrre effetti indesiderati.
Cresce il confronto sulla sicurezza dell’intelligenza artificiale
La vicenda arriva in una fase in cui il settore tecnologico sta intensificando il confronto sui rischi associati allo sviluppo dell’intelligenza artificiale avanzata.
Dario Amodei, amministratore delegato di Anthropic, ha chiesto di rallentare lo sviluppo dell’IA per consentire all’industria di dedicare più tempo alla costruzione di adeguati sistemi di sicurezza. Il dibattito ha coinvolto anche figure di primo piano del settore come Sam Altman di OpenAI, Elon Musk e Demis Hassabis, alla guida di Google DeepMind.
Sicurezza e investimenti sotto pressione
Alla discussione tecnologica si affiancano anche importanti interessi finanziari. Le aziende impegnate nello sviluppo dell’intelligenza artificiale stanno attirando investimenti e valutazioni elevate, mentre il mercato segue con attenzione le prospettive di future quotazioni a Wall Street.
OpenAI ha indicato che un eventuale debutto in Borsa non avverrà nel 2026. Sam Altman ha collegato la prudenza anche al momento attraversato dal settore sul fronte della sicurezza.
“Ritengo che, considerando tutto ciò che sta accadendo sul fronte della sicurezza, questo sia un momento avventato per quotarsi in Borsa e non avvertiamo alcuna pressione”, ha spiegato Altman.
Un’eventuale IPO potrebbe arrivare successivamente, forse nel 2027, quando la società riterrà di essere pronta anche rispetto al “clima sociale che circonda questa tecnologia”, secondo quanto dichiarato dallo stesso Altman in un’intervista a Fortune.
I test diventano cruciali per i modelli di IA più avanzati
L’incidente che ha coinvolto Gemini mostra quanto sia importante isolare correttamente gli ambienti utilizzati per valutare le capacità informatiche dell’intelligenza artificiale. Un accesso non previsto alla rete può trasformare un esercizio simulato in un’interazione con infrastrutture reali.
Il fatto che Gemini abbia interrotto autonomamente le operazioni rappresenta un elemento centrale nella ricostruzione fornita da Google. Allo stesso tempo, l’episodio evidenzia la necessità di controlli tecnici rigorosi quando modelli avanzati vengono messi alla prova in scenari di cybersicurezza.
Con sistemi di IA capaci di affrontare attività sempre più complesse, la capacità di mantenere separati gli ambienti di test dal mondo reale è destinata a diventare una componente fondamentale delle strategie di sicurezza dell’intero settore.
