Che l’intelligenza artificiale fosse in grado, nelle mani sbagliate, di fare cose pericolose non è una novità. Lo è invece la conferma ufficiale che un attacco informatico reale sia stato sviluppato con ogni probabilità attraverso un modello generativo. È quanto hanno documentato i ricercatori del Google Threat Intelligence Group (GTIG), identificando per la prima volta un caso concreto in cui il codice usato per colpire un sistema presenta tutte le caratteristiche tipiche di un testo prodotto dall’intelligenza artificiale. Una scoperta che rappresenta un passaggio inedito, e anche per questo significativo, nella storia della sicurezza informatica.
Indice:
Segui TuttoAndroid su Google Discover
Il primo codice malevolo generato dall’AI
Un “exploit” è un programma o una sequenza di istruzioni costruita appositamente per approfittare di una falla in un software, consentendo a chi lo usa di accedere a sistemi che non dovrebbe poter raggiungere o di prenderne il controllo. In questo caso specifico, il bersaglio era il sistema di autenticazione a due fattori (2FA) di uno strumento di amministrazione web, ovvero la funzione che dovrebbe impedire l’accesso a chi non ha le credenziali giuste. Google ha scelto di non rendere pubblica l’identità dell’azienda coinvolta, ma ha comunicato i propri risultati alla società prima di pubblicare il rapporto, consentendole di rilasciare una correzione.
A convincere i ricercatori che dietro questo exploit ci fosse l’AI ci sono alcune caratteristiche molto specifiche tra cui la formattazione impeccabile e da manuale, i menu di aiuto estremamente dettagliati e la presenza di “allucinazioni”, ossia informazioni false che i modelli linguistici tendono a produrre quando cercano di colmare lacune di contesto. Lo strumento usato per sferrare l’attacco era uno script Python automatizzato, costruito probabilmente affidando a un grande modello linguistico il compito di individuare una falla logica nel codice e di scrivere autonomamente le istruzioni per sfruttarla.
Segui Google su Telegram, ricevi news e offerte per primo
Un fenomeno in crescita
Il caso documentato da Google non è un episodio isolato. Il rapporto del GTIG descrive un’accelerazione globale nell’uso offensivo dell’intelligenza artificiale da parte di gruppi legati a Russia, Cina e Corea del Nord. Il gruppo nordcoreano APT45, in particolare, è stato osservato mentre utilizzava migliaia di richieste per analizzare vulnerabilità note e affinare progressivamente le proprie tecniche di attacco. A novembre, Anthropic aveva segnalato che hacker sostenuti da Pechino avevano usato l’intelligenza artificiale per automatizzare completamente i propri attacchi.
Sul fronte del malware per i dispositivi mobili, all’inizio di quest’anno è emerso PromptSpy, un malware Android che sfrutta l’intelligenza artificiale generativa in modo autonomo per monitorare l’attività dell’utente e riprodurre gesture biometriche di autenticazione come PIN e sequenze di sblocco.
Il vantaggio principale che l’AI offre ai criminali informatici è la velocità. Come ha dichiarato John Hultquist, analista capo del GTIG, la corsa all’uso dell’intelligenza artificiale per individuare vulnerabilità nelle reti è già cominciata: “Per ogni zero-day che riusciamo a ricondurre all’AI, ce ne sono probabilmente molti altri là fuori. Gli attori delle minacce usano l’AI per aumentare la velocità, la scala e la sofisticazione dei propri attacchi.”
I modelli più potenti e il nodo della regolamentazione
La rapida diffusione di modelli particolarmente capaci nell’analisi del codice ha spinto le stesse aziende che li sviluppano a limitarne inizialmente l’accesso a un gruppo ristretto di ricercatori fidati. È il caso di Mythos, lo strumento di cybersecurity sviluppato da Anthropic nell’ambito del programma riservato Project Glasswing, che ha già individuato migliaia di vulnerabilità nei principali sistemi operativi e browser. Google ha precisato che Mythos non risulta essere stato impiegato per sviluppare l’exploit oggetto del rapporto. Analoga cautela riguarda GPT-5.5-Cyber di OpenAI, le cui funzionalità avanzate di analisi delle vulnerabilità sono riservate a contesti strettamente controllati. Entrambi i modelli sono però al centro dell’attenzione dell’amministrazione Trump, che starebbe conducendo incontri con i principali attori del settore per discutere possibili forme di regolamentazione e verifica dei modelli più avanzati.
La sfida, come già visto nel caso di Mozilla che ha usato Claude Mythos per trovare 271 vulnerabilità in Firefox 150, non vede necessariamente gli hacker in vantaggio. La stessa tecnologia che consente di individuare vulnerabilità e costruire codice malevolo può essere impiegata per scoprirle e correggerle prima che vengano sfruttate. Gli esperti del settore sono concordi nel ritenere che nel lungo periodo l’intelligenza artificiale contribuirà a rendere più solido il codice su cui si reggono i sistemi digitali, riducendo lo spazio utile per gli attacchi informatici.
Nel breve periodo, però, ci si trova in una sorta di fase di transizione in cui i rischi sono particolarmente elevati. Soprattutto per la capacità dell’intelligenza artificiale di affinare e accelerare attacchi che prima richiedevano competenze tecniche avanzate e tempi lunghi, abbassando di fatto la soglia di accesso alla criminalità informatica. Se per il futuro possiamo ben sperare, per il presente è sempre fondamentale tenere sempre gli occhi ben aperti.