I fatti
Un sistema di intelligenza artificiale che in perfetta autonomia attacca una piattaforma, che a sua volta condivide codici e modelli AI, alla ricerca di dati utili che potessero aiutarlo a risolvere il problema per cui stava lavorando. L’episodio, frutto di un test che a quanto pare ha avuto risultati che hanno superato le aspettative, apre nuovi interrogativi sull’impatto delle nuove tecnologie sulla cybersicurezza e su come le inevitabili vulnerabilità di ogni sistema possono essere identificate e sfruttate in modo del tutto nuovo. Da qui deriva il bisogno di figure specializzate e altamente formate come il Cyber Security Specialist.
Tornando ai fatti, un modello di AI di proprietà di OpenAI, l’azienda tra l’altro produttrice di ChatGPT, è riuscito a compiere un cyber attacco contro Hugging Face. OpenAI stava lavorando a delle prove che potessero aiutare a capire le potenzialità di alcuni modelli. Il test si doveva svolgere in un ambiente protetto e controllato e i sistemi impiegati non avrebbero dovuto avere, per sicurezza, accesso alla rete Internet, ma in qualche modo, lasciando sorpresi anche i ricercatori, ha trovato il modo di connettersi a Internet e di andare ad hackerare Hugging Face, pensando che su quel sito potessero essersi informazioni che li aiutassero a superare la prova. In pratica, hanno identificato in autonomia quale risorsa potesse essergli utile e sono andati a prendersela, usando una serie combinata di raffinate tecniche hacker.
Il concetto di AI agent
La domanda che sorge ovviamente spontanea è dove sono i confini di quanto l’AI può fare e quanto le vulnerabilità di ogni sistema informatico, da quelli governativi e pubblici a quelli di ogni azienda, siano esposti. Va precisato che non si trattava di un chatbot destinato all’uso quotidiano, ma di un agente AI, ovvero di un sistema capace di perseguire un obiettivo pianificando ed eseguendo una sequenza di azioni, utilizzando strumenti digitali e adattando la propria strategia sulla base dei risultati ottenuti. Se quando si parla di ChatGPT o Claude l’utente inserisce un input, ad esempio una domanda, tramite un prompt, aspettando una risposta costruita ex novo partendo dai dati con cui è stato addestrato, in questo caso assegna un obiettivo complesso, chiedendo allo strumento di raggiungerlo. Non dice come farlo, solo che cosa serve e l’AI agent comprende e sceglie se interagire con altri software, sistemi informatici o servizi online.
Chi controlla l’intelligenza artificiale?
Ci si potrebbe domandare chi li controlla. La responsabilità non ricade necessariamente su un solo soggetto: entrano in gioco chi sviluppa il modello, chi configura l’agente, chi gli concede l’accesso agli strumenti e chi definisce l’obiettivo da raggiungere. Ma quanto accaduto mostra come gli AI agent più avanzati, quando dispongono di una potenza di calcolo adeguata e di accessi e strumenti (che però nel caso di OpenAI sono andati a prendersi…) dimostrano una crescente capacità di individuare e sfruttare le vulnerabilità nei sistemi per raggiungere l’obiettivo assegnato, massimizzando il risultato richiesto.
Come cambia la cybersicurezza con l’AI
Si è certamente di fronte a un’evoluzione dei rischi online, cui deve seguire un aggiornamento continuo della cybersicurezza, partendo dalla mentalità sino ad arrivare agli strumenti. Fino a qualche anno fa, i sistemi di hackeraggio, che miravano a estorcere dati e a ordire ricatti, erano creati esclusivamente dall’uomo col supporto delle tecnologie disponibili. L'intelligenza artificiale permette ora agli attaccanti di sviluppare malware, phishing e strumenti offensivi molto più rapidamente rispetto al passato e con un alto grado di personalizzazione sulla potenziale vittima. Al contempo, l’uso di sistemi di AI ha portato a un’accelerazione nella tipologia di possibili attacchi, creandone sempre di nuovi, ad una velocità ben maggiore di quello che può produrre anche l’hacker più performante, obbligando chi si deve difendere a rincorrere e a trovare con rapidità impressionante dei rimedi. In questo senso, anche utilizzare l’intelligenza artificiale per rendere più efficace la difesa dei propri sistemi è sicuramente una tecnica usata.
Come l’intelligenza artificiale può usare le vulnerabilità dei sistemi
Ogni sistema informatico ha delle vulnerabilità, note e non ancora corrette per mancanza di strumenti o di tempo, oppure non conosciute, che lo rendono potenzialmente attaccabile: errori di progettazione o di implementazioni, da correggere con degli aggiornamenti. Sino a che non vengono scoperte da criminali informatici ed essi non comprendono come utilizzarle per sottrarre dati o provocare danni che potrebbero fermare interi settori, ci si potrebbe ritenere relativamente al sicuro. Spesso si tratta di falle estremamente complesse da trovare e da sfruttare. Ma modelli come l’AI agent di OpenAI potrebbero rendere più semplice trovare i punti deboli, tra l’altro adattando continuamente e senza richiesta di input esterni la sua strategia. Può agire testando migliaia di punti potenziali di ingresso in un sistema sino a identificare quello vulnerabile, con una rapidità e una continuità quasi impossibile da raggiungere per un essere umano, operando, se ha la potenza di calcolo necessaria, per 24 ore al giorno per periodi prolungati, imparando dai suoi errori e riprovando sino a giungere all’obiettivo.
Nei sistemi vi sono spesso più vulnerabilità distinte, come delle password deboli, dei server non ben configurati o dei software non aggiornati, che separatamente non costituiscono un problema rilevante ma che, se identificate assieme, possono renderli attaccabili. L’intelligenza artificiale potrebbe essere capace di collegare una catena di potenziali vulnerabilità, penetrando anche nelle infrastrutture all’apparenza più sicure.
Il ruolo del Cyber Security Specialist
Che cosa può dunque fare un’azienda, che magari sta implementando l’AI o pensa di farlo, per proteggersi? Certamente lavorare sulle vulnerabilità dei suoi sistemi, che però come detto non sono facilmente identificabili e risolvibili. Servono delle figure specifiche che conoscano l’intelligenza artificiale, come agisce e quali sono le sue evoluzioni: vista la rapidità con cui apprende nuove competenze, è pensabile che sia necessaria una persona che si occupi solamente di questo, implementando una nuova cybersicurezza, e che non basti più una risorsa interna che la aggiunga ai suoi compiti. C’è bisogno di profili altamente qualificati, in grado di capire come proteggere i propri sistemi e di rimanere al passo con l’evoluzione di potenzialità e rischi. Come Ated formiamo tramite i nostri corsi APF i Cyber Security Specialist, una figura professionale che opera su tutte le questioni relative alla sicurezza e che sarà centrale per ogni azienda. Si tratta di un corso di 18 mesi che apre ad interessanti prospettive di carriera in un mercato in divenire dove ci sarà bisogno di persone competenti e con una formazione d’avanguardia.
Cyber security Day: due ospiti d'eccezione
Il 2 settembre torna il Cyber Security Day, la giornata tematica dedicata alla sicurezza informatica, quest'anno arricchita da due presenze internazionali di primo piano.
Ospite speciale: Keren Elazari
Da Israele arriva una delle voci più autorevoli e riconosciute al mondo nel campo della cybersecurity: Keren Elazari, security analyst, autrice e speaker TED. Con oltre vent'anni di esperienza nel settore, ha lavorato al fianco di aziende leader della sicurezza israeliana, organizzazioni governative, società Big 4 e realtà Fortune 500, aiutandole a orientarsi tra le sfide più complesse della sicurezza informatica. È inoltre ricercatrice senior presso l'Interdisciplinary Cyber Research Center dell'Università di Tel Aviv, oltre che fondatrice di BSidesTLV, il più grande evento della community cyber israeliana, e co-fondatrice di Leading Cyber Ladies, rete globale dedicata alla promozione delle donne nel settore della sicurezza informatica.
Nel 2014 è diventata la prima donna israeliana a salire sul palco della celebre conferenza TED, con un talk dal titolo "Hackers: The Internet's Immune System", visto da milioni di persone in tutto il mondo, tradotto in oltre 30 lingue e inserito tra le idee più influenti dell'anno secondo TED. Da allora, il suo pensiero ha contribuito a ridefinire il modo in cui aziende, istituzioni e opinione pubblica guardano al mondo degli hacker: non solo una minaccia, ma spesso un anticorpo necessario per un ecosistema digitale più sano.
Chi è Mark Barwinski
Accanto a Keren Elazari, il Cyber Security Day ospiterà Mark Barwinski, ex dirigente della National Security Agency (NSA) statunitense, con il suo intervento "From Patch Windows to Machine Time: Cyber Resilience in the Age of Hybrid War and AI".
Barwinski vanta oltre vent'anni di esperienza nella protezione delle infrastrutture critiche e dei servizi finanziari globali. Nel corso della sua carriera ha ricoperto ruoli di leadership nella sicurezza informatica presso Siemens, UBS e PwC, dopo dodici anni trascorsi alla NSA. Oggi supporta consigli di amministrazione ed executive team nella governance del rischio cyber, nella resilienza e nella conformità normativa: un'esperienza di valore straordinario per l'intera community del Cyber Security Day.
Nel programma della giornata è previsto anche un workshop di Alessandro Alampi, Security Researcher e Incident Responder, incentrato sulla simulazione di un caso di phishing e di Business Email Compromise in ambiente Microsoft 365: un tema che risuona con quanto accaduto a OpenAI, per comprendere come l'AI possa diventare uno strumento capace di sfruttare le vulnerabilità dei sistemi e, per contro, come difendersi, anche ricorrendo a strumenti di intelligenza artificiale.
Prossimi appuntamento Ated
27 agosto: AI Perithink
2 settembre: Cyber Seurity Day 2026
26 settembre: CoderDojo 2026
27 ottore: Un giorno nel cuore della tecnologia: Zurigo e Google
