L’intelligenza artificiale potrà davvero mettere in pericolo l’essere umano, come si legge nelle dimissioni di un ricercatore da Anthropic? Giustificando la sua scelta di lasciare il colosso temendo la corsa che ritiene essere incontrollata alla creazione di una super AI in grado di automigliorarsi continuamente, ha affermato che essa potrebbe “distruggere l’essere umano entro il 2030”. Se in diverse persone è ancora presente il timore che l’innovazione possa rivoluzionare il mondo del lavoro, rendendo superflua la presenza dell’uomo, attraverso applicazioni come gli AI agent o la robotica, di certo le sue frasi non fanno che alimentare scenari apocalittici.
Che cosa può esserci di vero dietro la sua decisione di abbandonare Anthropic perché spaventato da quanto sta accadendo? Non è possibile fare previsioni e comprendere, allo stato attuale, dove l’AI potrà davvero arrivare, se è vero che negli ultimi anni il ritmo dell’innovazione ha conosciuto uno sviluppo difficilmente prevedibile. Il ricercatore non è l’unico ad aver sollevato dei dubbi sulla direzione che sta prendendo la ricerca, soprattutto da parte delle più grandi realtà tecnologiche statunitensi: pochi giorni fa un suo collega sempre di Anthropic ha esortato il suo datore di lavoro e i concorrenti a rallentare la ricerca, poiché sta procedendo più rapidamente rispetto alle misure di sicurezza. E altre persone che ricoprivano incarichi di alto livello in diverse aziende hanno rassegnato le loro dimissioni proprio per preoccupazioni legate alla sicurezza.
Anche figure di primo piano del settore tecnologico, tra cui Elon Musk e Sam Altman, hanno espresso pubblicamente preoccupazioni sui rischi legati allo sviluppo di sistemi di AI sempre più avanzati. Tutto paiono quindi coscienti di quanto lo sviluppo dell’AI sia rapido e potenzialmente incontrollato, in particolare dopo la notizia, risalente a qualche settimana fa, di un AI agent di OpenAI che ha violato, da quanto si sa in autonomia, i sistemi di sicurezza di una piattaforma. Il timore di molti è che i cosiddetti agenti, che sono in grado di perseguire un obiettivo pianificando ed eseguendo una sequenza di azioni, utilizzando strumenti digitali e adattando la propria strategia sulla base dei risultati ottenuti, possano evolversi talmente rapidamente da sfuggire al controllo umano. A differenza di un chatbot tradizionale, che risponde a un input dell'utente, gli agenti possono ricevere un obiettivo e svolgere con un certo grado di autonomia una sequenza di azioni, interagendo quando necessario con altri software.
È difficile dire sino a che punto essi possano davvero rappresentare un pericolo per l’essere umano, certamente quanto sta succedendo nel mondo dei colossi della tecnologia deve porre ancora una volta l’accento sul bisogno di concentrarsi sulla cybersicurezza, che a sua volta parte dalla formazione. Come Ated ne abbiamo parlato diffusamente nel corso del nostro riuscito Cyber Security Day: l’intelligenza artificiale porta innumerevoli possibilità ma al contempo dei rischi avanzati, poiché rende più semplice per gli hacker creare delle minacce personalizzate sull’utente e dunque difficilmente individuabili, oltre che, come già visto con gli AI agent, può trovare le falle di sicurezza che ogni sistema, anche il più sofisticato, inevitabilmente presenta. Quindi per non farsene travolgere, pur non avendo il controllo su eventuali minacce esistenziali come quelle citate dall’ex ricercatore Anthropic, una delle risposte possibili è rimanere al passo con la formazione e sviluppare al contempo delle strategie legate alla cybersicurezza sempre più avanzate e adattabile alla tecnologia in continua evoluzione.
Sebbene le parole dei ricercatori e l’accordo mostrato dai manager dei maggiori colossi di fronte al dichiarato bisogno di rallentare l’evoluzione (che non significa fermarla…) per aggiornare le misure di sicurezza possano allarmare, forse la domanda migliore da porsi non è se l’AI può distruggere l’uomo ma come l’uomo può usarla a suo favore e come se ne può proteggere.
Se le più grandi aziende, che hanno comunque un ipotetico controllo su ciò che stanno sviluppando, riconoscono il bisogno di consolidare la cybersicurezza prima di procedere con la ricerca di sistemi sempre più avanzati, a maggior ragione lo stesso vale per chiunque si sta approcciando all’intelligenza artificiale e per chi ancora non ne ha compreso la portata e non la sta dunque integrando. Come Ated crediamo fermamente che la tecnologia, e lo stesso vale per l’AI, debba essere al servizio dell’uomo e non viceversa, ma che per permetterlo sia necessaria una formazione continua che vada oltre gli aspetti tecnici e abbracci i cambiamenti di mindset e sviluppi un senso critico. Nei nostri corsi, che siano rivolti ai più giovani o a persone in carriera, non puntiamo solamente su che cosa si può fare tramite l’intelligenza artificiale ma dalla spiegazione di come essa funziona, affinché chi la utilizzi sia in grado di avere una panoramica più ampia che bilanci, senza far prevalere eccessivo ottimismo o nero pessimismo, opportunità e rischi. Se si conoscono i meccanismi che fanno funzionare l’AI, dai chatbot conversazionali, quelli di uso più diffuso e immediato ad altri sistemi, è possibile porsi con uno sguardo diverso di fronte agli output ricevuti.
Non è però ancora sufficiente: l’accento va posto anche sulla cybersicurezza, su quanto essa sia sempre più importante e su come l’intelligenza artificiale può contribuire ad accrescere potenziali minacce per la vita quotidiana e per l’infrastruttura digitale di realtà grandi e piccole. Non solamente i lavoratori ad ogni livello devono avere una formazione continua, ma le aziende hanno il compito di investire sulla loro cybersicurezza, sul rafforzare ove possibile, tramite AI oppure con altre applicazioni, i loro sistemi digitali e informatici.
Sarà sufficiente a impedire che lo sviluppo dell’intelligenza artificiale vada davvero fuori controllo, come ipotizzano ora questi ricercatori dimissionari di Anthropic? Certamente è l’unica misura che ciascuno può prendere in autonomia, puntando su ciò che è sotto il proprio controllo. In merito, sempre più centrali diventeranno le figure che si formeranno con i nostri APF, dal Cyber Security Specialist, che agirà sull’impalcatura della sicurezza digitale di un’azienda, occupandosi di AI e non solo in relazione alla cybersicurezza, e di Digital Collaboration Specilast e Business AI Specialist che lavoreranno sul costruire un’architettura digitale personalizzata per ogni azienda. E in generale, la formazione e la conoscenza sono i modi per comprendere, dove possibile, i potenziali pericoli. Bisognerà valutare come agiranno i grandi colossi: se realmente vorranno puntare sulla sicurezza, non potranno che giovarne tutti. A livello mondiale c’è sempre più bisogno anche di regolamentazioni per il possesso dei dati inseriti nell’AI stessa e sul controllo delle evoluzioni. In merito, AI di proprietà nazionali, come Apertus, possono essere viste come una riduzione di alcuni rischi.
Prossimi eventi Ated
23 ottobre: Un giorno nel cuore della tecnologia: Zurigo e Google
27 ottobre: ATED Tech Espresso Mendrisio
19 novembre: Festival AI Ticino e Regione Insubrica