Il nuovo modello di intelligenza artificiale di Anthropic ha fatto suonare i campanelli d'allarme nelle banche di tutta Europa. Considerato talmente potente da costituire una minaccia per i sistemi informatici degli istituti di credito, Claude Mythos è infatti capace di metterne in luce le debolezze, creando agitazione anche tra i funzionari della Banca centrale europea. Anthropic, però, non sembra avere intenzione di svelare le sue carte: la società Usa ha consentito l’accesso a Mythos soltanto a un numero limitato di organizzazioni non europee, principalmente statunitensi, che fanno parte del "Project Glasswing". Per questo, la Bce punta adesso a discutere dei rischi per la sicurezza informatica emersi dai più recenti modelli di intelligenza artificiale (come lo stesso Mythos) durante una riunione con le banche Ue, convocata per martedì 26 maggio, a cui parteciperanno anche istituti del progetto Glasswing che potrebbero dare informazioni preziose sul funzionamento del nuovo modello di Ia di Anthropic.
I rischi al centro delle preoccupazioni della Bce -
Durante il meeting con gli istituti di credito, la Banca centrale europea potrebbe sollecitarli ad accelerare i lavori per proteggere e migliorare i loro sistemi informatici, che il nuovo modello di Ia ha fatto immediatamente risultare obsoleti. E non solo: scopo dell'istituto con sede a Francoforte è anche esortare le banche statunitensi che utilizzano le tecnologie più recenti a condividere le informazioni con le controparti europee che non dispongono di tale accesso. La Bce, infatti, vigila su circa 111 delle maggiori banche dell'Eurozona, comprese le filiali delle grandi banche di Wall Street come JP Morgan Chase, a cui è stato concesso l'accesso a Mythos.
Cos'è "Project Glasswing" -
Si tratta di un’iniziativa, lanciata ad aprile, utile a "proteggere i software più critici al mondo", come riporta la stessa Anthropic, che vorrebbe prevenire il rischio che i modelli di Ia più sofisticati (tra cui lo stesso Mythos) possano essere utilizzati "contro di essi": quello che preoccupa l'Eurozona, però, è proprio il fatto che - attraverso Project Glasswing - Anthropic abbia deciso di condividere la versione Preview del suo nuovo modello solo con alcuni partner.
"Mythos Preview ha già individuato migliaia di vulnerabilità di elevata gravità, alcune delle quali presenti in tutti i principali sistemi operativi e browser. Data la velocità di progresso dell'intelligenza artificiale, non passerà molto tempo prima che tali capacità si diffondano, potenzialmente anche al di fuori della portata degli attori impegnati a implementarle in modo sicuro. Le conseguenze, per l'economia, la sicurezza pubblica e la sicurezza nazionale, potrebbero essere gravi. Il progetto Glasswing rappresenta un tentativo urgente di mettere queste capacità al servizio della difesa", si legge sul sito ufficiale del progetto.
Un'Ia capace di "bucare" gli attuali standard di protezione -
In una nota rilasciata il 22 maggio, la stessa Anthropic ha poi spiegato che nell'ultimo mese "noi e i nostri circa 50 partner abbiamo utilizzato Claude Mythos Preview per individuare oltre 10mila vulnerabilità di gravità elevata o critica nei software più importanti al mondo. In passato, i progressi nella sicurezza del software erano limitati dalla velocità con cui riuscivamo a trovare nuove vulnerabilità". Ora, invece, "sono limitati dalla velocità con cui riusciamo a verificare, divulgare e correggere l'elevato numero di vulnerabilità individuate dall'intelligenza artificiale".
Cosa fare per affrontare i rischi legati all'uso del nuovo modello Ia -
Frank Elderson, vicepresidente del Consiglio di vigilanza della Bce che sovrintende alle banche, in un'intervista al Financial Times ha spiegato che "visti i progressi dell'intelligenza artificiale, è necessario affrontare più rapidamente" le questioni legate alla sicurezza informatica delle banche. Elderson ha poi affermato che le banche devono accelerare drasticamente l'implementazione delle patch software (ovvero la porzione di codice creata per correggere bug, migliorare le prestazioni o risolvere vulnerabilità di sicurezza di un programma o di un sistema operativo, ndr) per correggere le vulnerabilità evidenziate dai nuovi modelli di intelligenza artificiale.
"Sembra che se uno dei principali fornitori di software rilascia una patch, sia possibile decodificare la vulnerabilità che la patch dovrebbe correggere, non in settimane ma forse in 30 minuti", ha affermato al Ft. "Questo significa che, una volta rilasciata la patch, una banca deve disporre di processi che garantiscano un'applicazione molto più rapida di quanto non avvenga attualmente nella prassi di mercato".
Il tutto, adesso, è nelle mani degli istituti partner del progetto di Anthropic e della loro intenzione a condividere informazioni e nuove capacità con le banche europee: è "un peccato", ha detto Elderson, che le gli istituti di credito del Vecchio Continente non abbiano accesso a Mythos, ma allo stesso tempo il vicepresidente del Consiglio di vigilanza della Bce ha manifestato la speranza che le banche statunitensi presenti all'incontro di martedì condividano con le loro controparti dell'Eurozona le lezioni apprese dalla sperimentazione del modello.
Preoccupazioni già note -
Secondo Reuters, già un mese fa alcuni funzionari della Bce stavano raccogliendo informazioni su Mythos per chiedere alle banche sotto la loro supervisione di fornire informazioni su come si starebbero preparando ad affrontare questa nuova possibile fonte di rischio. Alcuni esperti avevano riferito all'agenzia di stampa britannica che le capacità di Mythos di programmare ad alto livello le conferiscono una potenziale capacità senza precedenti di identificare le vulnerabilità della sicurezza informatica e di ideare modi per sfruttarle.