L'intelligenza artificiale sfugge ancora una volta al controllo umano. A farne le spese, questa volta, è la società Anthropic, che poche ora fa ha annunciato una "fuga" di modelli Claude che hanno "ottenuto un accesso non autorizzato" ai sistemi di tre organizzazioni durante la fase dei test. Test che avrebbero dovuto tenerli isolati dal "mondo reale".
La scoperta durante i test -
"Claude ha compromesso l'infrastruttura delle organizzazioni colpite utilizzando tecniche di base, come lo sfruttamento di password deboli", ha dichiarato l'azienda, che ha spiegato di aver scoperto quanto accaduto dopo aver esaminato oltre 140mila sessioni di test sulle capacità offensive di cybersicurezza. La revisione era scattata dopo il medesimo problema riscontrato dalla rivale OpenAI, che nei giorni scorsi aveva rivelato come i propri modelli avessero avuto un accesso improprio a internet spingendosi persino a operazioni di hackeraggio.
Crescono i timori -
A differenza dell'incidente che ha coinvolto quest’ultima società, i modelli di Anthropic avrebbero avuto accesso a internet "a causa di un malinteso - si legge in un comunicato dell'azienda, che peraltro si preparava allo sbarco in Borsa - tra noi e il nostro partner di valutazione, Irregular”. L’ennesima violazione alimenta tuttavia i timori degli addetti ai lavori (ma non solo) sulle capacità sempre più in espansione dell'intelligenza artificiale. Preoccupazioni che hanno spinto migliaia di lavoratori delle principali aziende del settore a sollecitare nuove regole per rallentare lo sviluppo di modelli maggiormente avanzati.