Dimissioni che fanno scalpore. Jacob Coxon, 27 anni, di professione ricercatore, ha deciso di lasciare il mondo dell'intelligenza artificiale e Anthropic. Il motivo? Per non partecipare alla corsa dell'industria allo sviluppo di sistemi capaci di migliorarsi autonomamente, nel timore che possano "sfuggire al controllo" e distruggere l'umanità. La notizia è stata rivelata dal Wall Street Journal, uno dei più importanti e diffusi quotidiani finanziari ed economici del mondo con base negli Stati Uniti.
"Stiamo arrivando a molti degli scenari più estremi" -
Coxon è un ragazzo britannico laureato a Cambridge ed è un ricercatore specializzato nell'addestramento di nuovi modelli di intelligenza artificiale attraverso l'elaborazione di grandi quantità di dati. Dopo tre anni trascorsi a fare ricerca sul pretraining nei due principali laboratori americani di Ia, il 27enne ha improvvisamente deciso di lasciare l'industria per i timori che la competizione tra le aziende stia spingendo il settore verso lo sviluppo di sistemi in grado di cambiare potenzialmente il mondo. In altre parole, di migliorarsi autonomamente e potenzialmente sfuggire al controllo umano.
Punto di non ritorno? -
Coxon, ex studente di matematica, ha affermato che molti suoi colleghi del settore utilizzano ormai espressioni come "endgame" (fine dei giochi, ndr) per descrivere il percorso verso modelli in grado di migliorarsi autonomamente. "Siamo sulla strada per arrivare a molti degli scenari più estremi, nei quali entro la fine del prossimo anno le cose potrebbero essere già fuori controllo", ha dichiarato Coxon, aggiungendo che, in un contesto di competizione tra aziende statunitensi e nuovi concorrenti cinesi, compromessi sul fronte della sicurezza sarebbero inevitabili. Anthropic, al momento, non avrebbe commentato l'uscita del 27enne dall'azienda.
La conferma -
Dopo l'annuncio di Coxon, Evan Hubinger, uno dei principali scienziati di Anthropic, ha scritto su X di ritenere fondate le preoccupazioni del ricercatore. "Crediamo davvero, seriamente, che l'intelligenza artificiale possa uccidere tutti gli esseri umani. Personalmente ritengo che la probabilità sia superiore al 10% nel prossimo decennio", ha scritto Hubinger, aggiungendo che Anthropic sta facendo del suo meglio ma non dispone ancora di un piano per risolvere il problema dell'allineamento dell'Ia superintelligente.