E se i film distopici avessero ragione? Se le macchine potessero controllare il mondo e gli umani? È questo il campanello dall'allarme lanciato da Anthropic, l'azienda più preziosa di produzione di intelligenza artificiale al mondo e società madre del chatbot Claude. La start-up americana ha chiesto a gran voce lo stop globale allo sviluppo dell'IA, avvertendo che si avvicina sempre di più il momento in cui gli esseri umani "perderanno il controllo" della tecnologia.
L'auto-miglioramento dell'IA e la lentezza dei governi -
L'appello, che suona come una profezia di Cassandra, nasce da un saggio pubblicato nella serata di giovedì da Marina Favaro e Jack Clark, rispettivamente capo della ricerca e Ceo di Anthropic. Il documento si basa su tutta una serie di dati interni inediti. In particolare sul cosiddetto "recursive self-improvement", letteralmente auto-miglioramento ricorsivo, cioè la capacità dei sistemi di intelligenza artificiale di progettare autonomamente i propri aggiornamenti e persino il proprio successore. In Anthropic, per esempio, oltre l'80% del codice integrato nella base di produzione è attribuito ai modelli. La soglia della sostituzione automatica, in cui lo zampino dell'uomo potrebbe non ritoccare di una virgola il codice, secondo Anthropic potrebbe essere raggiunta prima di quanto si pensi. E, soprattutto, prima che i governi trovino un modo efficace per limitare e frenare gli sviluppi tecnologici.
"IA come le armi, rischiamo che le cose vadano davvero male" -
Favaro e Clark, nel loro articolo analitico, paragonano l'ascesa di potentissimi sistemi di intelligenza artificiale alla "corsa agli armamenti". Non solo per gli ingenti investimenti che di giorno in giorno piovono sul settore, ma per la pericolosità che può avere una proliferazione di strumenti tecnologici del genere. Con una grande differenza: le sessioni di addestramento dell'IA sono molto più facili da nascondere dei silos missilistici, i sistemi possono essere usati potenzialmente da chiunque e l'incentivo a proseguire di nascosto è enorme. Anthropic, che di recente ha superato OpenAI come principale azienda di intelligenza artificiale con una valutazione di 965 miliardi di dollari, ha deciso di sospendere il rilascio di Mythos, il suo sistema più potente, per paura che fosse usato per compiere devastanti attacchi informatici.
I vertici di Anthropic si sono resi disponibili a stoppare completamente lo sviluppo delle loro IA, ma solo a patto che anche i concorrenti - non solo americani - facciano lo stesso: "Se fosse possibile rallentare efficacemente lo sviluppo di questa tecnologia per darci più tempo per affrontare le sue immense implicazioni, pensiamo che sarebbe probabilmente una cosa positiva". Anche perché, come ha detto l'altro co-Ceo di Anthropic, Dario Amodei: "C'è una possibilità su quattro che le cose vadano davvero, davvero male".