"Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA". È quanto scrive il numero uno di Anthropic, Dario Amodei, in un lungo post in cui invita a seguire un approccio ponderato contro i possibili rischi legati all'Intelligenza artificiale.
La frenata -
Una frenata che arriva a poche ore di distanza da quella annunciata dalla concorrente OpenAI, con la quale avrebbe invitato i dipendenti a rallentare lo sviluppo dei sistemi più avanzati. "I progressi sembreranno comunque rapidi e dovremo fare un uso saggio del tempo che guadagneremo". Nelle scorse settimane la società aveva dichiarato di aver riscontrato tre casi in cui i propri modelli di IA avevano "ottenuto accesso non autorizzato" a organizzazioni esterne durante dei test.
Le preoccupazioni -
Due, in particolare, i fattori che hanno convinto Amodei a intervenire. "La mia prima preoccupazione è che, all'incirca dall'estate scorsa, l'intelligenza artificiale si sta evolvendo a un ritmo drasticamente più rapido" e "se non controllata, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi". La seconda è relativa "all'incidente OpenAI-Hugging Face, in cui uno sciame di agenti ha agito essenzialmente come un collettivo fanaticamente devoto, conducendo attacchi informatici contro obiettivi non richiesti, sacrificandosi per il successo del gruppo e tentando di hackerare il sistema di valutazione delle loro prestazioni".