Tra pochi mesi i nuovi modelli di Intelligenza artificiale di piccole dimensioni potrebbero essere in grado di replicarsi autonomamente negli elettrodomestici connessi al wi-fi di casa. A lanciare l'allarme è stata Anthropic, azienda americana del settore che ha pubblicato sul suo blog i potenziali rischi legati a questa evoluzione tecnologica.
Senza controllo umano -
Gli agenti artificiali di ultima generazione potrebbero potenzialmente infiltrarsi in dispositivi domestici connessi alla stessa rete - come forni intelligenti o smart tv - e sfruttarne la potenza di calcolo per diffondersi in altri dispositivi. Un simile modello di IA "sarebbe difficile da arrestare - afferma la società - poiché non esiste un punto di spegnimento centralizzato".
I test hanno dimostrato infatti che l'IA è in grado di autoreplicarsi e prendere autonomamente il controllo dei dispositivi. Nel corso degli esperimenti, l'azienda ha verificato se i modelli di IA siano in grado di identificare dispositivi vulnerabili, copiarsi e diffondersi senza intervento umano. I ricercatori hanno constatato che i modelli con meno di 30 miliardi di parametri possono eseguire numerosi passaggi necessari al processo di autoreplicazione, ma incontrano ancora difficoltà nel completare l’intera sequenza. Una delle prove ha comportato l'esecuzione di un modello ridotto di Google, Gemma4-26B-A4B, su una rete composta da 15 box Android TV economici, di marchi minori.
Rischi e conseguenze -
Per Anthropic non esiste ancora un "replicatore completamente fuori controllo", ma gli agenti stanno "diventando sempre più capaci di completare le singole fasi della catena di replicazione". Restano le preoccupazioni crescenti legate alla sicurezza dell'Intelligenza artificiale e al rischio che possa sfuggire al controllo umano, come già dichiarato dai Ceo delle principali aziende del settore. Attacchi informatici e scelte autonome non guidate da principi etici sono i pericoli a cui andremo incontro, dicono gli esperti.
Dirigenti e ricercatori di Anthropic e della rivale OpenAI hanno messo in guardia sui potenziali rischi di un'IA sempre più potente, invocando norme di sicurezza più rigorose e capaci di tenere a bada il ritmo di sviluppo della tecnologia. "Dovremmo puntare a blindare i nostri sistemi per rendere difficile la diffusione di tali replicatori, ma anche prepararci ad affrontare un mondo in cui essi saranno ormai una realtà permanente", ha dichiarato Anthropic.