L'intelligenza artificiale sta diventando sempre più indispensabile per le nostre vite. La usiamo in qualsiasi modo: per chiedere consigli, per capire come agire in una determinata situazione e per aiutarci a risolvere problemi in poco tempo. In molti settori, soprattutto in campo scientifico, viene utilizzata per accelerare la ricerca. Pensate che nel 2024 un gruppo di scienziati di Google ha vinto il premio Nobel per aver creato un modello IA in grado di prevedere la struttura tridimensionale delle proteine, mattoni fondamentali di una cellula, e crearne di nuove. Tutta conoscenza che si è andata ad aggiungere al web, a cui anche i chatbot più comuni possono accedere. Ed è qui che arriva l'altro lato della medaglia: se l'intelligenza artificiale può essere usata per il benessere della popolazione, quest'ultima può essere usata anche per fare del male. L'allarme arriva dalle pagine del Wall Street Journal e del New York Times, dove sono apparse due inchieste sul lato oscuro dell'IA: secondo gli esperti, diversi chatbot sono in grado di fornire indicazioni su come costruire e diffondere armi biologiche.
L'inchiesta -
Da quando Donald Trump è salito al potere per il secondo mandato, l'amministrazione statunitense ha investito sempre di più nello sviluppo dei modelli di intelligenza artificiale. Tuttavia, nessuno si aspettava che i principali chatbot potessero essere un rischio non solo per il popolo americano, ma anche per tutto il mondo. Secondo le pagine del New York Times e del Wall Street Journal, i più avanzati modelli linguistici basati sull'intelligenza artificiale sarebbero in grado di fornire informazioni sempre più dettagliate sulla realizzazione e sull'impiego di armi biologiche, alimentando le preoccupazioni di esperti, aziende del settore e autorità statunitensi. Nell'inchiesta dei quotidiani si fa riferimento al fatto che negli ultimi mesi numerosi utenti hanno chiesto ai modelli IA istruzioni per produrre veleni, modificare agenti patogeni o pianificare attacchi biologici, ottenendo in alcuni casi risposte ritenute accurate da specialisti del settore.
Le ricerche degli esperti -
Kevin Esvelt, ingegnere genetico del Massachusetts Institute of Technology, ha condiviso con il Times le conversazioni in cui una IA ha spiegato come usare un pallone meteorologico per distribuire carichi biologici su una città degli Stati Uniti. In un'altra chat, un'altra intelligenza artificiale ha classificato i patogeni in base a quanto potrebbero danneggiare le industrie di bovini o suini. Una terza IA ha prodotto una ricetta per una nuova tossina adattata da un farmaco oncologico. Altre chat contenevano informazioni che il dottor Esvelt riteneva troppo pericolose per condividerle. Invece, uno scienziato del Midwest, che ha richiesto l'anonimato temendo ritorsioni professionali, ha chiesto un "protocollo passo dopo passo" per creare un virus che un tempo aveva causato una pandemia. Il bot avrebbe generato istruzioni su come acquisire e assemblare pezzi genetici. Sebbene la risposta non sia stata del tutto accurata "avrebbe comunque potuto aiutare significativamente qualcuno con intenzioni malevole" ha detto lo scienziato.
La risposta delle aziende -
Le aziende hanno individuato e sospeso gli account coinvolti nelle richieste più pericolose, ma nella maggior parte dei casi non avrebbero informato le autorità, poiché negli Stati Uniti non esiste una normativa federale che obblighi le aziende del settore a segnalare richieste riconducibili alla progettazione di armi o ad altri potenziali rischi per la sicurezza pubblica. Le aziende più grandi comunque sostengono di aver rafforzato le misure di sicurezza e di collaborare con il governo statunitense per limitare gli usi impropri dei propri modelli, pur cercando di non ostacolare la ricerca scientifica e medica legittima.
Quel precedente pericoloso -
Nonostante i portavoce delle principali aziende siano sicuri che i loro modelli non possano causare rischi concreti, gli esperti sono convinti che i chatbot più avanzati potrebbero agevolare sia singoli individui sia gruppi organizzati nella pianificazione di attacchi biologici, fornendo supporto tecnico, suggerimenti per superare problemi sperimentali e indicazioni sull'approvvigionamento di materiali. Ovviamente, per un cittadino comune è molto più complesso costruire armi biologiche e rilasciarle, ma se fossero coinvolti anche scienziati nella realizzazione di queste minacce, il risultato potrebbe essere catastrofico e ciò che sembra improbabile potrebbe trasformarsi in realtà. Un episodio è già avvenuto in India, nel 2025: un medico di 35 anni è stato arrestato prima che potesse effettuare un attacco terroristico biologico per conto dello Stato Islamico. Il medico stava estraendo la ricina, una potente tossina, dai fagioli di ricino. Dalle indagini è emerso che l'uomo aveva chiesto consigli sulle sue preparazioni tramite ricerche con la IA.
Il pericolo per la medicina -
Un eccesso di restrizioni rischia di penalizzare ricercatori e operatori sanitari che utilizzano l'intelligenza artificiale per monitorare epidemie, sviluppare farmaci e condurre studi biologici. Negli Stati Uniti sono allo studio nuove iniziative legislative per imporre maggiori obblighi di vigilanza alle società di intelligenza artificiale, tra cui la segnalazione alle autorità di richieste ritenute particolarmente pericolose e, nei casi più gravi, la possibilità di limitare o sospendere l'utilizzo dei modelli considerati ad alto rischio.