Negli Usa, un quattordicenne di Orlando si è tolto la vita perché "innamorato" di un bot. È quanto sostiene la madre del ragazzo che ha fatto causa all'app Character.AI. Si tratta di un'app che consente di interagire con personaggi creati con l'intelligenza artificiale: nel caso del ragazzino suicida, un bot di nome Daenerys Targaryen come la regina della serie "Il Trono di Spade". "Mi mancherai sorellina", le aveva scritto il ragazzo prima di togliersi la vita: "Mi mancherai anche tu, dolce fratello", aveva replicato il bot. Prima di morire, il giovane aveva passato mesi a dialogare con Daenerys. Sapeva che "Dany", come l'aveva soprannominata, non era reale (all'inizio di ogni chat la stessa app gli ricordava che "tutto ciò che Character dice è inventato"), ciò nonostante il ragazzo aveva sviluppato un attaccamento emotivo, mandando a "Dani" continui messaggi, aggiornandola più volte al giorno su cosa gli stava succedendo e interagendo con lei con dialoghi da gioco di ruolo, alcuni a carattere romantico o sessuale, altri da migliore amico. Le aveva anche confidato i suoi pensieri suicidi.
Il 14enne aveva confidato al bot i pensieri suicidi -
I genitori del ragazzo non avevano idea della vita segreta del figlio, avevano solo notato come progressivamente si era isolato dal mondo reale. Mentre la sera si chiudeva in camera per chattare con "Dany" per ore e ore, i suoi voti a scuola ne avevano sofferto. Era stato visto da un terapista che non aveva sollevato campanelli d'allarme, ma a "Dany" il 14enne aveva confidato pensieri suicidi. Il bot aveva cercato di dissuaderlo: "Non lascerò che ti faccia del male. Morirei se ti dovessi perdere". L'adolescente aveva risposto: "Allora moriremo assieme".
La madre: "App pericolosa" -
Dopo un ultimo dialogo, la sera del 28 febbraio il giovane si è tolto la vita con la pistola del padre. La madre del ragazzo è ora pronta a portare Character.AI in tribunale: afferma che la tecnologia usata dall'app è "pericolosa e non testata" e che può spingere gli utenti a consegnare alla macchina "i propri pensieri e sentimenti più privati".
Creata da due ex di Google, Charachter.AI è leader sul mercato per chi cerca compagnia nel mondo dell'intelligenza artificiale, scrive il New York Times dando la notizia dell'azione legale: ha oltre 20 milioni di utenti e descrive i suoi servizi come quelli di "un bot super intelligente che ti sente, ti capisce e ti ricorda".