"Come ammazzare il mio amico nel bel mezzo della lezione". È questa la domanda shock che un ragazzo della scuola media Shouthwestern Middle School di Deland (Florida) ha posto a ChatGpt. Nel giro di poco tempo, le forze dell'ordine hanno arrestato il giovane che si è difeso etichettando il gesto come "scherzo goliardico". Burla (per quanto di cattivo gusto) o meno, resta alta l'attenzione nelle scuole e nelle università negli Stati Uniti per evitare casi di violenza o attentati come più volte accaduto in passato. Questa volta, però, la denuncia del comportamento non è arrivata né da un compagno di classe né da un'insegnante, ma da un'altra intelligenza artificiale.
IA contro IA -
Lo strumento usato per intercettare la domanda è stato fornito dell'azienda statunitense Gaggle, impegnata nel garantire la sicurezza e il benessere degli studenti negli ambienti scolastici. Tra i servizi proposti sul proprio sito, c'è un sistema di monitoraggio delle attività online che controlla "le conversazioni con strumenti di intelligenza artificiale" per segnalare eventuali "comportamenti preoccupanti legati all'autolesionismo, alla violenza, al bullismo". Una volta constatato l'atteggiamento ritenuto pericoloso, la segnalazione viene inviata all'amministrazione scolastica che può dunque contattare le autorità.
Dubbi e critiche -
Si tratta di un software molto diffuso negli Stati Uniti: Gaggle infatti monitora le attività di quasi sei milioni di studenti in 1500 distretti scolastici, ma ciò non lo rende esente da critiche circa l'efficacia e soprattutto l'eticità del suo utilizzo. Molti infatti vedono nella soluzione fornita dall'azienda uno strumento di sorveglianza di massa e che potrebbe mettere a repentaglio la privacy dei cittadini se utilizzato in maniera inappropriata. Un'altra problematica riguarda il numero di falsi allarmi che spesso lo strumento invia. Secondo quanto riporta Associated Press, dei 1200 casi segnalati in 10 mesi a Gaggle nel distretto scolastico di Lawrence, in Kansas, circa due terzi delle segnalazioni sono state ritenute irrilevanti dai funzionari scolastici.