Un concorso di bellezza senza precedenti: oltre 6mila partecipanti per cento paesi rappresentati. Ma, soprattutto, niente uomini in giuria: solo un computer, chiamato a fare delle scelte finalmente oggettive. Peccato che delle 44 vincitrici quasi tutte fossero bianche. Neanche a dirlo, è scattata l'accusa di razzismo, che ha investito i programmatori del gruppo di ricerca "Youth Laboratories", supportati da Microsoft nella realizzazione del giudice artificiale: Beauty.AI. La partecipazione di concorrenti di colore era stata infatti numerosa, ma solo una ragazza dalla pelle scura aveva passato le selezioni.
Nulla di sorprendente per Alex Zhavoronkov, ricercatore a capo del progetto: "Anche se la pelle bianca non è stata inserita come parametro di bellezza, se non si hanno molte persone di colore all'interno del set di dati, i risultati potrebbero effettivamente essere distorti. Quando alleni un algoritmo a riconoscere certi schemi, il rischio di influenzarlo e renderlo parziale esiste". Il punto è che gli algoritmi riflettono le prospettive degli esseri umani che li creano: adottano i loro pregiudizi. Ciò significa che, nonostante l'idea che i computer siano neutrali e oggettivi, spesso possono riprodurre e amplificare concetti razzisti. Così i risultati di Beauty. AI offrono offrono "la perfetta illustrazione del problema", secondo Bernard Harcourt, professore di diritto e scienze politiche della Columbia University: "L'idea che si possa arrivare a una concezione culturalmente neutrale di bellezza è semplicemente sbagliata".