Ο σεξιστικός αλγόριθμος του Twitter προτιμά λευκές, αδύνατες κοπέλες

Σκοπός του διαγωνισμού ήταν η εύρεση «προκαταλήψεων» στους αλγόριθμους τεχνητής νοημοσύνης που χρησιμοποιούν οι εταιρείες τεχνολογίας. Οι προκαταλήψεις αυτές αντικατοπτρίζουν τις προκαταλήψεις των σχεδιαστών των προγραμμάτων.

Ο νικητής τους διαγωνισμού Μπόγκνταν Κούλινιτς, μεταπτυχιακός φοιτητής στην ασφάλεια υπολογιστών στο EPFL στην Ελβετία, έδειξε πώς ο αλγόριθμος περικοπής εικόνας του Twitter ευνοεί λεπτότερους και νεότερους ανθρώπους. Πέρυσι τον Σεπτέμβριο ο ίδιος αλγόριθμος είχε βρεθεί να ευνοεί τα λευκά και τα θηλυκά πρόσωπα, με την εταιρεία να ανακοινώνει τον περασμένο Μάιο πως θα σταματήσει να τον χρησιμοποιεί.

Ο Κούλινιτς χρησιμοποίησε μια τεχνική deepfake για να δημιουργήσει αυτόματα διαφορετικά ρεαλιστικά πρόσωπα και στη συνέχεια δοκίμασε τον αλγόριθμο περικοπής για να δει πώς ανταποκρίνεται.

Ο Πάτρικ Χολ, ένας από τους τέσσερις κριτές του διαγωνισμού, σχολίασε «βασικά, όσο πιο λεπτή, νεαρή και θηλυκή είναι μια εικόνα, τόσο περισσότερο θα προτιμάται».

 

Ο αλγόριθμος, που παραχωρήθηκε στον διαγωνισμό από το Twitter, κάνει επίσης διακρίσεις έναντι ατόμων με άσπρα μαλλιά, ενώ οι δυτικοκεντρικές προκαταλήψεις των δημιουργών του τον οδηγούν να ευνοεί το λατινικό κείμενο έναντι της αραβικής γραφής.

Οι αλγόριθμοι τεχνητής νοημοσύνης έχουν επανειλημμένα αποδειχτεί πως κουβαλούν τις προκαταλήψεις των ανθρώπων που τους δημιούργησαν. Οι αλγόριθμοι αναγνώρισης προσώπου κάνουν διακρίσεις βάσει φυλής και φύλου, οι κώδικες επεξεργασίας εικόνας εκφράζουν σεξιστικά στερεότυπα, ενώ ένα πρόγραμμα που κρίνει τις πιθανότητες ενός ανθρώπου να διαπράξει έγκλημα στο μέλλον έχει αποδειχτεί πως είναι ρατσιστικά προκατειλημμένο.

Πηγή:Infowar