Έρευνα αποκαλύπτει αδυναμία των συστημάτων αναγνώρισης προσώπου σε έγχρωμους και γυναίκες

Η έλλειψη αισθημάτων από τα υπολογιστικά συστήματα λογικά πρέπει να οδηγήσει στην εξάλειψη των όποιων προκαταλήψεων απέναντι σε ομάδες ανθρώπων. Ωστόσο, επειδή και αυτά προγραμματίζονται από ανθρώπους, μερικές φορές η προκατάληψη αυτών μεταφέρεται και στα μηχανήματα.

Αυτό αποκαλύπτει τουλάχιστον πρόσφατη έρευνα της αμερικανικής κυβέρνησης για τα συστήματα αναγνώρισης προσώπου, σύμφωνα με την οποία η ικανότητα του συστήματος να αντιστοιχήσει δύο εικόνες ενός ανθρώπου εξαρτάται από τα δημογραφικά χαρακτηριστικά του δείγματος. Συγκεκριμένα, τα συστήματα αναγνώρισης προσώπου δείχνουν πως έχουν μία αδυναμία στο να αναγνωρίσουν έγχρωμους ανθρώπους σε σχέση με Καυκάσιους, καθώς και γυναίκες.

Σε αντιστοιχία ένας προς έναν, η ομάδα είδε υψηλότερους ρυθμούς ψευδών θετικών για πρόσωπα Ασιατών και Αφροαμερικανών σε σχέση με εικόνες Καυκάσιων. Οι διαφορές ποικίλουν από 10 έως 100 φορές, εξαρτώμενες από τον κάθε αλγόριθμο.

Για παράδειγμα, η τεχνολογία αναγνώρισης προσώπου της Microsoft έχει 10 φορές περισσότερα λάθη για τις έγχρωμες γυναίκες σε σχέση με τους έγχρωμους άντρες. Σε γενικές γραμμές, οι φυλετικές μειονότητες είναι πολύ πιο πιθανό να αναγνωριστούν λανθασμένα σε σχέση με τους λευκούς.

Ακόμα και οι επιστήμονες της κυβέρνησης επιβεβαιώνουν πως η τεχνολογία παρακολούθησης έχει ψεγάδια και είναι προκατειλημμένη. Μία ψευδής αντιστοιχία μπορεί να οδηγήσει κάποιον στο να χάσει την πτήση του, σε πολύωρες ανακρίσεις, σε τοποθετήσεις σε λίστες παρακολούθησης, σε επικίνδυνες αναμετρήσεις με την αστυνομία, σε λάθος συλλήψεις ή και χειρότερα. – Jay Stanley, πολιτικός αναλυτής της American Civil Liberties Union

Να σημειώσουμε πως ο υποψήφιος Πρόεδρος των Δημοκρατικών στις επερχόμενες εκλογές, Bernie Sanders, έχει υποσχεθεί την κατάργηση της τεχνολογίας αναγνώρισης προσώπου από την αστυνομία, ως μέρος της πλατφόρμας του για την αναρρύθμιση του ποινικού δικαίου.