Το Google Photos αναγνώριζε μαύρους ανθρώπους ως γορίλες

Ο αλγόριθμος αναγνώρισης εικόνας του Google Photos, συγκέντρωνε τις φωτογραφίες ανθρώπων με σκοτεινούς τόνους δέρματος σε άλμπουμ με την ονομασία “Γορίλες”. Το λογισμικό αυτόματης αναγνώρισης διακρίνει τα χαρακτηριστικά μιας φωτογραφίας και μπορεί να δημιουργήσει ένα άλμπουμ κατηγοριοποιώντας τα, για παράδειγμα φωτογραφίες με αυτοκίνητα, φωτογραφίες σε βιβλιοθήκη κλπ. Το πρόβλημα διαπιστώθηκε από τον Jacky Alcine, όταν αποκλειστικά οι φωτογραφίες που εικονιζόταν αυτός και η φίλη του προστίθονταν στο άλμπουμ με την ονομασία “Γορίλες”.

Η απάντηση ήρθε άμεσα από τους μηχανικούς της Google. “Λυπούμαστε πολύ και ζητάμε συγγνώμη για αυτό. Θα πάρουμε άμεση δράση για να αποτρέψουμε την εμφάνιση αυτού του αποτελέσματος. Προφανώς υπάρχει πολλή δουλειά που πρέπει να γίνει ακόμα με την αυτόματη αναγνώριση και προσπαθούμε να βρούμε πως μπορούμε να αποτρέψουμε τέτοιου είδους λάθη στο μέλλον” δήλωσε σε tweet o Yonatan Zunger, μηχανικός της Google. Προς το παρόν έχει αφαιρεθεί η κατηγορία “Γορίλες” από το Google Photos, αλλά η Google ψάχνει μια πιο αποτελεσματική λύση.

Google Photos, y'all fucked up. My friend's not a gorilla. pic.twitter.com/SMkMCsNVX4

— diri noir avec banan (@jackyalcine) June 29, 2015

And it's only photos I have with her it's doing this with (results truncated b/c personal): pic.twitter.com/h7MTXd3wgo

— diri noir avec banan (@jackyalcine) June 29, 2015

Like I understand HOW this happens; the problem is moreso on the WHY. This is how you determine someone's target market.

— diri noir avec banan (@jackyalcine) June 29, 2015

@jackyalcine Holy fuck. G+ CA here. No, this is not how you determine someone's target market. This is 100% Not OK.

— Yonatan Zunger (@yonatanzunger) June 29, 2015