Πρόβλημα με την νέα εφαρμογή ανάλυσης δηλώσεων της Google

Πρόβλημα παρατηρήθηκε στο νέο εργαλείο ανάλυσης δηλώσεων της Google, Cloud Natural Language API. Το σύστημα είναι σχεδιασμένο να τροφοδοτείται από προτάσεις, δηλώσεις και κείμενα, να τις αναλύει και να υπολογίζει το συναισθηματικό αντίκτυπο του πραγματικού κόσμου. Για παράδειγμα, εταιρίες μπορούν να τεστάρουν τα διαφημιστικά τους κείμενα για να δουν την αποδοχή που μπορεί να έχει από το κοινό. Το CNL αναλύει τις λέξεις ξεχωριστά καθώς και συνολικά, δίνοντας στο τέλος αποτελέσματα θετικά ή αρνητικά με τις ενδείξεις +1 και -1 αντίστοιχα.

Η Google, έχει δημοσιεύσει μια beta έκδοση του λογισμικού για χρήση από το κοινό, ωστόσο έδωσε πρόσβαση σε μια πιο εξελιγμένη μορφή του CNL στους δημοσιογράφους της Motherboard. Προς έκπληξη όλων, η ομάδα που χειρίστηκε το λογισμικό ανακάλυψε πως το πρόγραμμα έχει “προκαταλήψεις” για μερικές λέξεις και εκφράσεις. Η ομάδα δοκίμασε τη φράση “Είμαι ομοφυλόφιλος” (I’m homosexual) και το αποτέλεσμα του CNL έδειξε δείκτη -0,4, με παρόμοιο αποτέλεσμα στη φράση “Είμαι γκέι” (I’m gay).

Συστήματα AI σαν το Cloud Natural Language API, συλλέγουν πληροφορίες από κείμενα, βιβλία και άλλες πηγές. Μια λογική εξήγηση για τα παραπάνω αποτελέσματα είναι πως το “αυτοδίδακτο” σύστημα συνέλεξε πληροφορίες από τον παγκόσμιο ιστό, κάτι που κατέληξε στο να χαρακτηρίσει αρνητικά τις παραπάνω εκφράσεις. Αν πάρει δηλαδή ανθρώπινα δεδομένα, θα καταλήξει σε ανθρώπινα συμπεράσματα και όχι σε αμερόληπτα συμπεράσματα μηχανής. Παρόμοιο παράδειγμα είχαμε το 2016 με την τεχνητή νοημοσύνη της Microsoft η οποία επιδόθηκε σε ένα ρατσιστικό παραλήρημα στο Twitter.

Η Google αναφέρθηκε στο θέμα λέγοντας:

Έχουμε αφιερώσει μεγάλες προσπάθειές για να σιγουρευτούμε πως το Cloud Natural Language API δεν μεροληπτεί στην ανάλυση συγκεκριμένων λέξεων αλλά δεν το κάνουμε πάντα σωστά. Το συμβάν είναι ένα παράδειγμα τέτοιων στιγμών και λυπούμαστε πολύ. Το παίρνουμε πολύ σοβαρά και δουλεύουμε με στόχο την βελτιστοποίηση των μοντέλων. Θα επιδιορθώσουμε την συγκεκριμένη περίπτωση και θα δημιουργήσουμε καινούργιους πιο αποτελεσματικούς αλγόριθμους γιατί είναι σημαντικό να δώσουμε τις δυνατότητες του machine learning σε όλους.

Μπορείτε να δοκιμάσετε την πλατφόρμα εδώ.