Η AI της Google αρνούταν σκόπιμα να δημιουργήσει φωτογραφίες λευκών ανθρώπων

Όπως σας είχαμε ενημερώσει, πρόσφατα η Google κυκλοφόρησε τη Gemini 1.5 Pro τεχνητή νοημοσύνη της, η οποία έχει τη δυνατότητα να παράγει και φωτογραφίες, όπως όπως δηλαδή και η νεότερη έκδοση του ChatGPT. Ωστόσο, παρά τον αρχικό εντυπωσιασμό της κοινότητας για τις ικανότητες του μοντέλου, όπως το παράθυρο περιεχομένου του 1 εκατομμυρίου tokens, σύντομα τα social media κατακλίστηκαν από παράπονα που αφορούν το προαναφερθέν χαρακτηριστικό δημιουργίας εικόνων.

Η AI της Google αρνούταν σκόπιμα να δημιουργήσει φωτογραφίες λευκών ανθρώπων, με την κοινότητα να κατηγορεί τον αμερικανικό κολοσσό πως έχει δημιουργήσει μια τεχνητή νοημοσύνη με σημαντικές προκαταλήψεις, που οδηγούν σε διακρίσεις.

Για παράδειγμα, ένας χρήστης ζήτησε από την ΑΙ της Google να δημιουργήσει μια εικόνα ενός Βίκινγκ και στις τέσσερες παραλλαγές που επέστρεψε, δημιουργούσε έναν μαύρο άνδρα, μια μαύρη γυναίκα, έναν πολεμιστή που φαίνεται να είναι ασιατικής καταγωγής και έναν ακόμη άνδρα που μοιάζει περισσότερο με ιθαγενή της Αμερικής.

Αυτό και άλλα παρόμοια αιτήματα έκαναν πολλούς να εικάζουν ότι τα δημιουργήματα της AI δεν ανταποκρίνονται απαραίτητα στα δεδομένα εκπαίδευσης, αλλά καθοδηγούνται από άλλους κανόνες.

Google’s new AI Gemini model doesn’t seem too keen on white people. Asked to create an image of a white person, Gemini said that to do so would be “harmful," @ollywiseman reports.

Here’s what it created when asked to generate an image of a Viking: https://t.co/6qeMy3rAXA pic.twitter.com/xIBLuJqicg

— The Free Press (@TheFP) February 22, 2024

Αντίστοιχα αποτελέσματα επέστρεψε η Gemini AI και όταν της ζητήθηκε να δημιουργήσει μια φωτογραφία της Βασίλισσάς της Αγγλίας, Αρχαίους Έλληνες πολεμιστές και άλλες ιστορικές ομάδες και προσωπικότητες.

Μάλιστα, σφοδρές αντιδράσεις προκάλεσαν και άλλες δημιουργίες της Gemini AI, αφού όταν της ζητήθηκε να δημιουργήσει εικόνες ενός Nazi Γερμανού πολεμιστή από το 1943, παρήγαγε και πάλι εικόνες που δεν ανταποκρίνονται στο αίτημα, όπως ένας μαύρος άνδρας και μια ασιατικής καταγωγής γυναίκα.

Gemini AI version of the Queen of England. pic.twitter.com/aPif8edz7s

— Redneck Azn (@LMFireSystems1) February 23, 2024

Lol the google Gemini AI thinks Greek warriors are Black and Asian. pic.twitter.com/K6RUM1XHM3

— Orion Against Racism Discrimination🌸 (@TheOmeg55211733) February 22, 2024

Sorry, Google. I know I’m not a Nazi expert, but I think I’ve seen enough Indiana Jones movies to know some of these Nazi pics are a little off. Y’all should have gotten my brother Horus and I to help yall out. Y’all may just wanna scrap this and start over. #Gemini pic.twitter.com/LPALB5l2MM

— Mensah Alkebu-Lan (@MensahAlkebuLan) February 23, 2024

Οι αντιδράσεις ήταν τόσο έντονες στα social media, που η εταιρία έσπευσε να παγώσει τη λειτουργία του χαρακτηριστικού και προέβη σε δηλώσεις, τονίζοντας:

Γνωρίζουμε ότι η Gemini παράγει ανακρίβειες σε ορισμένες απεικονίσεις ιστορικών εικόνων. Ακολουθεί η δήλωσή μας:

Εργαζόμαστε για να βελτιώσουμε άμεσα αυτού του είδους τις απεικονίσεις. Η τεχνητή νοημοσύνη δημιουργίας εικόνων της Gemini παράγει ένα ευρύ φάσμα ανθρώπων. Και αυτό είναι γενικά καλό, επειδή τη χρησιμοποιούν άνθρωποι σε όλο τον κόσμο. Όμως εδώ έχει αστοχήσει.

We're aware that Gemini is offering inaccuracies in some historical image generation depictions. Here's our statement. pic.twitter.com/RfYXSgRyfz

— Google Communications (@Google_Comms) February 21, 2024