Έλληνες ερευνητές ισχυρίζονται ότι μια τεχνητή νοημοσύνη "μιλάει" τη δική της μυστική γλώσσα

Αν και από τον τίτλο θα νομίζετε ότι πρόκειται για ένα οριακά εφιαλτικό σενάριο βγαλμένο από κάποια δυστοπική ταινία επιστημονικής φαντασίας, η συγκεκριμένη είδηση είναι γειωμένη στην δική μας πραγματικότητα. 

Μια ομάδα Ελλήνων ερευνητών του Πανεπιστημίου του Austin στο Τέξας ισχυρίζονται ότι μια τεχνητή νοημοσύνη μάλλον έχει ανακαλύψει τη δική της μυστική γλώσσα που μόνο αυτή καταλαβαίνει. Ο λόγος για τη DALL-E 2, για την οποία σας είχαμε ενημερώσει πως πρόκειται για μια ΑΙ που ανέπτυξε η κοινοπραξία της OpenAI και μπορεί να δημιουργεί εικόνες μέσα από μερικές λέξεις. 

Αυτή η νέας γενιάς τεχνητή νοημοσύνη, λένε οι επιστήμονες ότι αφότου παίρνει το κείμενο και το μετατρέπει σε εικόνες με ενσωματωμένες λεζάντες, μετά παίρνει αυτές τις λεζάντες και τις μετατρέπει σε κάτι το ακαταλαβίστικό εντός της μηχανής της. 

Τη σύνοψη της έρευνάς τους δημοσίευσαν ο Αλέξης Δημάκης, καθηγητής στο Πανεπιστήμιο του Austin του Τέξας μαζί με τον Γιάννη Δάρα (μαθητής Computer Science Ph.D και Student Researcher στη Google). Σε αυτή καταλήγουν ότι η DALL-E 2 θεωρεί τη λέξη "Vicootes" ως "vegetables" (λαχανικά), τη φράση "sea animals that a whale would consume" τη μεταφράζει ως "Wa ch zod rea" και το "Apoploe vesrreaitais eating Contarra ccetnxniams luryca tanniounons" ως "πουλιά που τρώνε έντομα". Λέξεις που μόνο αυτή μπορεί να κατανοήσει. 

DALLE-2 has a secret language.
"Apoploe vesrreaitais" means birds.
"Contarra ccetnxniams luryca tanniounons" means bugs or pests.

The prompt: "Apoploe vesrreaitais eating Contarra ccetnxniams luryca tanniounons" gives images of birds eating bugs.

A thread (1/n)? pic.twitter.com/VzWfsCFnZo

— Giannis Daras (@giannis_daras) May 31, 2022

We feed the text "Vicootes" from the previous image to DALLE-2. Surprisingly, we get (dishes with) vegetables! We then feed the words: "Apoploe vesrreaitars" and we get birds. It seems that the farmers are talking about birds, messing with their vegetables! (3/n) pic.twitter.com/OiU7NPTbor

— Giannis Daras (@giannis_daras) May 31, 2022

Some words from the DALLE-2 language can be learned and used to create absurd prompts. For example, "painting of Apoploe vesrreaitais" gives a painting of a bird. "Apoploe vesrreaitais" means to the model "something that flies" and can be used across diverse styles. (5/n) pic.twitter.com/w73iKN4kM1

— Giannis Daras (@giannis_daras) May 31, 2022

We wrote a small paper with @AlexGDimakis summarizing our findings.
Please find the paper here: https://t.co/1xBkH07Nng
Arxiv version coming soon.
(7/n, n=7).

— Giannis Daras (@giannis_daras) May 31, 2022

Οι ισχυρισμοί τους είναι αρκετά σοβαροί διότι εάν αποδειχθούν αληθείς τότε αυτό σημαίνει ότι υπάρχουν σημαντικά κενά ασφαλείας και μετάφρασης στα τεράστια μοντέλα ΑΙ. Είναι όμως και έτσι τα πράγματα; Το πιο πιθανό είναι πως όχι, αν και υπάρχει ένα "αλλά".

Σύμφωνα με τον Aaron J. Snoswell, ερευνητή στο τμήμα "Computational Law & AI Accountability" του Queensland University of Technology, είναι απίθανο η DALL-E 2 να έχει αναπτύξει μια "μυστική γλώσσα". 

Για αρχή το να επιβεβαιωθούν αυτοί οι ισχυρισμοί για την εν λόγω ΑΙ και άλλα παρόμοια τεράστια τέτοια ΑΙ μοντέλα είναι τόσο δύσκολο επειδή υπάρχουν πολλοί λίγοι ερευνητές και χειριστές αυτής της τεχνολογίας. Ο Snoswell εξηγεί περαιτέρω ότι οποιεσδήποτε δημοσιευμένες φωτογραφίες, όωπς στο Twitter π.χ. θα πρέπει να λαμβάνονται με κάθε επιφύλαξη, επειδή ένας άνθρωπος τις επέλεξε από έναν τεράστιο αριθμό εικόνων που γέννησε η ΑΙ.

Ένας άλλο ερευνητής αναφέρει ότι όλο αυτό δεν είναι απόδειξη ότι η τεχνητή νοημοσύνη αυτή ανέπτυξε μια μυστική γλώσσα, αλλά απόδειξη της τυχαίας φύσης της ΑΙ. 

No, DALL-E doesn’t have a secret language.

(or at least, we haven't found one yet)

This viral DALL-E thread has some pretty astounding claims. But maybe the reason they’re so astounding is that, for the most part, they're not true.

Thread ?? (1/15)https://t.co/8F2WDp7lTK

— Benjamin Hilton (@benjamin_hilton) May 31, 2022

Το "Αλλά" όμως παραμένει στο ερώτημα του γιατί συγκεκριμένα η DALL-E 2 συσχετίζει αυτές τις εικόνες με ακαταλαβίστικες λέξεις.