Έλληνες ερευνητές ισχυρίζονται ότι μια τεχνητή νοημοσύνη "μιλάει" τη δική της μυστική γλώσσα

Τι ισχυρίζονται για το DALL-E 2
10 Ιουνίου 2022 14:25
Έλληνες ερευνητές ισχυρίζονται ότι μια τεχνητή νοημοσύνη "μιλάει" τη δική της μυστική γλώσσα

Αν και από τον τίτλο θα νομίζετε ότι πρόκειται για ένα οριακά εφιαλτικό σενάριο βγαλμένο από κάποια δυστοπική ταινία επιστημονικής φαντασίας, η συγκεκριμένη είδηση είναι γειωμένη στην δική μας πραγματικότητα. 

Μια ομάδα Ελλήνων ερευνητών του Πανεπιστημίου του Austin στο Τέξας ισχυρίζονται ότι μια τεχνητή νοημοσύνη μάλλον έχει ανακαλύψει τη δική της μυστική γλώσσα που μόνο αυτή καταλαβαίνει. Ο λόγος για τη DALL-E 2, για την οποία σας είχαμε ενημερώσει πως πρόκειται για μια ΑΙ που ανέπτυξε η κοινοπραξία της OpenAI και μπορεί να δημιουργεί εικόνες μέσα από μερικές λέξεις. 

Αυτή η νέας γενιάς τεχνητή νοημοσύνη, λένε οι επιστήμονες ότι αφότου παίρνει το κείμενο και το μετατρέπει σε εικόνες με ενσωματωμένες λεζάντες, μετά παίρνει αυτές τις λεζάντες και τις μετατρέπει σε κάτι το ακαταλαβίστικό εντός της μηχανής της. 

Τη σύνοψη της έρευνάς τους δημοσίευσαν ο Αλέξης Δημάκης, καθηγητής στο Πανεπιστήμιο του Austin του Τέξας μαζί με τον Γιάννη Δάρα (μαθητής Computer Science Ph.D και Student Researcher στη Google). Σε αυτή καταλήγουν ότι η DALL-E 2 θεωρεί τη λέξη "Vicootes" ως "vegetables" (λαχανικά), τη φράση "sea animals that a whale would consume" τη μεταφράζει ως "Wa ch zod rea" και το "Apoploe vesrreaitais eating Contarra ccetnxniams luryca tanniounons" ως "πουλιά που τρώνε έντομα". Λέξεις που μόνο αυτή μπορεί να κατανοήσει. 

Οι ισχυρισμοί τους είναι αρκετά σοβαροί διότι εάν αποδειχθούν αληθείς τότε αυτό σημαίνει ότι υπάρχουν σημαντικά κενά ασφαλείας και μετάφρασης στα τεράστια μοντέλα ΑΙ. Είναι όμως και έτσι τα πράγματα; Το πιο πιθανό είναι πως όχι, αν και υπάρχει ένα "αλλά".

Σύμφωνα με τον Aaron J. Snoswell, ερευνητή στο τμήμα "Computational Law & AI Accountability" του Queensland University of Technology, είναι απίθανο η DALL-E 2 να έχει αναπτύξει μια "μυστική γλώσσα". 

Για αρχή το να επιβεβαιωθούν αυτοί οι ισχυρισμοί για την εν λόγω ΑΙ και άλλα παρόμοια τεράστια τέτοια ΑΙ μοντέλα είναι τόσο δύσκολο επειδή υπάρχουν πολλοί λίγοι ερευνητές και χειριστές αυτής της τεχνολογίας. Ο Snoswell εξηγεί περαιτέρω ότι οποιεσδήποτε δημοσιευμένες φωτογραφίες, όωπς στο Twitter π.χ. θα πρέπει να λαμβάνονται με κάθε επιφύλαξη, επειδή ένας άνθρωπος τις επέλεξε από έναν τεράστιο αριθμό εικόνων που γέννησε η ΑΙ.

Ένας άλλο ερευνητής αναφέρει ότι όλο αυτό δεν είναι απόδειξη ότι η τεχνητή νοημοσύνη αυτή ανέπτυξε μια μυστική γλώσσα, αλλά απόδειξη της τυχαίας φύσης της ΑΙ. 

Το "Αλλά" όμως παραμένει στο ερώτημα του γιατί συγκεκριμένα η DALL-E 2 συσχετίζει αυτές τις εικόνες με ακαταλαβίστικες λέξεις.