ChatGPT, Gemini και Claude έχουν εμμονή με τον ίδιο άνθρωπο ξανά και ξανά

Ένας παράξενος χαρακτήρας έχει αρχίσει να τραβά την προσοχή ερευνητών και χρηστών τεχνητής νοημοσύνης. Το όνομά του είναι Elias Thorne και, παρά το γεγονός ότι εμφανίζεται ξανά και ξανά σε ιστορίες που δημιουργούν τα AI chatbots στην πραγματικότητα δεν υπάρχει.

Σύμφωνα με μελέτη του Cornell University ο Elias Thorne εμφανίζεται σε χιλιάδες κείμενα που παράγουν μεγάλα γλωσσικά μοντέλα από εταιρείες όπως η OpenAI, η Anthropic και η Google. Άλλοτε παρουσιάζεται ως φαροφύλακας, άλλοτε ως ωρολογοποιός, βιβλιοθηκάριος ή εξερευνητής, πρωταγωνιστώντας σε αμέτρητες φανταστικές ιστορίες.

Συγκεκριμένα οι ερευνητές ανέλυσαν περίπου 20.000 αφηγήσεις που δημιουργήθηκαν από AI και διαπίστωσαν ότι συγκεκριμένα ονόματα και επαγγέλματα επαναλαμβάνονταν με εντυπωσιακή συχνότητα. Ο Elias Thorne και ο ρόλος του φαροφύλακα εμφανίζονταν σε μεγάλο ποσοστό των ιστοριών χωρίς όμως να εντοπίζεται κάποια σαφής πηγή προέλευσης.

Μία από τις πιθανότερες εξηγήσεις είναι ότι τα σύγχρονα μοντέλα τεχνητής νοημοσύνης εκπαιδεύονται σε δεδομένα που έχουν ήδη επηρεαστεί από παλαιότερα AI συστήματα. Με τον τρόπο αυτό, ορισμένες ιδέες, ονόματα και αφηγηματικά μοτίβα ανακυκλώνονται συνεχώς, δημιουργώντας έναν κλειστό κύκλο επανάληψης.

Η έρευνα δημοσιεύθηκε ως προδημοσίευση (preprint) στην πλατφόρμα arXiv.