Το ChatGPT… “τρελάθηκε” για λίγο

Πρόσφατα το ChatGPT ξεκίνησε να συμπεριφέρεται πάρα πολύ περίεργα, απαντώντας με ασυναρτησίες στα αιτήματα των χρηστών, ξεκινώντας συζητήσεις στα social media πως η AI…τρελάθηκε!

Περνώντας σε λεπτομέρειες, το απόγευμα της Τρίτης 20 Φεβρουαρίου το μεγάλο γλωσσικό μοντέλο της OpenAI ξεκίνησε τις αλλόκοτες απαντήσεις. Για παράδειγμα, ενώ κάποιοι του ζητούσαν πράγματα στα αγγλικά, το ChatGPT απαντούσε στα Ισπανικά! Σε μια άλλη περίπτωση το ChatGPT ξεκίνησε να επαναλαμβάνει τη φράση "It is – and it is" ατελείωτα, χωρίς ο χρήστης να έχει ζητήσει κάτι τέτοιο.

Η απάντηση αυτή δίχως υπερβολή ανατρίχιασε πολλούς χρήστες στα social media, αφού έκαναν τον παραλληλισμό με την σκηνή από το The Shining του Stephen King, όπου ο ταλαιπωρημένος συγγραφέας Jack Torrance αρχίζει να χάνει το μυαλό του ενώ δουλεύει πάνω στο μυθιστόρημά του και γράφει τη φράση "All work and no play makes Jack a dull boy" σε κάθε σελίδα!

Παράλληλα, όπως μπορείτε να δείτε και από το tweet που ακολουθεί, το ChatGPT απαντούσε πολλές φορές και με μηνύματα που απλά δεν έβγαζαν νόημα, ενώ σε μια άλλη περίπτωση έμοιαζε σα να τραγουδάει ίσως, επαναλαμβάνοντας ξανά και ξανά τη φράση “Happy Listening!” συνοδευόμενη από ένα emoji.

ChatGPT is apparently going off the rails right now and no one can explain why pic.twitter.com/DRXP6jiIVR

— Muhammad Nadeem (@TurabiMNT) February 21, 2024

Φυσικά, μιας και το θέμα ήταν αρκετά σοβαρό και επηρέαζε πολλούς χρήστες, η OpenAI έσπευσε να ξεκαθαρίσει την κατάσταση, τονίζοντας:

Στις 20 Φεβρουαρίου 2024, ένα optimization για την εμπειρία των χρηστών εισήγαγε ένα bug στον τρόπο με τον οποίο το μοντέλο επεξεργάζεται τη γλώσσα.

Τα LLM παράγουν απαντήσεις με τυχαία δειγματοληψία λέξεων που βασίζεται εν μέρει σε πιθανότητες. Η "γλώσσα" τους αποτελείται από αριθμούς που αντιστοιχούν σε tokens.

Σε αυτή την περίπτωση, το bug ήταν στο βήμα όπου το μοντέλο επιλέγει αυτούς τους αριθμούς. Σαν να χάθηκε στη μετάφραση, το μοντέλο επέλεγε ελαφρώς λανθασμένους αριθμούς, οι οποίοι παρήγαγαν ακολουθίες λέξεων που δεν έβγαζαν νόημα. Πιο τεχνικά, τα inference kernels παρήγαγαν λανθασμένα αποτελέσματα όταν χρησιμοποιήθηκαν σε ορισμένες GPU διατάξει.

Μετά τον εντοπισμό της αιτίας αυτού του περιστατικού, κυκλοφορήσαμε μια διόρθωση και επιβεβαιώσαμε ότι το θέμα επιλύθηκε.

Η επίσημη τοποθέτηση της OpenAI για τις ασυνάρτητες απαντήσεις του ChatGPT:

pic.twitter.com/O94JGEcYP2

— ChatGPT (@ChatGPTapp) February 22, 2024