Ο Sam Altman προειδοποιεί...

Στο πρώτο επεισόδιο του podcast της OpenAI ο Sam Altman έκανε μια δήλωση που ξάφνιασε πολλούς. Αναγνώρισε ότι οι χρήστες δείχνουν υπερβολική εμπιστοσύνη στο ChatGPT παρότι η τεχνητή νοημοσύνη έχει την τάση να παράγει ψευδείς πληροφορίες. Όπως είπε χαρακτηριστικά η AI «φαντάζεται» και αυτό από μόνο του είναι λόγος για προσοχή.

Βασισμένος σε αυτές τις ανησυχίες ο Sam Altman δεν δίστασε να εκφράσει την έκπληξή του για την τυφλή εμπιστοσύνη που δείχνει ο κόσμος στο ChatGPT. Τόνισε ότι πρόκειται για ένα σύστημα που μπορεί να παρουσιάσει με βεβαιότητα πληροφορίες οι οποίες δεν έχουν καμία σχέση με την πραγματικότητα. Παρά την εντυπωσιακή του ικανότητα στη σύνταξη και τη συνοχή των απαντήσεων δεν έχει επίγνωση ούτε κατανόηση του περιεχομένου που παράγει.

Η ίδια η OpenAI έχει αναγνωρίσει ότι το φαινόμενο της παραγωγής πλασματικών πληροφοριών παραμένει μια από τις μεγαλύτερες προκλήσεις στην ανάπτυξη γλωσσικών μοντέλων. Τα συστήματα βασίζονται σε πιθανολογική πρόβλεψη και όχι σε γνώση ή λογική κρίση. Όσο πιο πειστική είναι η διατύπωση τόσο πιο εύκολα μπορεί να περάσει ως αλήθεια κάτι που είναι εντελώς αναληθές.