Η OpenAI παίρνει μέτρα για να «δαμάσει» τις υπερ-ευφυείς AI του μέλλοντος

Μέσα στους τελευταίους μήνες η τεχνητή νοημοσύνη έχει γίνει πρώτο θέμα συζήτησης παγκοσμίως, με τις εντυπωσιακές δυνατότητες των γλωσσικών μοντέλων όπως το ChatGPT, αλλά και των δημιουργικών εργαλείων όπως το Midjourney να εντυπωσιάζουν. Ταυτόχρονα, όμως, πολλοί έχουν κρούσει τον κώδωνα του κινδύνου, επισημαίνοντας πως η ανάπτυξη της εν λόγω τεχνολογίας με ραγδαίους ρυθμούς μπορεί να οδηγήσει σε ανεξέλεγκτες καταστάσεις.

Όπως φαίνεται, το φόβο αυτό συμμερίζεται και η OpenAI, η ερευνητική εταιρία που ευθύνεται για το GPT και το DALL-E, δύο από τα δημοφιλέστερα μοντέλα τεχνητής νοημοσύνης που χρησιμοποιούνται σήμερα. Για το λόγο αυτό, η εταιρία ανακοίνωσε την ίδρυση μιας νέα ομάδας που θα ασχολείται αποκλειστικά με τη διαχείριση των κινδύνων που ελλοχεύουν από τις ακόμη πιο ισχυρές AI του μέλλοντος.

Πρακτικά, στόχος της OpenAI είναι να «δαμάσει» τις υπερ-ευφυείς AI του μέλλοντος που ενδεχομένως θα μπορούσαν να γίνουν ανεξέλεγκτες, πριν αυτό να συμβεί όντως και να είναι αργά.

Η επίσημη ανακοίνωση στην ιστοσελίδα της OpenAI τονίζει:

Επί του παρόντος, δεν έχουμε λύση για την καθοδήγηση ή τον έλεγχο μιας δυνητικά υπερ-ευφυούς τεχνητής νοημοσύνης και την αποτροπή της από το να αποστατήσει. Οι τρέχουσες τεχνικές μας για την ευθυγράμμιση της AI, όπως η ενισχυτική μάθηση από τo ανθρώπινo feedback, βασίζονται στην ικανότητα των ανθρώπων να επιβλέπουν την AI. Αλλά οι άνθρωποι δεν θα είναι σε θέση να επιβλέπουν αξιόπιστα συστήματα πολύ πιο έξυπνα από εμάς, και έτσι οι τρέχουσες τεχνικές ευθυγράμμισης δεν θα μπορούν να κλιμακωθούν στην υπερ-νοημοσύνη. Χρειαζόμαστε νέες επιστημονικές και τεχνικές ανακαλύψεις.

Ο στόχος μας είναι να δημιουργήσουμε έναν ερευνητή αυτοματοποιημένης ευθυγράμμισης περίπου ανθρώπινου επιπέδου. Στη συνέχεια μπορούμε να χρησιμοποιήσουμε τεράστιες ποσότητες υπολογιστών για να κλιμακώσουμε τις προσπάθειές μας και να ευθυγραμμίσουμε επαναληπτικά την υπερ-νοημοσύνη.

Επικεφαλής της νέας ομάδας θα είναι οι Ilya Sutskever και Jan Leik, με την OpenAI να τονίζει πως θα αφιερώσει το 20% της υπολογιστικής ισχύος που διαθέτει επί του παρόντος για αυτή την πρωτοβουλία.

Μπορείτε να μάθετε περισσότερα για το όλο εγχείρημα μέσα από το σύνδεσμο που περιλαμβάνεται στο παρακάτω tweet:

We need new technical breakthroughs to steer and control AI systems much smarter than us.

Our new Superalignment team aims to solve this problem within 4 years, and we’re dedicating 20% of the compute we've secured to date towards this problem.

Join us! https://t.co/cfJMctmFNj

— OpenAI (@OpenAI) July 5, 2023