Anthropic: Οι δημιουργοί του Claude προειδοποιούν ότι θα χαθεί ο έλεγχος!

Η Anthropic, η κορυφαία εταιρεία τεχνητής νοημοσύνης (AI), με αξία που αγγίζει πλέον το αστρονομικό ποσό των 965 δισεκατομμυρίων δολαρίων, προχώρησε σε μια ιστορική και άκρως ανησυχητική προειδοποίηση. Σε περίπτωση που δε γνωρίζετε, η Anthropic ευθύνεται για την δημιουργία του πιο ικανού AI μοντέλου της αγορά, σύμφωνα με τα benchmarks προγραμματισμού, του Claude Opus.

Περνώντας σε λεπττομέρειες, mέσω του νεοσύστατου ινστιτούτου της, The Anthropic Institute, αποκάλυψε δεδομένα που δείχνουν ότι βρισκόμαστε προ των πυλών της λεγόμενης "αυτο-βελτίωσης" (recursive self-improvement) των AI συστημάτων. Με απλά λόγια, η τεχνητή νοημοσύνη πλησιάζει με γοργά βήματα στο σημείο όπου θα μπορεί να σχεδιάζει και να κατασκευάζει μόνη της τον επόμενο, πολύ πιο εξελιγμένο εαυτό της, χωρίς καμία απολύτως ανθρώπινη παρέμβαση!

Αυτή η μετάβαση αποτυπώνεται ξεκάθαρα στα εσωτερικά στοιχεία που έδωσε η εταιρεία στη δημοσιότητα, τα οποία δείχνουν ότι ο ρόλος των ανθρώπων στη δημιουργία νέων AI μοντέλων περιορίζεται πλέον δραματικά. Σήμερα, πάνω από το 80% του κώδικα στα συστήματα της Anthropic γράφεται αυτόνομα από το ίδιο το Claude, το βασικό μοντέλο της εταιρείας. Η τεχνολογία έχει περάσει πια από τον ρόλο του απλού βοηθού προγραμματισμού σε αυτόν του αυτόνομου ερευνητή. Ενδεικτικά, σε δοκιμές βελτιστοποίησης λογισμικού, το πανίσχυρο μοντέλο Claude Mythos πέτυχε επιτάχυνση των διαδικασιών κατά 52 φορές, τη στιγμή που ένας κορυφαίος ανθρώπινος προγραμματιστής μετά βίας αγγίζει το 4Χ. Σε ένα άλλο πείραμα, αυτόνομα  AI συστήματα αφέθηκαν μόνα τους για 800 ώρες και κατάφεραν να λύσουν το 97% ενός περίπλοκου επιστημονικού προβλήματος, ξεπερνώντας κατά πολύ τους ανθρώπους ερευνητές.

Αυτή η εκρηκτική ταχύτητα ανάπτυξης, όμως, γεννά έναν άμεσο και πρωτόγνωρο κίνδυνο: να χάσει η ανθρωπότητα οριστικά τον έλεγχο. Όταν η τεχνητή νοημοσύνη γράφει διαρκώς νέο κώδικα για να βελτιώσει τον εαυτό της, οι άνθρωποι δεν μπορούν πλέον να παρακολουθήσουν ή να επαληθεύσουν αν αυτές οι αλλαγές είναι ασφαλείς. Το μεγάλο πρόβλημα σε αυτή την προσπάθεια ελέγχου είναι αυτό που στη θεωρία παιγνίων ονομάζεται «το δίλημμα του φυλακισμένου». Αν η Anthropic αποφασίσει να σταματήσει τη δημιουργία πιο ισχυρών μοντέλων για λόγους ασφαλείας, δεν κερδίζει κάτι ουσιαστικό, καθώς οι ανταγωνιστές της ή άλλες χώρες θα συνεχίσουν την ανάπτυξη, αφήνοντάς την πίσω και συνεχίζοντας την ίδια επικίνδυνη πορεία!

Ακριβώς για να ξεπεραστεί αυτό το αδιέξοδο, η Anthropic απευθύνει επείγουσα έκκληση σε κυβερνήσεις και ανταγωνιστικές εταιρείες να συμφωνήσουν σε ένα κοινό, δεσμευτικό πλαίσιο. Η εταιρεία ζητά τη δημιουργία ενός συντονισμένου μηχανισμού έκτακτης ανάγκης —ένα παγκόσμιο «kill switch»— που θα υποχρεώνει όλα τα μεγάλα εργαστήρια παγκοσμίως να πατήσουν «παύση» στην ανάπτυξη της AI, εάν διαπιστωθεί ότι οι κίνδυνοι ξεπερνούν τα επιτρεπτά όρια. 

Η Anthropic ξεκαθαρίζει πως αν δεν βρεθεί άμεσα ένας τρόπος να ελέγξουμε την αυτο-βελτίωση, το μέλλον της ανθρωπότητας ενδέχεται σύντομα να μην βρίσκεται πια στα δικά μας χέρια! Μπορείτε να διαβάσατε την αναλυτική της δημοσιεύση για το θέμα πατώντας εδώ.