Δεν υπάρχει τρόπος να ελέγξουμε μία τεχνητή υπερ-νοημοσύνη

Η απειλή της τεχνητής νοημοσύνης στην ανθρωπότητα αποτελεί αντικείμενο συζήτησης και σενάριο ταινιών εδώ και χρόνια. Έως τώρα, στην ερώτηση αν θα μπορούμε να ελέγξουμε μία τεχνητή υπερ-νοημοσύνη, η απάντηση είναι όχι.

Η λογική είναι πως για να ελέγξουμε μία υπερ-νοημοσύνη η οποία έχει ξεπεράσει την ανθρώπινη αντίληψη, θα πρέπει να δημιουργήσουμε μία προσομοίωση αυτής, την οποία θα μπορούμε να αναλύσουμε. Αλλά αν δεν μπορούμε να την καταλάβουμε, είναι αδύνατον να δημιουργήσουμε αυτήν την προσομοίωση.

Κανόνες, όπως “μην προκαλέσεις κακό σε ανθρώπους”, δεν μπορούν να τεθούν αν δεν καταλαβαίνουμε τα σενάρια που θα δημιουργήσει η AI. Μόλις ένα υπολογιστικό σύστημα λειτουργεί σε επίπεδο ανώτερο από αυτό που έθεσαν οι προγραμματιστές του, δεν μπορούμε πλέον να θέσουμε όρια.

Μία υπερ-νοημοσύνη αποτελεί ένα εντελώς διαφορετικό πρόβλημα από αυτά που μελετάμε για την “ηθική των ρομπότ”. Η υπερ-νοημοσύνη είναι πολύπλευρη και για αυτό μπορεί να χρησιμοποιήσει πληθώρα πόρων για να πετύχει τους στόχους της, οι οποίοι μπορεί να μην κατανοούνται καν από τους ανθρώπους, πόσο μάλλον να ελεγχθούν.

Μία υπερ-νοημοσύνη θεωρητικά θα μπορούσε να περιέχει στη μνήμη της κάθε πρόγραμμα υπολογιστή που έχει δημιουργηθεί ποτέ, ταυτόχρονα. Κάθε πρόγραμμα που δημιουργήθηκε για να σταματήσει την AI από το να βλάψει τους ανθρώπους και να καταστρέψει τον κόσμο, μπορεί να φτάσει στο τέλος του κάτι που σημαίνει πως δεν μπορούμε να περιορίσουμε την AI.

Πρακτικά, αυτό κάνει τον αλγόριθμο περιορισμού άχρηστο.

Η εναλλακτική της εκμάθησης ηθικής στην AI ζητώντας της να μην καταστρέψει τον κόσμο – κάτι που δεν εξασφαλίζει την ασφάλειά μας – είναι να περιορίσουμε τις δυνατότητές της, αποκόπτοντάς την από ορισμένα δίκτυα. Ωστόσο η μελέτη απέρριψε και αυτό το σενάριο, αφού αναιρεί το σκοπό της AI. Αν δεν τη χρησιμοποιήσουμε για να λύσουμε προβλήματα πέρα από τις δυνατότητες των ανθρώπων, ποιος ο λόγος δημιουργίας της;

Τέλος, εξίσου ανησυχητικό είναι το γεγονός πως δε θα γνωρίζουμε πότε θα ξεφύγει μία υπερ-νοημοσύνη πέρα από τον έλεγχό μας, επειδή θα είναι τόσο ακατανόητη σε εμάς.

Μία υπερ-νοημοσύνη που ελέγχει τον κόσμο ακούγεται ως σενάριο επιστημονικής φαντασίας. Αλλά υπάρχουν ήδη μηχανές που πραγματοποιούν σημαντικές εργασίες αυτόνομα, χωρίς οι προγραμματιστές τους να καταλαβαίνουν πλήρως πώς τις έμαθαν. Έτσι, εγείρεται το ερώτημα αν αυτό θα γίνει κάποια στιγμή ανεξέλεγκτο και επικίνδυνο για την ανθρωπότητα.

Η έρευνα δημοσιεύθηκε στο Journal of Artificial Intelligence Research.