Ο άνθρωπος δε θα μπορεί να ελέγξει μία υπερνοημοσύνη

Μία υπερνοημοσύνη είναι ένα θεωρητικό ον το οποίο έχει νοημοσύνη που ξεπερνά κατά πολύ αυτήν των πιο έξυπνων και χαρισματικών ανθρώπων. Με την εξέλιξη της τεχνολογίας και της νοημοσύνης μηχανών, αρκετοί επιστήμονες και φιλόσοφοι έχουν φέρει στο προσκήνιο συζητήσεις για τις πιθανές καταστρεπτικές επιπτώσεις που μπορεί να φέρει η ύπαρξη μίας τέτοιας υπερνοημοσύνης. Σε μία νέα έρευνα που δημοσιεύτηκε στο Journal of Artificial Intelligence Research, υπολογίζεται πως μία τέτοια υπερνοημοσύνη θα ήταν εκτός του ελέγχου του ανθρώπου.

Ο έλεγχος μίας τέτοιας νοημοσύνης που είναι πέρα από την κατανόηση του ανθρώπου, θα χρειαζόταν μία προσομοίωση για να την αναλύσουμε. Αλλά αφού δεν μπορούμε να την καταλάβουμε, είναι αδύνατο να δημιουργήσουμε μία τέτοια προσομοίωση. Γενικοί κανόνες όπως “μη βλάπτεις ανθρώπους” δεν μπορούν να τεθούν αν δεν καταλαβαίνουμε το σκεπτικό της AI. Μόλις ένα υπολογιστικό σύστημα λειτουργεί πάνω από τo πεδίο των προγραμματιστών του, τότε δεν μπορούμε πλέον να θέτουμε όρια.

Μία υπερνοημοσύνη θέτει ουσιαστικά διαφορετικά προβλήματα από αυτές που εξετάζονται συνήθως υπό το πρίσμα της “ρομποτικής ηθικής”. Μία υπερνοημοσύνη είναι πολύπλευρη και ως εκ τούτου μπορεί να χρησιμοποιεί μία πληθώρα πόρων για να καταφέρει τους στόχους της, οι οποίοι μάλλον θα είναι πέραν της ανθρώπινης κατανόησης, πόσο μάλλον να μπορούν να ελεγχθούν.

Η έρευνα αναφέρει και τα περιστατικά στα οποία μία τεχνητή νοημοσύνη διδάσκεται να παίζει παιχνίδια, κάτι που εκ πρώτης όψης μπορεί να φαίνεται ασήμαντο, αλλά μπορεί να έχει σημαντικές επιπτώσεις.

Το κύριο χαρακτηριστικό αυτού του εγχειρήματος είναι πως η AI χρησιμοποιεί εκμάθηση χωρίς καμία επίβλεψη – δε χρειάζεται την καθοδήγηση στις σωστές κινήσεις ή διόρθωση των μη βέλτιστων επιλογών και παρακινείται από τη μεγιστοποίηση της ιδέας μιας αμοιβής όπως είναι τα on-line παιχνίδια. Αυτό μας δείχνει πως υπάρχει πιθανότητα οι μηχανές που στοχεύουν στη μεγιστοποίηση της δικής τους επιβίωσης, να χρησιμοποιήσουν εξωτερικά στοιχεία χωρίς την ανάγκη ανθρώπων προγραμματιστών να τους πληροφορήσουν με συγκεκριμένες αντιπροσωπεύσεις του κόσμου μας.

Επίσης, το να περιορίσουμε την τεχνητή νοημοσύνη και να κόψουμε την πρόσβασή της στο internet, είναι κάτι που δε συνάδει με τη δημιουργία της. Αν είναι να δημιουργήσουμε κάτι που δε θα χρησιμοποιήσουμε για να λύσουμε τα προβλήματα του κόσμου, γιατί να τη δημιουργήσουμε εξαρχής; Τέλος, υπάρχει και η περίπτωση να μην καταλάβουμε πότε θα ξεφύγει μία υπερνοημοσύνη από τον έλεγχό μας, μιας και δε θα την καταλαβαίνουμε.

Ένα υπερνοήμων μηχάνημα που ελέγχει τον κόσμο ακούγεται σαν ταινία επιστημονικής φαντασίας. Αλλά υπάρχουν ήδη μηχανές που πραγματοποιούν συγκεκριμένες σημαντικές διεργασίες ανεξάρτητα, χωρίς οι προγραμματιστές να καταλαβαίνουν πώς τις έμαθαν. Το ερώτημα επομένως που γεννιέται είναι αν αυτό θα μπορούσε σε κάποιο σημείο να γίνει ανεξέλεγκτο και επικίνδυνο για την ανθρωπότητα.