Μηχανισμό υπακοής της Τεχνητής Νοημοσύνης αναπτύσσει η Google  

Για την πρόληψη "επικίνδυνων καταστάσεων"

Μηχανισμό υπακοής της Τεχνητής Νοημοσύνης αναπτύσσει η Google

Η τεχνητή νοημοσύνη είναι ο στόχος πολλών κορυφαίων τεχνολογικών εταιριών του πλανήτη και φαντάζει κοντύτερα από ποτέ τα τελευταία χρόνια. Όταν όμως ακούς διακεκριμένους επιστήμονες και επιχειρηματίες όπως ο Stephen Hawking και ο Elon Musk, να εκφράζουν τους φόβους τους για το τέλος της ανθρωπότητας από μια ανεξέλεγκτη τεχνητή νοημοσύνη, παίρνεις το θέμα πιο σοβαρά.

Η Google πρωτοστατεί στη δημιουργία μιας πραγματικής τεχνητής νοημοσύνης, αλλά ένας από τους όρους εξαγοράς της DeepMind, ήταν πως η Google θα δημιουργήσει ένα μηχανισμό ελέγχου της τεχνητής νοημοσύνης, ένα panic button αν θέλετε, το οποίο θα σταματά  αυτόματα την τεχνητή νοημοσύνη από το να προκαλέσει κάποιο κακό, είτε στην ίδια, είτε στον άνθρωπο επιτηρητή της.

Αν μια τέτοια οντότητα λειτουργεί σε πραγματικό χρόνο κάτω από ανθρώπινη επίβλεψη, ίσως να είναι απαραίτητο που και που, ο άνθρωπος χειριστής να πατήσει το μεγάλο κόκκινο κουμπί για να αποτρέψει την οντότητα από το να συνεχίσει μια επικίνδυνη σειρά δράσεων – επικίνδυνη είτε για την οντότητα είτε για το περιβάλλον της – και να οδηγήσει την οντότητα σε ασφαλέστερη κατάσταση

Το πώς θα ενσωματωθεί αυτός ο μηχανισμός στο machine learning και πως θα παραμείνει έξω από την αντίληψη της artificial intelligence, ώστε αυτή να μην προσαρμόσει τη συμπεριφορά της για να παρακαμφθεί, μένει να φανεί.