Πρέπει τα αυτόνομα οχήματα να προγραμματίζονται για να μας θυσιάσουν;

Ένα δίλημμα αλγοριθμικής ηθικής
28 Οκτωβρίου 2015 12:03
Πρέπει τα αυτόνομα οχήματα να προγραμματίζονται για να μας θυσιάσουν;

Τα αυτόνομα οχήματα είναι εδώ, υπάρχουν ήδη. Μπορεί να μην είναι ακόμα διαδεδομένα, αλλά θα έρθει και αυτή η στιγμή. Μπορούν να εκτελέσουν “έξυπνο” cruise control, να παρκάρουν μόνα τους και να προσπεράσουν. Αναμφισβήτητα είναι πιο ασφαλή, πιο καθαρά, πιο αποδοτικά στα καύσιμα από τα παραδοσιακά αυτοκίνητα, αλλά δε θα μπορέσουν ποτέ να είναι απόλυτα ασφαλή. Και αυτό εγείρει ερωτήματα.

Φανταστείτε ένα σενάριο όπου βρίσκεστε μέσα στο αυτόνομο όχημά σας, κάθεστε αναπαυτικά και μετά από μια στροφή καταλαβαίνεται πως είστε σε πορεία σύγκρουσης με ένα γκρουπ 10 ατόμων που βρίσκονται στο δρόμο, με τοίχους δεξιά και αριστερά σας. Πως θα έπρεπε να αντιδράσει το αυτοκίνητο; Θα έπρεπε να φρενάρει κρατώντας εσάς ασφαλή, αλλά παρασύροντας κάποιος από τους πεζούς; Θα έπρεπε να τους αποφύγει, καταδικάζοντας όμως εσάς, με το να πέσει πάνω στον τοίχο; Αυτό και πολλά ακόμα σενάρια δημοσιεύτηκαν στο Arxiv με το σκεπτικό πως πολλά ατυχήματα δεν μπορούν να αποφευχθούν, ψάχνοντας να βρουν μια λύση για το πώς πρέπει να προγραμματιστούν τα αυτοκίνητα, αφού οι αντιδράσεις τους σε τέτοια περιστατικά μπορούν να κρίνουν την αποδοχή τους από τους καταναλωτές και κατά συνέπεια το μέλλον τους στην αυτοκινητοβιομηχανία.

Είναι μια αξιόλογη πρόκληση το να ορίσουμε αλγορίθμους που θα καθοδηγούν τα αυτόνομα οχήματα που θα έρχονται αντιμέτωπα με τέτοιου είδους ηθικά διλήμματα. Δεν είναι εύκολο να καταλήξουμε κάπου, οι κατασκευαστές και οι νομοθέτες πρέπει να χρησιμοποιήσουν ψυχολόγους για να εφαρμόσουν τις μεθόδους πειραματικής ηθικής σε καταστάσεις που εμπλέκουν αυτόνομα οχήματα και κίνδυνο απώλειας ανθρώπινων ζωών ο οποίος δεν μπορεί να αποφευχθεί” δηλώνουν οι ερευνητές.

Το πείραμα που αναφέραμε παραπάνω, πραγματοποιήθηκε σε αρκετές εκατοντάδες ανθρώπους, οι οποίοι κλήθηκαν να απαντήσουν σε πολλαπλά σενάρια, όπου αλλάζει ο αριθμός των ανθρώπων στο δρόμο, ο αριθμός των επιβατών του οχήματος, η ηλικία τους (για να συμπεριληφθούν παιδιά) κλπ. Τα αποτελέσματα έδειξαν πως η πλειοψηφία ήταν διαθέσιμη να θυσιάσει τον οδηγό για να σωθούν οι πολλοί, αλλά μόνο αν δεν ήταν αυτοί ο οδηγός. “Σε κλίμακα από -50 (προστάτεψε τον οδηγό όποιο κι αν είναι το κόστος) έως το +50 (μεγιστοποίησε τις ζωές που θα σωθούν), η μέση απάντηση ήταν +24” σύμφωνα με τους αναλυτές.

Οι νομικές επιπλοκές είναι ακόμα μεγαλύτερες, αφού υπάρχει η περίπτωση οι κατασκευαστές να ορίζουν το επίπεδο ηθικής. “Αν ένας κατασκευαστής προσφέρει διαφορετικές εκδοχές του αλγορίθμου ηθικής και ένας αγοραστής επιλέξει εν γνώσει του ένα από αυτά, θα ευθύνεται ο αγοραστής για τις επιβλαβείς επιπτώσεις στις αποφάσεις του αλγορίθμου;” αναρωτιούνται οι ερευνητές.

Στο MIT Technology Review πάντως, αναφέρεται πως όπως και να έχει, τα αυτόνομα οχήματα είναι μακράν πιο ασφαλή από τους ανθρώπους οδηγούς. Και αυτό δημιουργεί ένα ακόμα δίλημμα. “Αν λιγότεροι άνθρωποι αγοράσουν αυτόνομα οχήματα, επειδή θα είναι προγραμματισμένα να θυσιάσουν τους ιδιοκτήτες τους, τότε περισσότεροι άνθρωποι θα πεθάνουν επειδή τα συμβατικά αυτοκίνητα θα εμπλακούν σε πολλά περισσότερα ατυχήματα”, καταλήγει το άρθρο.

Το να καταλάβουμε πώς να δημιουργήσουμε ηθικά αυτόνομα μηχανήματα είναι μία από τις μεγαλύτερες προκλήσεις στην τεχνητή νοημοσύνη σήμερα. Καθώς είμαστε έτοιμοι να παραδώσουμε αυτονομία σε εκατομμύρια οχήματα, ποτέ δεν ήταν πιο επείγον να πάρουμε την αλγοριθμική ηθική στα σοβαρά” αναφέρουν ερευνητές. Εσείς πως θα απαντούσατε στο συγκεκριμένο πείραμα; Πείτε μας στα σχόλια.