Η Ευρωπαϊκή Ένωση θέλει να απαγορεύσει την τεχνολογία αναγνώρισης προσώπου

Η Ευρωβουλή καλεί τους νομοθέτες της Ευρωπαϊκής Ένωσης να απαγορεύσουν την τεχνολογία αυτοματοποιημένης αναγνώρισης προσώπου σε δημόσιους χώρους και να θέσουν αυστηρούς κανόνες χρήσης της τεχνητής νοημοσύνης από την αστυνομία.

Η λογική πίσω από την απόφαση που υπερψηφίστηκε με ψήφους 377 υπέρ και 248 κατά, είναι πως οι πολίτες πρέπει να παρακολουθούνται μόνο όταν είναι ύποπτοι για κάποια παράνομη ενέργεια. Υπάρχει ανησυχία για την αλγοριθμική προκατάληψη της τεχνητής νοημοσύνης και καλούν τόσο σε νομική προστασία όσο και σε ανθρώπινη επίβλεψη για να αποφευχθεί η διάκριση, καθώς υπάρχουν στοιχεία πως τα συστήματα που βασίζουν την αναγνώριση σε τεχνητή νοημοσύνη, έχουν σημαντικά προβλήματα όσον αφορά τις εθνικές ομάδες μειονότητας, τα LGBTI+ άτομα, τους ηλικιωμένους και τις γυναίκες.

Οι αλγόριθμοι πρέπει να είναι διάφανοι, ανιχνεύσιμοι και επαρκώς τεκμηριωμένοι με χρήση open source όπου είναι δυνατόν. Σύμφωνα με τους ευρωπαϊκούς νόμους, ο πολίτης έχει το δικαίωμα να μην υπόκειται σε μία απόφαση που παράγει νομικές επιπτώσεις που τους αφορούν ή τους επηρεάζουν σημαντικά και βασίζονται αποκλειστικά σε αυτοματοποιημένη επεξεργασία πληροφοριών.

Επιπλέον, η Ευρωβουλή καλεί την Ευρωπαϊκή Ένωση να απαγορέψει τις ιδιωτικές databases αναγνώρισης προσώπου, όπως αυτή της Clearview AI που χρησιμοποιούν ήδη ορισμένα αστυνομικά σώματα στην  Ευρώπη, καθώς και την κατάργηση της αστυνομικής πρόληψης η οποία είναι βασισμένη σε συμπεριφορικά δεδομένα. Καλεί επίσης για την απαγόρευση του κοινωνικού πιστωτικού συστήματος.