Η προγνωστική αστυνόμευση με AI θα απαγορευθεί στην Ευρώπη

Η τεχνητή νοημοσύνη έχει γίνει πλέον τόσο ισχυρή που μπορεί να χρησιμοποιεί προσωπικά δεδομένα για να αναγνωρίζει και να προβλέπει μελλοντικούς παραβάτες. Η Ευρωπαϊκή Ένωση όμως έκανε ένα βήμα για να θεσπίσει αυστηρή νομοθεσία για τη χρήση της AI στην αστυνόμευση των πολιτών της.

Το νέο νομοσχέδιο προβλέπει μία σειρά απαγορεύσεων στη χρήση AI προγραμμάτων για μαζική αναγνώριση προσώπων σε δημόσια μέρη, καθώς και στη χρήση αλγορίθμων οι οποίοι αναγνωρίζουν μελλοντικούς παραβάτες χρησιμοποιώντας τα προσωπικά τους δεδομένα. Το νομοσχέδιο προβλέπει ακόμα και τη δημιουργία μίας δημόσιας βάσης δεδομένων με AI συστήματα “υψηλού ρίσκου” τα οποία χρησιμοποιούνται από δημόσιες και κυβερνητικές αρχές, έτσι ώστε οι Ευρωπαίοι πολίτες να παραμένουν ενημερωμένοι σχετικά με το πότε και πώς επηρεάζονται από αυτήν την τεχνολογία.

Το νομοσχέδιο υπερψήφισαν 84 μέλη δύο επιτροπών οι οποίες αποτελούνται από Ευρωβουλευτές, 7 το καταψήφισαν και 12 απείχαν.

Το AI Act της Ευρωπαϊκής Ένωσης είναι ένα κείμενο που θα καθορίσει τους νόμους σχετικά με την τεχνητή νοημοσύνη και συντάσσεται εδώ και χρόνια. Ωστόσο η πρόσφατη “έκρηξη” στην ανάπτυξη της τεχνητής νοημοσύνης έχει κάνει επιτακτική την ανάγκη ολοκλήρωσής του. Η Ευρωπαϊκή Ένωση είναι αυτή τη στιγμή το σώμα το οποίο βρίσκεται πιο μπροστά από κάθε χώρα στον πλανήτη όσον αφορά τη νομοθεσία για τεχνητή νοημοσύνη και οποιεσδήποτε εξελίξεις θα επηρεάσουν κι άλλες χώρες παγκοσμίως.

Συγκεκριμένα, το ban της Ε.Ε. περιλαμβάνει:

• Πραγματικού χρόνου απομακρυσμένα συστήματα βιομετρικής ταυτοποίησης σε δημόσιους χώρους.
• Συστήματα απομακρυσμένης βιομετρικής αναγνώρισης μετά το συμβάν με μόνη εξαίρεση τις αστυνομικές αρχές για τη δίωξη σοβαρών εγκλημάτων και μόνο μετά από εισαγγελική εντολή.
• Συστήματα βιομετρικής κατηγοριοποίησης που χρησιμοποιούν προσωπικά χαρακτηριστικά, όπως φύλο, φυλή, εθνικότητα, θρησκεία και πολιτικές πεποιθήσεις.
• Προγνωστικά αστυνομικά συστήματα βασισμένα σε προφίλ, τοποθεσία ή παλαιότερη εγκληματική συμπεριφορά.
• Συστήματα αναγνώρισης συναισθηματικής κατάστασης από αστυνομία, συνοριοφύλακες, χώρους εργασίας και εκπαιδευτικά ιδρύματα.
• Λήψη βιομετρικών δεδομένων από τα social media ή βίντεο CCTV για δημιουργία βάσεων δεδομένων αναγνώρισης προσώπων που παραβιάζουν τα ανθρώπινα δικαιώματα και το δικαίωμα στην ιδιωτικότητα.

Στο νομοσχέδιο προστίθενται και η εκτίμηση της περιβαλλοντικής ζημίας που προκαλεί η εκπαίδευση αυτών των AI συστημάτων, καθώς και η υποχρέωση αποκάλυψης των δεδομένων εκπαίδευσης που χρησιμοποιούν οι εταιρίες για να εκτιμηθεί αν παραβιάζεται το GDPR.

Εδώ να σημειώσουμε όμως πως το AI Act είναι ακόμα απλά νομοσχέδιο και πρέπει να υπερψηφιστεί από την Ευρωβουλή για να γίνει νόμος.