Η πρώτη νομοθεσία του πλανήτη για την τεχνητή νοημοσύνη είναι της Ευρωπαϊκής Ένωσης

Η Ευρωβουλή ενέκρινε μία νομοθεσία για τη ρύθμιση της τεχνητής νοημοσύνης, σχεδόν τρία χρόνια μετά την πρόταση του πρώτου νομοσχεδίου. Το νομοσχέδιο ολοκληρώθηκε το Δεκέμβριο και χθες Τετάρτη, οι Ευρωβουλευτές ενέκριναν το AI Act με σαρωτική πλειοψηφία, με 523 ψήφους υπέρ και 46 κατά, ενώ υπήρξαν και 49 αποχές.

Σκοπός του AI Act είναι “να προστατεύσει τα βασικά δικαιώματα, τη δημοκρατία, το κράτος δικαίου και την περιβαλλοντική βιωσιμότητα από την AI υψηλού ρίσκου, ενώ ταυτόχρονα προωθεί την καινοτομία και καθιερώνει την Ευρώπη ως ηγέτη στο πεδίο”. To AI Act ορίζει τις υποχρεώσεις των εφαρμογών της AI, βάσει του ρίσκου και των επιπτώσεων.

Το νομοσχέδιο αναμένεται να γίνει νόμος και να εφαρμοστεί, πριν τις Ευρωεκλογές στις αρχές Ιουνίου. Τα περισσότερα κομμάτια του θα έχουν πλήρη ισχύ μετά από μία περίοδο προσαρμογής 24 μηνών, αλλά οι απαγορεύσεις ή οι απαγορευμένες εφαρμογές θα ισχύσουν μέσα σε ένα εξάμηνο.

Τα συστήματα βιομετρικής κατηγοριοποίησης βασισμένα σε ευαίσθητα χαρακτηριστικά θα γίνουν παράνομα, όπως επίσης και η μαζική συλλογή εικόνων προσώπων από CCTV κάμερες και από το διαδίκτυο, για τη δημιουργία βάσεων δεδομένων αναγνώρισης προσώπου.

Άλλες εφαρμογές που θα απαγορευθούν θα είναι η κοινωνική βαθμολόγηση και η αναγνώριση συναισθημάτων σε σχολεία και μέρη εργασίας.

Ορισμένες πτυχές της προληπτικής αστυνόμευσης θα απαγορευθούν επίσης, όπως η αναφορά στο σεξουαλικό προσανατολισμό ή οι πολιτικές απόψεις. Γενικότερα, η χρήση AI από την αστυνομία και τους τομείς υγείας πρέπει να μην κάνουν διακρίσεις και να υπακούν ορισμένους κανόνες ιδιωτικότητας. Οι developers πρέπει να αποδείξουν πως τα συστήματά τους διέπονται από διαφάνεια, ασφάλεια δεδομένων και είναι εύκολο να εξηγηθούν στους χρήστες.

Ακόμα και για AI συστήματα χαμηλού ρίσκου όπως είναι τα φίλτρα spam, οι developers πρέπει να ενημερώνουν τους χρήστες πως αλληλεπιδρούν με περιεχόμενο που έχει παραχθεί από AI.

To AI Act αφορά επίσης τα media και την παραγωγική τεχνητή νοημοσύνη. Τα deepfakes ή οι AI παραγόμενες εικόνες, βίντεο και ήχος, πρέπει να έχουν ευδιάκριτη σήμανση.

Επιπλέον, όσα AI μοντέλα χρησιμοποιούν υπολογιστική ισχύ μεγαλύτερη των 10²⁵ FLOPs, θεωρούνται πως έχουν συστημικά ρίσκα. Στην κατηγορία αυτή υπόκεινται το GPT-4 της OpenAI και το Gemini της Google. Οι κάτοχοι αυτών των συστημάτων πρέπει να λαμβάνουν μέτρα, να αναφέρουν σοβαρά συμβάντα, να προσφέρουν πληροφορίες για την ενεργειακή κατανάλωση, να διασφαλίζουν πως τηρούν τα standards κυβερνοασφαλείας και να πραγματοποιούν δοκιμές και εκτιμήσεις των μοντέλων.

Όσοι παραβιάζουν το AI Act, θα βρίσκονται αντιμέτωποι με πρόστιμα που φτάνουν τα €35 εκατομμύρια ή το 7% των παγκόσμιων ετήσιων εσόδων τους, όποιο είναι υψηλότερο.

Για την εφαρμογή του νόμου, κάθε κράτος-μέλος πρέπει να έχει τη δική του Αρχή AI, ενώ και η Ευρωπαϊκή Επιτροπή θα δημιουργήσει ένα AI Office.