Η Ευρωπαϊκή Επιτροπή θέλει να σκανάρει τα ιδιωτικά σας μηνύματα

Η Ευρωπαϊκή Επιτροπή πρότεινε έναν αμφιλεγόμενο νέο νόμο στο όνομα της προστασίας των παιδιών. Ο νόμος θα υποχρεώνει τις τεχνολογικές εταιρίες να ελέγχουν τα προσωπικά μηνύματα των χρηστών για δείγματα κακοποίησης παιδιών ή συμπεριφορές αποπλάνησής τους. Η πρόταση μοιάζει με τα σχέδια της Apple (CSAM) από πέρυσι τα οποία “έβαλε στον πάγο” λόγω αντιδράσεων, αλλά ειδικοί υποστηρίζουν πως είναι πολύ πιο αδιάκριτα από αυτά της Apple.

Το έγγραφο αυτό είναι το πιο τρομακτικό πράγμα που έχω δει ποτέ. Περιγράφει τον πιο εξεζητημένο μηχανισμό μαζικής παρακολούθησης που έχει εφαρμοστεί, πέρα από την Κίνα και την Σοβιετική Ένωση. Και δεν υπερβάλλω. – Matthew Green, καθηγητής κρυπτογραφίας στο John Hopkins

This document is the most terrifying thing I’ve ever seen. It is proposing a new mass surveillance system that will read private text messages, not to detect CSAM, but to detect “grooming”. Read for yourself. pic.twitter.com/iYkRccq9ZP

— Matthew Green (@matthew_d_green) May 10, 2022

Πρόκειται για μια ξεδιάντροπη γενική παρακολούθηση, ακατάλληλη για κάθε ελεύθερη δημοκρατία. – Jan Penfrat, European Digital Rights

Here is the first leak I've seen from the Commission's upcoming "we-will-break-into-everyone's-private-chats" law. #CSAM

This looks like a shameful general #surveillance law entirely unfitting for any free democracy. https://t.co/QF07WzSG0v

— Jan Penfrat @[email protected] (@ilumium) May 10, 2022

Κάθε πάροχος online υπηρεσιών υπό αυτόν το νόμο θα υποχρεούται όταν λαμβάνει μία εντολή παρακολούθησης από την Ευρωπαϊκή Ένωση, να σκανάρει όλα τα μηνύματα του χρήστη για να βρει δείγματα κακοποιητικής συμπεριφοράς προς παιδιά ή συμπεριφοράς που υποδεικνύει προσπάθεια αποπλάνησής τους. Οι ασαφείς προϋποθέσεις υπό τις οποίες τα κράτη-μέλη θα εκδίδουν αυτές τις διαταγές, αφήνουν ανοιχτό παράθυρο για μια γενικευμένη παρακολούθηση μεμονωμένων χρηστών ή ομάδων.

Μάλιστα, ειδικοί ασφαλείας χαρακτήρισαν το νόμο ως “το τέλος της κρυπτογράφησης από άκρη σε άκρη”.

Υπήρξε αναστάτωση όταν η Apple πρότεινε κάτι παρόμοιο για να βρίσκει CSAM περιεχόμενο. Αλλά αν εισάγεις την ασάφεια και τα σενάρια όπου το περιεχόμενο είναι περίπλοκο, κάτι στο οποίο τα εργαλεία τεχνητής νοημοσύνης είναι ξεκάθαρα αναξιόπιστα, οι προκλήσεις είναι πολύ μεγαλύτερες. Κοιτάξτε μόνο πόσο αναξιόπιστα είναι τα φίλτρα spam. Υπάρχουν εδώ και 20 χρόνια στο mail μας αλλά πόσοι από εμάς λαμβάνουμε ακόμα spam στα emails μας και χάνουμε κανονικά emails; Αυτό δείχνει τους περιορισμούς αυτών των τεχνολογιών. Η όλη πρόταση βασίζεται σε υποχρεωτική, τεχνικά ανέφικτη αν όχι αδύνατη τεχνολογία.

It is potentially going to do this on encrypted messages that should be private. It won’t be good, and it won’t be smart, and it will make mistakes.

But what’s terrifying is that once you open up “machines reading your text messages” for any purpose, there are no limits.

— Matthew Green (@matthew_d_green) May 10, 2022

Dear everyone: there is no abuse-resistant technology that can accurately real human conversations “privately”. It does not exist.

Maybe in the year 2200 we’ll be able to outsource crime prevention to a benevolent AI: today it is science fiction.

— Matthew Green (@matthew_d_green) May 11, 2022