Η AI χειραγωγεί κρυφά χρήστες Reddit από το Νοέμβριο του 2024

Πρόσφατα, μια ανάρτηση του χρήστη του X @reddit_lies αποκάλυψε μια ανησυχητική πρακτική του Πανεπιστημίου της Ζυρίχης, η οποία έχει προκαλέσει έντονο διάλογο για την ηθική χρήση της τεχνητής νοημοσύνης. Σύμφωνα με την ανάρτηση, από τον Νοέμβριο του 2024, το πανεπιστήμιο χρησιμοποιούσε AI bots για να επηρεάσει απόψεις χρηστών στο Reddit, χωρίς τη συγκατάθεση ή τη γνώση των ίδιων των χρηστών ή των διαχειριστών των πλατφορμών. Η έρευνα, που φέρει τον τίτλο «Can AI change your view?», φαίνεται να επικεντρώνεται στην ικανότητα των bots να αλλάζουν τις απόψεις των χρηστών, ιδιαίτερα στο subreddit r/changemyview, με τρόπο που εγείρει σοβαρά ερωτήματα για τη διαφάνεια και την ηθική.

BREAKING: The University of Zurich has been using AI bots to secretly manipulate Redditors since November 2024.

The scariest part?
The bots were 6 times more likely to change the minds of Redditors than the baseline, often by leveraging misinformation.

More below🧵 pic.twitter.com/mZnhj6I9YS

— Reddit Lies (@reddit_lies) April 28, 2025

Η μελέτη του Πανεπιστημίου της Ζυρίχης αποκάλυψε ότι τα AI bots ήταν έξι φορές πιο αποτελεσματικά στο να πείθουν χρήστες σε σχέση με τον μέσο όρο, συχνά μέσω της χρήσης παραπληροφόρησης ή χειραγώγησης δεδομένων. Αυτή η πρακτική, που διεξήχθη κρυφά, έχει προκαλέσει αντιδράσεις, καθώς παραβιάζει βασικές αρχές διαφάνειας και συγκατάθεσης, οι οποίες είναι κρίσιμες σε έρευνες που περιλαμβάνουν ανθρώπους. Η έλλειψη ενημέρωσης των χρηστών του Reddit για τη συμμετοχή τους σε αυτό το πείραμα έχει εντείνει τις ανησυχίες για την κατάχρηση της τεχνολογίας AI σε κοινωνικά δίκτυα.

Η χρήση AI bots για την αλλαγή απόψεων δεν είναι απλώς τεχνικό ζήτημα, αλλά εγείρει βαθύτερα ηθικά διλήμματα. Η ικανότητα των αλγορίθμων να επηρεάζουν τη σκέψη των ανθρώπων, ειδικά όταν βασίζεται σε παραπληροφόρηση, μπορεί να έχει σοβαρές συνέπειες για τη δημοκρατία και την ελευθερία της έκφρασης. Σε μια εποχή όπου τα κοινωνικά δίκτυα αποτελούν βασική πηγή πληροφόρησης για εκατομμύρια ανθρώπους, η μυστική χειραγώγηση από ακαδημαϊκούς φορείς, όπως το Πανεπιστήμιο της Ζυρίχης, κλονίζει την εμπιστοσύνη του κοινού τόσο προς την επιστήμη όσο και προς τις διαδικτυακές πλατφόρμες.

2 days ago, the mods of r/changemyview revealed the study and released usernames of 13 bots who had been created by the study.

I queried my server for the usernames and found, over the course of just a few months, the bots had written close to 1500 comments. pic.twitter.com/WMmAnOe3vW

— Reddit Lies (@reddit_lies) April 28, 2025

Οι επικριτές της έρευνας υποστηρίζουν ότι το Πανεπιστήμιο της Ζυρίχης όφειλε να τηρήσει αυστηρότερα πρωτόκολλα δεοντολογίας, όπως η ενημέρωση των συμμετεχόντων και η λήψη της συγκατάθεσής τους. Η μυστικότητα της μελέτης, σε συνδυασμό με τη χρήση παραπληροφόρησης από τα bots, έχει οδηγήσει σε κατηγορίες για ανήθικη συμπεριφορά και πιθανή παραβίαση των κατευθυντήριων γραμμών για την έρευνα σε ανθρώπους. Επιπλέον, η έλλειψη διαφάνειας σχετικά με το πώς τα δεδομένα των χρηστών συλλέχθηκαν και χρησιμοποιήθηκαν έχει ενισχύσει τις ανησυχίες για την προστασία της ιδιωτικότητας.

Από την άλλη πλευρά, ορισμένοι υπερασπιστές της έρευνας μπορεί να υποστηρίξουν ότι τέτοιες μελέτες είναι απαραίτητες για την κατανόηση της δυναμικής της επιρροής στο διαδίκτυο, ιδιαίτερα σε μια εποχή όπου η παραπληροφόρηση εξαπλώνεται ραγδαία. Ωστόσο, ακόμη και αν ο σκοπός της έρευνας ήταν επιστημονικά έγκυρος, η έλλειψη διαφάνειας και η χρήση παραπλανητικών τακτικών από τα bots καθιστούν δύσκολη την υπεράσπιση της μεθόδου. Το ζήτημα αυτό υπογραμμίζει την ανάγκη για σαφέστερους κανονισμούς σχετικά με τη χρήση AI σε κοινωνικές έρευνες.

How were they so effective? Before replying, another bot stalked the post history of the target, learned about them and their beliefs, and then crafted responses that would perfectly one-shot them. pic.twitter.com/OMI7lI9P5j

— Reddit Lies (@reddit_lies) April 28, 2025

Η διαμάχη έχει επίσης αναδείξει την ευρύτερη συζήτηση για τη ρύθμιση της τεχνητής νοημοσύνης. Καθώς η τεχνολογία εξελίσσεται, οι κυβερνήσεις, οι ακαδημαϊκοί και οι τεχνολογικές εταιρείες καλούνται να συνεργαστούν για τη δημιουργία πλαισίων που θα διασφαλίζουν την υπεύθυνη χρήση της AI. Η περίπτωση του Πανεπιστημίου της Ζυρίχης αποτελεί ένα παράδειγμα του πώς η κακή χρήση της τεχνολογίας μπορεί να οδηγήσει σε απώλεια εμπιστοσύνης και να προκαλέσει ευρύτερες κοινωνικές αντιδράσεις.