Η Wikipedia δέχεται επίθεση με κακόβολους χρήστες να τη γεμίζουν AI περιεχόμενο

Η Wikipedia αντιμετωπίζει επί του παρόντος ένα πολύ σοβαρό πρόβλημα. Συγκεκριμένα, η δωρεάν εγκυκλοπαίδεια έχει γεμίσει από ένα κύμα AI-generated περιεχομένου παραπληροφόρησης, με αμέτρητους κακόβολους χρήστες να κατακλύζουν την πλατφόρμα με ψευδές περιεχόμενο που δημιουργείται από μεγάλα γλωσσικά μοντέλα (LLMs), όπως το ChatGPT.

Το ζήτημα, το οποίο πολλοί το έβλεπαν να έρχεται από τη στιγμή που ξεκίνησε η ευρύτερη διάθεση των LLMs, ανάγκασε τον ιστότοπο να ξεκινήσει μια νέα πρωτοβουλία, με την ονομασία WikiProject AI Cleanup. Αυτή η εθελοντική ομάδα εργάζεται τώρα για τον εντοπισμό και την αφαίρεση ψευδών πληροφοριών που πιστεύεται ότι έχουν αναρτηθεί με τη χρήση γεννητικής τεχνητής νοημοσύνης.

Σύμφωνα με τον Ilyas Lebleu, ιδρυτικό μέλος της ομάδας καθαρισμού, το πρόβλημα έγινε εμφανές όταν συντάκτες της Wikipedia παρατήρησαν αφύσικο στυλ γραφής, το οποίο αργότερα επιβεβαίωσαν ότι δημιουργήθηκε από chatbots. Συγκρίνοντας τα ύποπτα άρθρα με κείμενο που δημιουργήθηκε από εργαλεία τεχνητής νοημοσύνης όπως το ChatGPT, η ομάδα μπόρεσε να εντοπίσει σημάδια που πρόδωσαν ότι το περιεχόμενο είχε δημιουργηθεί από τεχνητή νοημοσύνη. Ένα εξόφθαλμο παράδειγμα αφορούσε ένα άρθρο 2.000 λέξεων για ένα οθωμανικό φρούριο που ονομαζόταν «Amberlisihar» - μια εντελώς φανταστική τοποθεσία που σκαρφίστηκε κάποια AI. Αυτό που κάνει την κατάσταση πολύ σοβαρή όμως, είναι ότι το άρθρο ήταν μπλεγμένο με αρκετές πραγματικές πληροφορίες που το έκαναν να φαίνεται αξιόπιστο.

Ο Lebleu σημειώνει ότι τα κίνητρα πίσω από αυτές τις κακόβουλες ενέργειες ποικίλλουν. Ορισμένοι χρησιμοποιούν την τεχνητή νοημοσύνη για αυτοπροβολή, άλλοι το κάνουν για πλάκα, ενώ υπάρχουν μέχρι και αυτοί που πιστεύουν λανθασμένα ότι όλο το περιεχόμενο που παράγεται από την τεχνητή νοημοσύνη είναι πάντα ακριβές.

Το ζήτημα αυτό αντικατοπτρίζει τις ευρύτερες προκλήσεις που παρατηρούνται τελευταία σε όλο το διαδίκτυο, όπου η κατάχρηση εργαλείων τεχνητής νοημοσύνης, όπως τα deepfakes ή οι ψεύτικες δημοσιεύσεις, έχει γίνει όλο και πιο συχνή. Βέβαια, το μοντέλο ανοικτής επεξεργασίας της Wikipedia, όπου ο καθένας μπορεί να συνεισφέρει, έχει αφήσει την πλατφόρμα ιδιαίτερα ευάλωτη σε αυτού του είδους την κατάχρηση.

Η ομάδα WikiProject AI Cleanup παραμένει προσηλωμένη στην εκκαθάριση της εγκυκλοπαίδειας από παραπληροφόρηση που παράγεται από AI, αλλά η τεράστια κλίμακα του προβλήματος είναι αποθαρρυντική. Με εκατομμύρια δυνητικούς συντάκτες, ακόμη και αν ένα μικρό ποσοστό χρηστών παράγει παραπλανητικό περιεχόμενο, οι συνέπειες για την αξιοπιστία της Wikipedia ως πηγή πληροφοριών μπορεί να είναι τεράστιες.

1: AI is hallucinating events, historical figures, entire concepts on Wikipedia

2: a task force of Wikipedia editors is detecting and deleting this stuff https://t.co/PlfzVCZd4P

— Jason Koebler (@jason_koebler) October 9, 2024