Διαγωνισμός του Facebook αποκαλύπτει πως τα deepfakes είναι ακόμα ένα άλυτο πρόβλημα

Η πρώτη διοργάνωση του Deepfake Detection Challenge του Facebook ολοκληρώθηκε και τα αποτελέσματα δεν είναι ενθαρρυντικά. Ο ανοιχτός αυτός διαγωνισμός είχε ως στόχο να χρησιμοποιηθούν αλγόριθμοι οι οποίοι θα αναγνωρίσουν videos τα οποία έχουν δημιουργηθεί ή “πειραχτεί” με χρήση τεχνητής νοημοσύνης. Τα αποτελέσματα, ενώ είχαν κάποιο βαθμό επιτυχίας, απέδειξαν πως έχουμε ακόμα πολύ δρόμο μέχρι τα αυτοματοποιημένα συστήματα να είναι σε σημείο να εντοπίσουν αξιόπιστα το deepfake περιεχόμενο.

Ο νικητής του διαγωνισμού κατάφερε να εντοπίσει deepfake videos με μέση ακρίβεια μόλις 65.18%, με τους ερευνητές να χαρακτηρίζουν τα deepfakes ακόμα ως ένα “άλυτο πρόβλημα”. Τόνισαν όμως πως προς το παρόν, οι επιπτώσεις τους στην κοινωνία και την πολιτική παραμένουν ελάχιστες, με το μεγαλύτερο όγκο των deepfakes να αναλώνεται στη δημιουργία μη συναινετικής πορνογραφίας.

Πάνω από 2.100 συμμετέχοντες παρείχαν πάνω από 35.000 αλγορίθμους  ανίχνευσης, οι οποίοι δοκιμάστηκαν σε ένα dataset 100.000 μικρών clips. Το Facebook προσέλαβε πάνω από 3.000 ηθοποιούς για να δημιουργήσει αυτά τα clips, μερικά από τα οποία “πειράχτηκαν” με χρήση AI, τοποθετώντας τα πρόσωπα άλλων ηθοποιών στα videos τους.