Facebook και Instagram σχεδιάζουν να προσθέσουν σήμανση στις AI εικόνες

Η Meta ανακοίνωσε τη χρήση μίας νέας τεχνολογίας η οποία θα μπορεί να εντοπίζει και να επισημαίνει εικόνες που έχουν δημιουργηθεί από εργαλεία τεχνητής νοημοσύνης άλλων εταιριών και σκοπεύει να την αναπτύξει σε Facebook και Instagram.

Η Meta ήδη επισημαίνει AI εικόνες που έχουν αναπτυχθεί από τα δικά της συστήματα και ελπίζει πως η νέα τεχνολογία που βρίσκεται ακόμα υπό ανάπτυξη, θα δημιουργήσει τη δυναμική για να αντιμετωπίσει η tech βιομηχανία τις ψευδείς εικόνες. Η έλευση της επισήμανσης των AI εικόνων αναμένεται να έρθει στις πλατφόρμες της εταιρίας μέσα στους επόμενους μήνες.

Ωστόσο ειδικοί του τομέα τονίζουν πως τέτοια εργαλεία είναι εύκολο να ξεγελαστούν.

Μπορεί να καταφέρουν να εκπαιδεύσουν τον αλγόριθμο να εντοπίζει ορισμένες εικόνες που έχουν δημιουργηθεί από συγκεκριμένα μοντέλα. Αλλά αυτή η ανίχνευση μπορεί εύκολα να παρακαμφθεί από μία ελαφριά επεξεργασία των εικόνων και έτσι θα έχουν πολύ υψηλό ποσοστό ψευδών θετικών. Δε νομίζω πως είναι εφικτό να εφαρμοστεί σε μία ευρεία γκάμα εφαρμογών. – Soheil Feizi, Διευθυντής Reliable AI Lab του Πανεπιστημίου του Maryland

Η Meta παραδέχεται πως το εργαλείο αυτό δεν μπορεί να χρησιμοποιηθεί σε ήχο και βίντεο και θα περιοριστεί στο να προειδοποιεί τους χρήστες πως αν δεν επισημάνουν οι ίδιοι τα AI posts τους, μπορεί να τους επιβληθούν ποινές. Παραδέχεται επίσης πως είναι αδύνατον να εντοπίσει κείμενο το οποίο έχει γραφτεί από εργαλεία όπως το ChatGPT και ο Sir Nick Clegg της Meta δήλωσε χαρακτηριστικά για αυτό πως “το πλοίο έχει σαλπάρει”.

Ο ίδιος παραδέχτηκε πως η υπάρχουσα πολιτική της Meta “δεν αρκεί για ένα περιβάλλον στο οποίο θα έχουμε πολύ περισσότερο συνθετικό και υβριδικό περιεχόμενο”.