Γιατί η Meta ακύρωσε την κυκλοφορία της AI αναπαραγωγής φωνής;

Η Meta πρόσφατα είχε επιδείξει μία πανίσχυρη AI με την ονομασία Voicebox, η οποία μπορούσε να αναπαράγει και να μιμείται φωνές με σοκαριστική ακρίβεια. Παρά τις εντυπωσιακές δυνατότητές της, η Meta επέλεξε τελικά να μη δώσει στην κυκλοφορία το Voicebox, λόγω φόβων για πιθανή κατάχρηση.

Στο δελτίο Τύπου που είχε εκδώσει η Meta ανέφερε πως το Voicebox μπορούσε να χρησιμοποιηθεί για σκοπούς επεξεργασίας ήχου, επιτρέποντας την αφαίρεση ανεπιθύμητων ήχων από καταγραφές. Επιπλέον, επιτρέπει την παραγωγή ομιλίας σε διάφορες γλώσσες, τη δημιουργία εικονικών βοηθών ή NPCs με φυσικές φωνές. Θα μπορούσε επίσης να βοηθήσει άτομα με προβλήματα όρασης, διαβάζοντάς τους γραπτό κείμενο με τη φωνή των φίλων τους.

Meta AI is on fire.

They just announced Voicebox, a multilingual high-quality text-to-speech AI.

The quality is so good that they're not making the Voicebox model or code publicly available (yet) to avoid misuse.

Sounds like it's about to go compete with ElevenLabs/PlayHT. pic.twitter.com/Ws733Aqtlo

— Rowan Cheung (@rowancheung) June 18, 2023

Ωστόσο οι προγραμματιστές της Meta γνωρίζουν καλά πως αυτή η τεχνολογία μπορεί να αποβεί καταστροφική στα χέρια κάποιου επιτήδειου. Στη δήλωσή της, η Meta αναγνωρίζει τη λεπτή ισορροπία που χρειάζεται όταν αποκαλύπτονται νέες τεχνολογίες AI, τονίζοντας πως πρέπει πρώτα να μπουν οι σωστοί περιορισμοί για αποφευχθεί η κατάχρηση.

Ακόμα και ένα δείγμα φωνής δύο δευτερολέπτων από κάποιον, είναι αρκετό για το Voicebox για να αναπαράγει συνθετικό λόγο με την ακρίβεια της φυσικής φωνής του ατόμου. Κάτι που μπορεί να εκμεταλλευτούν εγκληματικά στοιχεία. Μπορεί να δημιουργηθεί πανικός αν πολιτικοί ή άτομα σε θέση εξουσίας πέσουν θύματα, ενώ μπορεί να οδηγήσει και σε ένα κύμα απατών νέας γενιάς μιμούμενο φωνές αγαπημένων μας.

Η Meta έχει δημοσιεύσει ήδη ένα λεπτομερές paper για τη λειτουργία του Voicebox και ζητά τη συνεργασία και περαιτέρω έρευνα από την επιστημονική κοινότητα για να αποφευχθούν ανεπιθύμητες επιπτώσεις.