15 δευτερόλεπτα είναι αρκετά για να κλωνοποιηθεί η φωνή σας από AI

Η OpenAI ανακοίνωσε ένα νέο εργαλείο τεχνητής νοημοσύνης ονόματι “Voice Engine”, το οποίο βασίζεται στην προϋπάρχουσα τεχνολογία της text-to-speech από το 2022. Πρόκειται για μία τεχνολογία κλωνοποίησης φωνής, η οποία μπορεί να μιμηθεί με τεράστια ακρίβεια μία ανθρώπινη φωνή, αναλύοντας απλά ένα δείγμα φωνής μόλις 15 δευτερολέπτων.

Η OpenAI λέει πως η τεχνολογία αυτή μπορεί να είναι χρήσιμη ως βοηθός ανάγνωσης, μετάφραση γλώσσας ή για να βοηθήσει όσους υποφέρουν από κάποια προβλήματα λόγου.

Ωστόσο, παρά τα πιθανά οφέλη, η κακόβουλη χρήση της τεχνολογίας αυτής μπορεί να οδηγήσει σε πολύ πειστικά deepfakes. Για αυτό το λόγο, το Voice Engine δεν έχει δοθεί ακόμα στο κοινό. Η εταιρία παραδέχεται πως “υπάρχουν σοβαροί κίνδυνοι, ειδικότερα σε μία χρονιά εκλογών”. Όλοι οι preview testers έχουν συμφωνήσει με τους όρους χρήσης, οι οποίοι απαγορεύουν τη μίμηση φωνής ενός άλλου ανθρώπου χωρίς την άδειά του.

Επιπλέον, η OpenAI τοποθετεί watermarks με την πηγή του ήχου. Όταν το προϊόν κυκλοφορήσει, η OpenAI θα διαθέτει μία απαγορευμένη λίστα, όπου θα εντοπίζει και θα αποτρέπει τη μίμηση φωνής από εξέχοντα άτομα.