Google Bard - “Χειρότερο από άχρηστο και παθολογικός ψεύτης“

Το Bloomberg έφερε στην επιφάνεια εσωτερικές συζητήσεις 18 νυν και πρώην υπαλλήλων της Google, στις οποίες η Bard AI της εταιρίας χαρακτηρίζεται ως “παθολογικός ψεύτης”. Σύμφωνα με τα screenshots, σημειώνεται η ανησυχία τους πως το Bard δίνει συχνά επικίνδυνες συμβουλές στους χρήστες, παρακαλώντας την εταιρία να μην το κυκλοφορήσει ακόμα.

Το Bard είναι χειρότερο από άχρηστο, παρακαλώ μην το κυκλοφορήσετε.

Όπως αποδείχτηκε όμως, η Google αγνόησε την εκτίμηση ρίσκου της εσωτερικής ομάδας ασφαλείας η οποία τόνιζε πως το Bard δεν ήταν έτοιμο για ευρεία χρήση και άνοιξε την πρόσβαση σε αυτό το Μάρτιο.

Η Google συχνά αναφέρει την ασφάλεια και την ηθική ανάπτυξη της AI, αλλά εδώ και καιρό κατηγορείται πως βάζει το επιχειρηματικό κέρδος πρώτο. Στις αρχές του 2021, απέλυσε δύο ερευνητές όταν δημοσίευσαν ένα ερευνητικό paper που αποκάλυπτε τα ψεγάδια των γλωσσικών συστημάτων AI που χρησιμοποιούνται για την ανάπτυξη chatbots όπως το Bard.

Ο έμπιστος κολοσσός internet αναζήτησης παρέχει πληροφορίες χαμηλής ποιότητας σε έναν αγώνα να προλάβει τον ανταγωνισμό, ενώ δίνει μικρή σημασία στις ηθικές δεσμεύσεις του. – Bloomberg

Οι υπάλληλοι που μίλησαν στο Bloomberg ανέφεραν πως τα στελέχη της Google προτίμησαν να αναφέρουν το Bard και τα υπόλοιπα AI προϊόντα ως “πειράματα”, έτσι ώστε το κοινό να μη δώσει μεγάλη σημασία στις αποτυχίες τους.

Η ηθική στην AI έχει κάτσει στο πίσω κάθισμα. Αν η ηθική δεν έχει προτεραιότητα απέναντι στο κέρδος και στην ανάπτυξη, δε θα έχει καλή κατάληξη. – Πρώην υπάλληλος Google