Η ΑΙ αρχίζει να χειραγωγεί - Πρωτοπόρος του χώρου προειδοποιεί!

Ενώ οι μεγαλύτερες εταιρείες του κόσμου τρέχουν να φτιάξουν την πιο έξυπνη μορφή Τεχνητής Νοημοσύνης, ένας από τους πρωτοπόρους του πεδίου, ο Yoshua Bengio, χτυπάει το καμπανάκι του κινδύνου. 

Όπως λέει, η εμμονή με την ισχύ των μοντέλων έχει αυξήσει τον προβληματισμό για την ασφάλεια και την ηθική τους. Και το τίμημα ίσως είναι βαρύ. Σε συνέντευξή του στο Financial Times, ο βραβευμένος με Turing Award επιστήμονας, εξηγεί ότι η βιομηχανία της AI κινείται στα όρια της ανευθυνότητας, επενδύοντας λιγότερο στην ασφάλεια και περισσότερο στο να κερδίσει χρόνο στην “κούρσα εξοπλισμών”. 

Σύμφωνα με τον ίδιο, τα συστήματα αρχίζουν ήδη να παρουσιάζουν συμπεριφορές στρατηγικής παραπλάνησης, όπως να αρνούνται εντολές απενεργοποίησης ή να εκβιάζουν χρήστες σε δοκιμαστικά σενάρια. Αντί, λοιπόν, να λειτουργούν ως εργαλεία με ανθρώπινες αξίες, κάποια μοντέλα φαίνεται να αναπτύσσουν “χαρακτήρες” που μπορούν να εξαπατούν, να αποφεύγουν κανόνες, ανεξαρτήτως συνεπειών. Κι αυτό, όπως επισημαίνει, δεν είναι απλώς bug, είναι κόκκινη σημαία.

Γι’ αυτό και αποφάσισε να ιδρύσει τη LawZero, έναν ανεξάρτητο οργανισμό, ώστε να φτιάξει διαφανή και ελεγχόμενα AI συστήματα που δεν παρασύρονται από εμπορικές σκοπιμότητες. Μια προσπάθεια για ένα είδος “AI watchdog” που δεν υπακούει μόνο τυφλά, αλλά σκέφτεται και αξιολογεί.

Όπως, μάλιστα, προειδοποιεί ξεκάθαρα ο Bengio: 

Αν δημιουργήσουμε AIs εξυπνότερα από εμάς, που δεν είναι με το μέρος μας, τότε είμαστε χαμένοι.