Προειδοποίηση NSA: “Κρατηθείτε“ για την ΑΙ που δε θα ξεχωρίζει από άνθρωπο

Την τεχνητή νοημοσύνη τη βλέπουμε να έχει γίνει ραγδαία δημοφιλής χάρη στο ChatGPT της OpenAI, το οποίο μπορεί να δημιουργήσει ρεαλιστικές και συνεκτικές συνομιλίες με ανθρώπους, να περάσει διαγωνίσματα, να γράψει ό,τι του ζητήσετε, μέχρι και να σας φτιάξει επιχειρηματικό πλάνο.

Ωστόσο, η δημιουργική τεχνητή νοημοσύνη δημιουργεί επίσης σημαντικές προκλήσεις και κινδύνους για την κυβερνοασφάλεια και την πειρατεία. Αυτό ήταν το κύριο θέμα συζήτησης στο συνέδριο ασφάλειας RSA στο Σαν Φρανσίσκο αυτή την εβδομάδα, όπου ο διευθυντής κυβερνοασφάλειας της NSA, Rob Joyce, έκανε την ετήσια παρουσίαση του "State of the Hack" και εξέφρασε τους σοβαρούς προβληματισμούς του για την εξέλιξη της ΑΙ. 

Ο Joyce προειδοποίησε ότι η δημιουργική τεχνητή νοημοσύνη θα επιτρέψει στους επιτιθέμενους να κατασκευάζουν πιο πειστικά και ελκυστικά μηνύματα ηλεκτρονικού "ψαρέματος", να τροποποιούν το υπάρχον κακόβουλο λογισμικό για να μην ανιχνεύονται και να δημιουργούν ψεύτικο ή παραπλανητικό περιεχόμενο για τη διάδοση παραπληροφόρησης, ακόμη και προπαγάνδας.

Ωστόσο, προέτρεψε επίσης την κοινότητα ασφαλείας να είναι προετοιμασμένη για τις προκλήσεις και τις επιπτώσεις της δημιουργικής AI, οι οποίες, όπως είπε, μόλις αρχίζουν να αναδύονται.

"Πρόκειται πραγματικά για μια τεχνολογία που αλλάζει το παιχνίδι. Κρατηθείτε" - Rob Joyce

Δήλωσε επίσης ότι θα δυσχεράνει την επαλήθευση της αυθεντικότητας και της ακεραιότητας των δεδομένων και των επικοινωνιών από τους αμυνόμενους.

"Βλέπουμε τους αντιπάλους μας, τόσο τα διάφορα κράτη όσο και τους εγκληματίες, να αρχίζουν να πειραματίζονται με τη γενιά τύπου ChatGPT για να τους βελτιώνουν την χρήση της αγγλικής γλώσσας", δήλωσε ο Joyce. "Αυτός ο χάκερ που κατάγεται από τη Ρωσία και δεν μιλάει καλά τα αγγλικά δεν πρόκειται πλέον να φτιάξει ένα άθλια γραμμένο email προς τους υπαλλήλους σας. Θα είναι γραμμένο στα αγγλικά κανονικά, θα βγάζει  νόημα, και θα περάσει το αρχικό τεστ, την πρώτη μυρωδιά που λέμε". είπε χαρακτηριστικά. 

Τόνισε δε ότι ακόμη η AI επιπέδου ChatGPT-4 δεν είναι σε θέση να δημιουργήσει κακόβουλο λογισμικό από το μηδέν, που να είναι απροβλημάτιστο και να μπορεί να βοηθήσει τους επιτηδείους hackers να αλλάξουν π.χ. τη συμπεριφορά και την υπογραφή ενός υπάρχοντα κώδικα. 

Τέλος, δήλωσε ότι η NSA από πλευράς της ερευνά το πώς θα αξιοποιήσει την AI για τις δικές της αποστολές και επιχειρησιακές ανάγκες.