H Microsoft παραδέχεται ότι ο νέος AI agent των Windows 11 συνοδεύεται από κινδύνους

Η Microsoft φέρνει στα Windows 11 τον νέο της AI agent, όμως μαζί του έρχεται και μία παραδοχή: το σύστημα μπορεί να κάνει λάθη, να “φαντάζεται” πράγματα και να ανοίγει τον δρόμο για νέους κινδύνους ασφαλείας. Τα νέα AI χαρακτηριστικά προστέθηκαν με το update 26220.7262 και παραμένουν σε πειραματικό στάδιο.

Το μεγαλύτερο ζήτημα έχει να κάνει με το cross-prompt injection, έναν τρόπο επίθεσης όπου κρυμμένο κείμενο μέσα σε ένα αρχείο ή σε κάποιο στοιχείο του interface μπορεί να κατευθύνει τον agent σε ενέργειες που ο χρήστης δεν έχει εγκρίνει. Ένα PDF, για παράδειγμα, μπορεί να περιέχει αόρατες εντολές που οδηγούν το AI να εκτελέσει δράσεις όπως αποστολή δεδομένων ή ενεργοποίηση κακόβουλου κώδικα.

Οι νέες λειτουργίες δεν ενεργοποιούνται αυτόματα, αλλά αν κάποιος τις ανοίξει, ισχύουν για όλους τους χρήστες της συσκευής. Η εταιρεία ενημερώνει ότι ο agent λειτουργεί με κάποιες βασικές αρχές, όπως το να ξεχωρίζουν οι ενέργειές του από αυτές του χρήστη, όμως αυτές παρουσιάζονται περισσότερο ως στόχοι παρά ως εγγυήσεις.

Για τον μέσο χρήστη είναι σχεδόν αδύνατο να εκτιμήσει τους κινδύνους. Το να αξιολογήσει κανείς πότε ένα AI μπορεί να χειραγωγηθεί από κρυφές εντολές είναι εξαιρετικά τεχνικό θέμα και η Microsoft ουσιαστικά ρίχνει την ευθύνη της ενεργοποίησης στον ίδιο τον χρήστη.

Παρότι τέτοια προβλήματα είναι γνωστά σε όλα τα μεγάλα AI μοντέλα, είναι εντυπωσιακό ότι η Microsoft τα φέρνει ήδη ενσωματωμένα μέσα στα Windows.