ΤΟ ΨΑΞΑΜΕ... |  Πόσο συχνά μας δίνει λάθος απαντήσεις η ΑΙ;

Η τεχνητή νοημοσύνη έχει μπει για τα καλά στην καθημερινότητά μας. Από μια απλή αναζήτηση, μέχρι ένα email ή την εύρεση πληροφοριών για ένα ταξίδι, εκατομμύρια άνθρωποι χρησιμοποιούν πλέον υπηρεσίες όπως το ChatGPT, το Gemini, το Claude, το Grok και το Copilot. Η ευκολία είναι δεδομένη καθως μέσα σε λίγα δευτερόλεπτα μπορούν να δώσουν μια ολοκληρωμένη απάντηση, συχνά καλύτερα διατυπωμένη από ό,τι θα βρίσκαμε μόνοι μας ψάχνοντας σε πολλές διαφορετικές ιστοσελίδες.

Το μεγάλο ερώτημα όμως παραμένει το ίδιο. Πόσο συχνά μας δίνουν λάθος απαντήσεις;

Η απάντηση δεν είναι τόσο απλή όσο θα ήθελαν οι εταιρείες ή οι χρήστες. Η πραγματικότητα είναι ότι τα σύγχρονα chatbots έχουν βελτιωθεί σημαντικά σε σχέση με πριν από δύο ή τρία χρόνια, όμως εξακολουθούν να κάνουν λάθη. Και το πιο σημαντικό είναι ότι πολλές φορές παρουσιάζουν αυτά τα λάθη με απόλυτη σιγουριά, χωρίς να προειδοποιούν ότι η πληροφορία μπορεί να είναι λανθασμένη.

Πρόσφατη ανάλυση των New York Times, σε συνεργασία με την εταιρεία Oumi, εξέτασε την ακρίβεια των AI Overviews της Google. Τα αποτελέσματα έδειξαν ότι οι απαντήσεις ήταν σωστές περίπου στο 90% των περιπτώσεων. Με μια πρώτη ματιά το ποσοστό μοιάζει εντυπωσιακό, οταν όμως η Google επεξεργάζεται περισσότερες από 5 τρισεκατομμύρια αναζητήσεις τον χρόνο, ακόμη και ένα ποσοστό λάθους της τάξης του 10% μεταφράζεται σε εκατομμύρια λανθασμένες απαντήσεις καθημερινά. Οι ερευνητές επισήμαναν επίσης ότι αρκετές σωστές απαντήσεις συνοδεύονταν από πηγές που δεν υποστήριζαν πλήρως όσα έγραφε η τεχνητή νοημοσύνη, γεγονός που δυσκολεύει τον έλεγχο της αξιοπιστίας τους. Η Google αμφισβήτησε τη μεθοδολογία της συγκεκριμένης αξιολόγησης αναφέροντας ότι η μέτρηση της ακρίβειας είναι ένα σύνθετο ζήτημα.

Παρόμοια εικόνα προκύπτει και από έρευνα του BBC και της European Broadcasting Union, η οποία αξιολόγησε απαντήσεις πολλών γνωστών AI βοηθών σε ερωτήσεις σχετικές με την επικαιρότητα. Σύμφωνα με τα αποτελέσματα, το 45% των απαντήσεων περιείχε τουλάχιστον ένα σημαντικό πρόβλημα. Σε αρκετές περιπτώσεις υπήρχαν λάθη στις πηγές, ελλιπείς αναφορές ή πληροφορίες που δεν ίσχυαν πλέον, ενώ περίπου μία στις πέντε απαντήσεις περιείχε σοβαρά σφάλματα ή λεπτομέρειες που είχε επινοήσει η ΑΙ. Αξίζει να σημειωθεί ότι η έρευνα αφορούσε συγκεκριμένα ειδησεογραφικό περιεχόμενο και όχι τη συνολική απόδοση των chatbots σε κάθε πιθανή χρήση.

Αυτό δεν σημαίνει ότι τα chatbots είναι εντελώς αναξιόπιστα ή ότι κάνουν συνεχώς λάθη. Αντίθετα, στις περισσότερες καθημερινές ερωτήσεις αποδίδουν πολύ καλά. Το πρόβλημα εμφανίζεται κυρίως όταν η πληροφορία είναι πολύ πρόσφατη, ιδιαίτερα εξειδικευμένη ή όταν απαιτείται απόλυτη ακρίβεια. Σε αυτές τις περιπτώσεις, η τεχνητή νοημοσύνη μπορεί να συνδυάσει σωστά και λανθασμένα στοιχεία στην ίδια απάντηση, δημιουργώντας ένα αποτέλεσμα που μοιάζει απόλυτα πειστικό, αλλά δεν είναι αληθές. Το φαινόμενο αυτό είναι γνωστό ως hallucination ή στα ελληνικά «παραίσθηση». Ο όρος δεν σημαίνει ότι το σύστημα φαντάζεται πράγματα όπως ένας άνθρωπος, σημαίνει ότι δημιουργεί πληροφορίες που ακούγονται λογικές, αλλά δεν βασίζονται σε πραγματικά δεδομένα. Μπορεί να αποδώσει μια ανύπαρκτη δήλωση σε κάποιο πρόσωπο, να αναφέρει μια μελέτη που δεν υπάρχει ή να παρουσιάσει λανθασμένες ημερομηνίες και αριθμούς.

Το πρόβλημα γίνεται ακόμη πιο έντονο όταν οι χρήστες θεωρούν ότι η τεχνητή νοημοσύνη λειτουργεί σαν μια παραδοσιακή μηχανή αναζήτησης. Στην πραγματικότητα δεν ψάχνει πάντα στο διαδίκτυο εκείνη τη στιγμή. Σε πολλές περιπτώσεις δημιουργεί μια απάντηση με βάση τα δεδομένα που έχει εκπαιδευτεί να χρησιμοποιεί το μοντέλο ή τις πληροφορίες που ανακτά. Αυτό σημαίνει ότι μια καλογραμμένη απάντηση δεν είναι απαραίτητα και σωστή. Ερευνητές του MIT προειδοποιούν ότι η αυξανόμενη εξάρτηση από την τεχνητή νοημοσύνη για την ενημέρωση μπορεί να οδηγήσει τους χρήστες σε λανθασμένα συμπεράσματα, ιδιαίτερα όταν σταματούν να αναζητούν τις αρχικές πηγές. Οι ειδικοί τονίζουν ότι η ευκολία δεν πρέπει να αντικαταστήσει την κριτική σκέψη, ειδικά όταν πρόκειται για ειδήσεις, επιστημονικά θέματα, οικονομικές αποφάσεις ή ζητήματα υγείας.

Από την άλλη πλευρά, είναι σημαντικό να αναγνωρίσουμε ότι τα σημερινά μοντέλα είναι αισθητά καλύτερα από τις προηγούμενες γενιές και οι εταιρείες βελτιώνουν συνεχώς την ακρίβειά τους. Τα λάθη μειώνονται, τα συστήματα αναφέρουν συχνότερα τις πηγές τους και σε πολλές περιπτώσεις δηλώνουν ότι δε γνωρίζουν μια απάντηση αντί να επινοούν πληροφορίες. Παρ' όλα αυτά, κανένα από τα διαθέσιμα chatbots δεν μπορεί να θεωρηθεί αλάνθαστο.

Η καλύτερη προσέγγιση είναι να αντιμετωπίζουμε την AI ως έναν πολύ χρήσιμο βοηθό και όχι ως την αυθεντία που έχει όλες τις απαντήσεις. Μπορεί να μας εξοικονομήσει χρόνο με το να εξηγήσει πολύπλοκα θέματα με απλό τρόπο, όταν όμως η πληροφορία πρόκειται να επηρεάσει μια σημαντική απόφαση, ο ανθρώπινος έλεγχος παραμένει απαραίτητος.

Παρακατω υπαρχουν μερικα πολύ απλα βηματα για το πώς να κάνετε εύκολα fact check μια απάντηση της AI

1. Ζητήστε τις πηγές. Αν το chatbot δεν αναφέρει από πού προέρχεται η πληροφορία, ζητήστε του να παραθέσει τις σχετικές πηγές.
2. Επισκεφθείτε την αρχική πηγή. Μην αρκεστείτε στον τίτλο ή στην περίληψη. Ελέγξτε αν το ίδιο το άρθρο ή η μελέτη λέει όσα υποστηρίζει η AI.
3. Διασταυρώστε την πληροφορία. Αναζητήστε το ίδιο θέμα σε δύο ή τρεις αξιόπιστες πηγές, ιδιαίτερα όταν αφορά ειδήσεις ή σημαντικά γεγονότα.
4. Προσέξτε τις ημερομηνίες. Πολλά λάθη οφείλονται σε παλιές πληροφορίες που παρουσιάζονται ως επίκαιρες.
5. Αμφισβητήστε τις πολύ απόλυτες απαντήσεις. Αν κάτι ακούγεται υπερβολικά βέβαιο, αξίζει έναν δεύτερο έλεγχο.
6. Μην βασίζεστε αποκλειστικά στην AI για κρίσιμες αποφάσεις. Θέματα υγείας, οικονομικών ή νομικών ζητημάτων απαιτούν πάντα επιβεβαίωση από επίσημες πηγές ή από τον κατάλληλο επαγγελματία.

Η τεχνητή νοημοσύνη αποτελεί ίσως το πιο χρήσιμο εργαλείο παραγωγικότητας που έχουμε δει τα τελευταία χρόνια και η χρήση του αναμένεται να υιοθετηθεί από ακόμη περισσοτέρους στο άμεσο μέλλον. Όπως όμως συμβαίνει με κάθε εργαλείο, η αξία της εξαρτάται από το πώς τη χρησιμοποιούμε. Όσο καλύτερα γνωρίζουμε τα όριά της, τόσο πιο αποτελεσματικά μπορούμε να αξιοποιήσουμε τα πλεονεκτήματά της χωρίς να πέσουμε στην παγίδα των πειστικών αλλά λανθασμένων απαντήσεων.