Εταιρεία χρεώθηκε $500 εκατομμύρια λόγω ανεξέλεγκτης AI χρήσης από τους υπαλλήλους της

Μια άγνωστη, μεγάλη εταιρεία ξόδεψε κατά λάθος 500 εκατομμύρια δολάρια μέσα σε έναν μόνο μήνα για τη χρήση της τεχνητής νοημοσύνης Claude, επειδή δεν είχε θέσει όρια στις άδειες χρήσης που είχαν οι εργαζόμενοί της. Η πληροφορία προέρχεται από νέο ρεπορτάζ του Axios, σύμφωνα με το οποίο όλο και περισσότερες αμερικανικές επιχειρήσεις αρχίζουν να αναρωτιούνται αν οι τεράστιες επενδύσεις στην τεχνητή νοημοσύνη τελικά αποδίδουν πραγματικά.

Σύμφωνα με το ρεπορτάζ, ένας σύμβουλος τεχνητής νοημοσύνης ανέφερε ότι πελάτης του ξόδεψε μισό δισεκατομμύριο δολάρια σε έναν μήνα, αφού δεν έβαλε περιορισμούς στη χρήση των Claude αδειών από τους υπαλλήλους. Το Claude είναι ένα σύστημα τεχνητής νοημοσύνης, αντίστοιχο με άλλα μεγάλα γλωσσικά μοντέλα, που μπορεί να απαντά σε ερωτήσεις, να γράφει κείμενα, να συνοψίζει πληροφορίες, να βοηθά σε διάφορες εργασίες γραφείου και να γράφει κώδικα. Όταν όμως η χρήση του γίνεται χωρίς έλεγχο, το κόστος μπορεί να αυξηθεί πολύ γρήγορα, καθώς κάθε μήνυμα καταναλώνει tokens και κατά συνέπια κοστίζει στην εταιρεία.

Το περιστατικό, αν και ακραίο, εντάσσεται σε μια ευρύτερη συζήτηση για το πόσο ακριβή έχει γίνει η τεχνητή νοημοσύνη για τις επιχειρήσεις. Το Axios αναφέρει ότι υψηλόβαθμα εταιρικά στελέχη αρχίζουν να αμφισβητούν αν οι αυξανόμενες δαπάνες φέρνουν ουσιαστικά αποτελέσματα. Σε ορισμένες περιπτώσεις, οι επιχειρήσεις φαίνεται να πληρώνουν μεγάλα ποσά χωρίς να βλέπουν αντίστοιχη βελτίωση στην παραγωγικότητα ή στα προϊόντα τους.

Μάλιστα, υπάρχουν πολλά ακόμη παρόμοια παραδείγματα που δείχνουν πόσο εύκολα μπορεί να ξεφύγει ένας λογαριασμός. Τον Απρίλιο, πελάτης της Google Cloud είδε χρέωση 18.000 δολαρίων, παρότι είχε προϋπολογισμό μόλις 7 δολαρίων, ύστερα από παραβίαση ασφαλείας. Νωρίτερα τον Μάιο, ο δημιουργός του OpenClaw ανέφερε ότι κατανάλωσε 1,3 εκατομμύρια δολάρια σε OpenAI API tokens μέσα σε έναν μήνα. Τα «tokens» είναι μικρές μονάδες κειμένου που χρησιμοποιούν τα μοντέλα τεχνητής νοημοσύνης για να επεξεργάζονται ερωτήσεις και απαντήσεις. Όσο περισσότερα tokens καταναλώνονται, τόσο αυξάνεται το κόστος.

Το ζήτημα δεν είναι μόνο οικονομικό, αλλά και οργανωτικό. Σύμφωνα με το ρεπορτάζ, εργαζόμενοι σε εταιρείες χρησιμοποιούν την τεχνητή νοημοσύνη για βαρετές ή απλές εργασίες, όχι πάντα για ουσιαστική παραγωγική δουλειά. Αναφέρεται ακόμη ότι κάποιοι τη χρησιμοποιούν για πράγματα τόσο απλά όσο ο έλεγχος του καιρού. Παράλληλα, «agentic AI» εργαλεία, δηλαδή συστήματα που μπορούν να εκτελούν πιο σύνθετες ακολουθίες ενεργειών αυτόνομα, καταναλώνουν πολύ περισσότερα tokens από μια απλή ερώτηση σε ένα μοντέλο και συνεπώς η χρήση τους πρέπει να γίνεται με προσοχή.

Η ταυτότητα της εταιρείας που φέρεται να έκανε τη δαπάνη των 500 εκατομμυρίων δολαρίων δεν είναι γνωστή. Ωστόσο, το μέγεθος του ποσού δείχνει ότι πρόκειται πιθανότατα για έναν από τους μεγαλύτερους εταιρικούς οργανισμούς στον κόσμο. Το περιστατικό φυσικά λειτουργεί ως υπενθύμιση ότι η τεχνητή νοημοσύνη, όσο χρήσιμη κι αν είναι, χρειάζεται σαφείς κανόνες, έλεγχο κόστους και προσεκτική αξιολόγηση της πραγματικής της αξίας.