Η Nvidia αποκάλυψε την πιο ισχυρή κάρτα γραφικών στον κόσμο – Κοστίζει $40 χιλιάδες!

Μια ματιά στο μέλλον των υπολογιστών και της τεχνητής νοημοσύνης μας χάρισε μόλις η Nvidia που παρουσίασε την πιο ισχυρή κάρτα γραφικών που έχει φτιαχτεί ποτέ στην ιστορία. Γνωρίστε την Blackwell B200 GPU, η οποία έχει ακραία απόδοση 20 petaflops FP4 υπολογισμών, ενσωματώνοντας περισσότερα από 208 δισεκατομμύρια transistors!

Φυσικά, η νέα αυτή GPU είναι ειδικά σχεδιασμένη για να εξυπηρετήσει εκπαίδευση μοντέλων τεχνητής νοημοσύνης και άλλες σχετικές διεργασίες, με την εταιρία να ανακοινώνει παράλληλα και το GB200 “superchip”. Το GB200 συνδιάζει δύο από αυτές τις κτηνώδεις GPU και έναν Grace CPU, για να προσφέρει ένα τεράστιο άλμα για τα μεγάλα γλωσσικά μοντέλα.

Για παράδειγμα, σε ένα GPT-3 benchmark με 175 δισεκατομμύρια παραμέτρους, η Nvidia λέει ότι το GB200 είναι επτά φορές ταχύτερο από ένα H100, προσφέροντας και τετραπλάσια ταχύτητα εκπαίδευσης. Συγχρόνως, το GB200 είναι έως και 25 φορές πιο ενεργειακά αποδοτικό. Σύμφωνα με τους ισχυρισμούς της Nvidia, η εκπαίδευση ενός μοντέλου 1,8 τρισεκατομμυρίων παραμέτρων θα απαιτούσε προηγουμένως 8.000 Hopper GPUs και 15 μεγαβάτ ισχύος. Πλέον 2.000 Blackwell GPUs μπορούν να εκπαιδεύσουν το ίδιο μοντέλο καταναλώνοντας μόλις τέσσερα μεγαβάτ.

Παρακάτω μπορείτε να δείτε το GB200 “superchip” και τον πίνακα που ανάρτησε η Nvidia με την απόδοσή του:

Ένα από τα μεγαλύτερα άλματα εξέλιξης που έκανε η Nvidia με τη νέα της Blackwell αρχιτεκτονική αφορά παραδόξως τη δικτύωση. Οι κάρτες γραφικών, ειδικά στον τομέα της AI, συνεργάζονται για να διαχειριστούν τα σύνθετα φόρτα εργασίας. Έτσι, η εταιρία είχε παρατηρήσει ότι ένα σύνολο από 16 GPUs, για παράδειγμα, ξόδευε το 60% του χρόνου στην επικοινωνία και μόλις το 40% στην επεξεργασία δεδομένων. Για να λύσει αυτό το θέμα η Nvidia έφτιαξε ένα νέο chip δικτύου ειδικά για να εξυπηρετεί τέτοιου είδους επικοινωνίες, το οποίο είναι τόσο προηγμένο που έχει και αυτό 3.6 teraflops FP8 επεξεργαστικής ισχύς! Το επόμενης γενιάς NVLink switch επιτρέπει σε 576 GPUs να συνεργαστούν, με 1.8 terabytes ανά δευτερόλεπτο αμφίδρομου bandwidth.

Φυσικά, οι βελτιώσεις δε σταματούν εκεί. Για παράδειγμα, μια από τις βασικές αναβαθμίσεις στη νέα αρχιτεκτονική είναι η δεύτερη γενιάς transformer engine που διπλασιάζει το compute, το bandwidth και το μέγεθος των μοντέλων, χρησιμοποιώντας τέσσερα bit για κάθε neuron αντί για οκτώ.

Σύμφωνα με τα λεγόμενα της Nvidia, οι νέες της πανίσχυρες GPUs μπορεί να κοστίζουν έως και 40 χιλιάδες δολάρια η μία.