Ο Elon Musk ετοιμάζει τον ισχυρότερο υπερυπολογιστή για την xAI

Που θα χρησιμοποιεί ο Grok
26 Μαΐου 2024 12:42
Ο Elon Musk ετοιμάζει τον ισχυρότερο υπερυπολογιστή για την xAI

Ο Elon Musk ενημέρωσε τους επενδυτές του πως η εταιρία τεχνητής νοημοσύνης xAI, ετοιμάζει τη δημιουργία ενός υπερυπολογιστή, ο οποίος θα τροφοδοτήσει τη νέα έκδοση του Grok.

Ο υπερυπολογιστής θα ονομαστεί “Gigafactory of Compute” και θα χρησιμοποιεί 100.000 Nvidia chips, ενώ θα είναι λειτουργικός μέχρι το φθινόπωρο του 2025. Μάλιστα ο Musk τόνισε πως θα είναι προσωπικά υπεύθυνος για να παραδοθεί το έργο μέσα στο χρονικό πλαίσιο που έθεσε.

Ο υπερυπολογιστής θα έχει “τουλάχιστον τέσσερις φορές το μέγεθος των μεγαλύτερων GPU συμπλεγμάτων που υπάρχουν σήμερα”.

Οι κάρτες γραφικών H100 της Nvidia που θα χρησιμοποιηθούν για το Gigafactory of Compute, κυριαρχούν σήμερα στην αγορά των chips για data centers, αλλά είναι δυσεύρετες λόγω της υψηλής ζήτησης.

Αξίζει να σημειωθεί πως το Grok 2 μοντέλο εκπαιδεύτηκε με 20.000 H100 GPUs, επομένως οι 100.000 που θα χρησιμοποιηθούν για την εκπαίδευση του Grok 3 σημαίνουν πως θα είναι πολλαπλά πιο ισχυρός.