Ο κολοσσός τσιπ NVIDIA ετοιμάζεται να παρουσιάσει έναν ισχυρό νέο επεξεργαστή τεχνητής νοημοσύνης σχεδιασμένο να επιταχύνει τον τρόπο με τον οποίο τα chatbots και άλλα εργαλεία AI παράγουν απαντήσεις, δυνητικά κάνοντας τα σημερινά συστήματα όπως το ChatGPT να φαίνονται αργά σε σύγκριση.
Η νέα πλατφόρμα, που αναμένεται να παρουσιαστεί στο ετήσιο συνέδριο προγραμματιστών GTC της NVIDIA, είναι βελτιστοποιημένη για συμπερασματολογία AI, το στάδιο κατά το οποίο τα εκπαιδευμένα μοντέλα παράγουν απαντήσεις στις προτροπές των χρηστών. Σε αντίθεση με τις παραδοσιακές GPUs που κατασκευάζονται για να χειρίζονται τόσο την εκπαίδευση όσο και τη συμπερασματολογία, ο επερχόμενος επεξεργαστής επικεντρώνεται συγκεκριμένα στην παροχή απαντήσεων γρηγορότερα και πιο αποτελεσματικά.
Το προϊόν, εάν κυκλοφορήσει, θα σηματοδοτήσει το πρώτο απτό αποτέλεσμα της συμφωνίας του Δεκεμβρίου που έφερε τους ιδρυτές της Groq στην ομάδα, της οποίας η εταιρεία ειδικεύεται σε υλικό επεξεργασίας AI υψηλής ταχύτητας.
Τέλη περασμένου έτους, η NVIDIA φέρεται να ξόδεψε περίπου 20 δισεκατομμύρια δολάρια για να αδειοδοτήσει τεχνολογία από την νεοφυή εταιρεία τσιπ Groq και να προσλάβει βασικό προσωπικό, συμπεριλαμβανομένου του CEO της. Περίπου την ίδια εποχή, ο CEO της NVIDIA Jensen Huang δήλωσε στους υπαλλήλους, "Σχεδιάζουμε να ενσωματώσουμε τους επεξεργαστές χαμηλής καθυστέρησης της Groq στην αρχιτεκτονική AI factory της NVIDIA, επεκτείνοντας την πλατφόρμα για να εξυπηρετήσει ένα ακόμη ευρύτερο φάσμα συμπερασματολογίας AI και φόρτων εργασίας σε πραγματικό χρόνο."
Τώρα, το νέο τσιπ συμπερασματολογίας αναμένεται να χειρίζεται πολύπλοκα ερωτήματα AI με υψηλή ταχύτητα, με την OpenAI και άλλους κορυφαίους πελάτες πιθανόν να το υιοθετήσουν, σύμφωνα με την Wall Street Journal. Η αναφορά της έδειξε επίσης ότι το νέο τσιπ μπορεί να χειρίζεται κοντά στο 10% του φόρτου εργασίας συμπερασματολογίας της OpenAI.
Το τσιπ τύπου Groq θα χρησιμοποιήσει SRAM, λένε πηγές
Κατά τη διάρκεια μιας πρόσφατης τηλεδιάσκεψης αποτελεσμάτων, ο CEO της NVIDIA υπαινίχθηκε ότι αρκετά νέα προϊόντα θα παρουσιαστούν στην επερχόμενη εκδήλωση GTC, που συχνά περιγράφεται ως το "Super Bowl της AI". Είχε σχολιάσει, "Έχω μερικές εξαιρετικές ιδέες που θα ήθελα να μοιραστώ μαζί σας στο GTC."
Οι περισσότεροι αναλυτές συμφωνούν ότι το τσιπ τύπου Groq θα μπορούσε να είναι μέρος της σειράς. Δήλωσαν επίσης ότι ο σχεδιασμός του θα μπορούσε να ρίξει φως στο πώς η NVIDIA στοχεύει να αντιμετωπίσει τους περιορισμούς μνήμης στον υπολογισμό συμπερασματολογίας. Τέτοιες πλατφόρμες συνήθως λειτουργούν σε μνήμη υψηλού εύρους ζώνης (HBM). Ωστόσο, η HBM ήταν δύσκολο να εξασφαλιστεί τελευταία.
Μυημένοι έχουν ισχυριστεί ότι η εταιρεία σχεδιάζει να χρησιμοποιήσει SRAM στο τσιπ αντί για τη δυναμική RAM που σχετίζεται με την HBM. Ιδανικά, η SRAM είναι πιο προσβάσιμη και μπορεί να βελτιώσει την απόδοση των φόρτων εργασίας συλλογισμού AI.
Εάν το τσιπ παρουσιαστεί, θα μπορούσε να είναι ένα σπουδαίο βήμα προόδου για την εταιρεία τσιπ και τα μοντέλα εκπαιδευμένα με AI. Ωστόσο, μιλώντας για την πιθανή κυκλοφορία του, ο Sid Sheth, ιδρυτής και CEO της d-Matrix, έριξε μια σκιά στην ανάπτυξή του. Σημείωσε ότι ενώ η NVIDIA παραμένει ο σαφής ηγέτης στην εκπαίδευση AI, η συμπερασματολογία αντιπροσωπεύει ένα πολύ διαφορετικό τοπίο. Μοιράστηκε: "Οι προγραμματιστές μπορούν να στραφούν σε ανταγωνιστές εκτός από την NVIDIA επειδή η εκτέλεση ολοκληρωμένων μοντέλων AI δεν απαιτεί τον ίδιο τύπο προγραμματισμού με την εκπαίδευσή τους."
Παρ' όλα αυτά, άλλοι τεχνολογικοί κολοσσοί προωθούν επίσης τον υπολογισμό συμπερασματολογίας. Η Meta αυτή την εβδομάδα παρουσίασε τέσσερις επεξεργαστές προσαρμοσμένους για συμπερασματολογία, προτρέποντας έναν επενδυτή της Silicon Valley να πει ότι η βιομηχανία μπορεί να εισέρχεται σε μια φάση μη-"κυριαρχίας της NVIDIA".
Ωστόσο, πιο πρόσφατα, ο June Paik, διευθύνων σύμβουλος της FuriosaAI, ανταγωνιστή της NVIDIA, σχολιάζοντας το όφελος του εύκολα αναπτυξιμού υπολογισμού συμπερασματολογίας, προειδοποίησε ότι τα περισσότερα κέντρα δεδομένων δεν μπορούν να φιλοξενήσουν τις πιο πρόσφατες GPUs με ψύξη υγρού.
Παρόλα αυτά, παρά τις ανησυχίες του, οι αναλυτές της Bank of America αναμένουν ότι οι φόρτοι εργασίας συμπερασματολογίας θα αντιπροσωπεύουν το 75% των δαπανών κέντρων δεδομένων AI έως το 2030, όταν η αγορά θα φτάσει περίπου τα 1,2 τρισεκατομμύρια δολάρια, από περίπου 50% πέρυσι. Ο Ben Bajarin, αναλυτής τεχνολογίας στην Creative Strategies, υποστήριξε επίσης ότι τα κέντρα δεδομένων του μέλλοντος δεν θα συμμορφώνονται με ένα μοντέλο που ταιριάζει σε όλους, προβλέποντας ότι οι εταιρείες θα ακολουθήσουν διαφορετικές προσεγγίσεις στην ανάπτυξη τσιπ και εγκαταστάσεων.
Η NVIDIA αναμένεται να κυκλοφορήσει τα τσιπ Vera Rubin αργότερα το 2026
Η NVIDIA έχει επίσης κυκλοφορήσει πρόσφατα τα τσιπ AI επόμενης γενιάς της, τα τσιπ AI Vera Rubin, προβλέποντας ότι η άνοδος των πλατφορμών AI συλλογισμού όπως το DeepSeek θα τροφοδοτήσει ακόμη μεγαλύτερη υπολογιστική ζήτηση. Ισχυρίστηκε ότι τα τσιπ θα βοηθήσουν στην εκπαίδευση μεγαλύτερων μοντέλων AI και θα παρέχουν πιο εξελιγμένα αποτελέσματα σε ευρύτερη βάση χρηστών.
Σύμφωνα με τον Huang, το Rubin θα κυκλοφορήσει επίσης στην αγορά στο δεύτερο εξάμηνο του 2026, με μια high-end έκδοση "ultra" να έρχεται το 2027.
Εξήγησε επίσης ότι ένα μεμονωμένο σύστημα Rubin θα συνδυάσει 576 μεμονωμένες GPUs σε ένα μόνο τσιπ. Επί του παρόντος, το τσιπ Blackwell της NVIDIA συγκεντρώνει 72 GPUs στο σύστημά της NVL72, που σημαίνει ότι το Rubin θα διαθέτει πιο προηγμένη μνήμη.
Πηγή: https://www.cryptopolitan.com/nvidias-chip-could-make-chatgpt-look-slow/
