Η Alphabet (GOOGL) παρουσιάζει τσιπ TPU 8ης γενιάς διπλής χρήσης που αναπτύχθηκαν με την Broadcom

Βασικά Σημεία

• Η Alphabet παρουσίασε τις μονάδες επεξεργασίας τανυστών 8ης γενιάς: TPU 8t βελτιστοποιημένο για εκπαίδευση και TPU 8i για φόρτους εργασίας συμπερασμού
• Το TPU 8i με εστίαση στο συμπέρασμα παρέχει 80% ανώτερη απόδοση ανά δολάριο σε σύγκριση με τον προκάτοχό του, Ironwood
• Και οι δύο επεξεργαστές αναπτύχθηκαν σε συνεργασία με την Broadcom και σχεδιάστηκαν σε συνεργασία με την Google DeepMind
• Ο επεξεργαστής εκπαίδευσης TPU 8t μπορεί να κλιμακωθεί έως 9.600 chips και προσφέρει διπλάσιο εύρος ζώνης μεταξύ chips σε σχέση με το Ironwood
• Οι πελάτες του Google Cloud θα αποκτήσουν πρόσβαση και στις δύο παραλλαγές chip αργότερα το 2025

Ο κλάδος Google της Alphabet παρουσίασε δύο εξειδικευμένους επεξεργαστές τεχνητής νοημοσύνης την Τετάρτη, σηματοδοτώντας την πρώτη φορά που η αρχιτεκτονική της μονάδας επεξεργασίας τανυστών διαχωρίστηκε σε ξεχωριστά chips για λειτουργίες εκπαίδευσης και συμπερασμού.

Το TPU 8t είναι σχεδιασμένο ειδικά για την εκπαίδευση μοντέλων AI, ενώ το αντίστοιχό του, το TPU 8i, εστιάζει αποκλειστικά στο συμπέρασμα—τη διαδικασία ανάπτυξης εκπαιδευμένων μοντέλων σε πραγματικές εφαρμογές. Η Broadcom λειτούργησε ως συνεργάτης συνανάπτυξης, επεκτείνοντας μια συνεργασία που διαρκεί περισσότερο από δέκα χρόνια.

Alphabet Inc., GOOGL

Αυτό αντιπροσωπεύει μια στρατηγική στροφή από προηγούμενες προσεγγίσεις. Παλαιότερες επαναλήψεις TPU συνδύαζαν τόσο τις δυνατότητες εκπαίδευσης όσο και συμπερασμού σε έναν μόνο επεξεργαστή. Η Google αποδίδει αυτή την αλλαγή στην εμφάνιση agentic συστημάτων AI—αυτόνομα μοντέλα που λειτουργούν σε συνεχείς βρόχους ανατροφοδότησης με ελάχιστη ανθρώπινη εποπτεία—τα οποία απαιτούν πιο εξειδικευμένο πυρίτιο.

Το TPU 8i προσανατολισμένο στο συμπέρασμα διαθέτει 384 megabytes SRAM ανά επεξεργαστή—τρεις φορές την χωρητικότητα του Ironwood. Σύμφωνα με την Google, αυτή η αρχιτεκτονική βελτίωση εξαλείφει το εμπόδιο της «αίθουσας αναμονής», μειώνοντας τις αιχμές καθυστέρησης που εμφανίζονται όταν πολλοί χρήστες ερωτούν ταυτόχρονα ένα μοντέλο.

Οι Δυνατότητες Συμπερασμού Σημειώνουν Δραματικές Βελτιώσεις

Σε σύγκριση με το Ironwood, το TPU 8i επιτυγχάνει 80% καλύτερη αποδοτικότητα κόστους. Σε επιχειρησιακούς όρους, οι οργανισμοί μπορούν να καλύψουν σχεδόν διπλάσια ζήτηση χρηστών χωρίς να αυξήσουν τον προϋπολογισμό τους.

Το chip επιδεικνύει επίσης έως 2x βελτιωμένη ενεργειακή απόδοση ανά watt, δυνατή χάρη στην τεχνολογία δυναμικής διαχείρισης ισχύος που ρυθμίζει την κατανάλωση ενέργειας με βάση τις απαιτήσεις φόρτου εργασίας σε πραγματικό χρόνο.

Για πρώτη φορά, και οι δύο επεξεργαστές χρησιμοποιούν τον Axion CPU της Google ως κεντρικό επεξεργαστή, επιτρέποντας βελτιστοποίηση σε επίπεδο αρχιτεκτονικής συστήματος αντί να περιορίζονται οι βελτιώσεις στην απόδοση μεμονωμένων chip.

Όσον αφορά τις δυνατότητες εκπαίδευσης, η διαμόρφωση superpod του TPU 8t υποστηρίζει συστάδες έως 9.600 επεξεργαστών με 2 petabytes μνήμης υψηλού εύρους ζώνης. Αυτό αντιπροσωπεύει διπλάσιο εύρος ζώνης επικοινωνίας μεταξύ chips σε σχέση με το Ironwood, και η Google ισχυρίζεται ότι μπορεί να συμπιέσει τα χρονοδιαγράμματα ανάπτυξης μοντέλων αιχμής από μήνες σε απλές εβδομάδες.

Ο επεξεργαστής εκπαίδευσης παρέχει 2,8 φορές την υπολογιστική απόδοση της αρχιτεκτονικής Ironwood 7ης γενιάς στο ίδιο σημείο τιμής.

Πρώτοι Χρήστες και Επίδραση στον Κλάδο

Η πρώιμη υιοθέτηση κερδίζει δυναμική. Η Citadel Securities ανέπτυξε πλατφόρμες ποσοτικής έρευνας χρησιμοποιώντας την υποδομή TPU της Google. Και τα δεκαεπτά εθνικά εργαστήρια του Υπουργείου Ενέργειας των Ηνωμένων Πολιτειών λειτουργούν εφαρμογές AI συν-επιστήμονα στους επεξεργαστές. Η Anthropic έχει δεσμευτεί να χρησιμοποιήσει πολλά gigawatt υπολογιστικής ισχύος Google TPU.

Αναλυτές της DA Davidson προέβλεψαν τον Σεπτέμβριο ότι ο κλάδος TPU της Google, σε συνδυασμό με την Google DeepMind, θα μπορούσε να έχει αποτίμηση που πλησιάζει τα 900 δισεκατομμύρια δολάρια.

Η Google διατηρεί ένα αποκλειστικό μοντέλο διανομής για τα TPU—δεν είναι διαθέσιμα για άμεση αγορά και είναι προσβάσιμα μόνο μέσω υπηρεσιών Google Cloud. Η Nvidia συνεχίζει να προμηθεύει υλικό GPU στην Google, και η εταιρεία επιβεβαίωσε ότι θα είναι μεταξύ των αρχικών παρόχων υπηρεσιών cloud που θα προσφέρουν την επερχόμενη πλατφόρμα Vera Rubin της Nvidia όταν κυκλοφορήσει αργότερα φέτος.

Οι επεξεργαστές σχεδιάστηκαν σε στενή συνεργασία με την Google DeepMind, η οποία τους έχει αναπτύξει για την εκπαίδευση γλωσσικών μοντέλων Gemini και τη βελτιστοποίηση αλγορίθμων που τροφοδοτούν τις πλατφόρμες Search και YouTube.

Η Google ανακοίνωσε ότι τόσο το TPU 8t όσο και το TPU 8i θα γίνουν γενικά διαθέσιμα για πελάτες πλατφόρμας cloud αργότερα το 2025.

The post Alphabet (GOOGL) Unveils Dual-Purpose 8th-Gen TPU Chips Developed With Broadcom appeared first on Blockonomi.