Η Intel ανακοίνωσε το Gaudi 3 AI chip στο Vision 2024. Αυτός ο επεξεργαστής σχεδιάστηκε για να επιταχύνει την τεχνητή νοημοσύνη σε επιχειρηματικό επίπεδο και υποστηρίζεται ότι είναι ταχύτερος από την GPU H100 της Nvidia. Ο Gaudi 3 χρησιμοποιεί την ίδια αρχιτεκτονική με τον Gaudi 2, αλλά με τη διαδικασία των 5nm, γεγονός που τον καθιστά πιο αποδοτικό.
O Gaudi 3 υποστηρίζει έως 128GB HBM2e με 3,7 TB/s bandwidth και 900W TDP.
Η Intel παρουσίασε benchmarks όπου σύγκρινε το Gaudi 3 με την GPU H100 σε διαφορετικά μοντέλα, όπως LLAMA2-7B, LLAMA2-13B και GPT 3-175B. Το Gaudi 3 απέδειξε ότι είναι 1,7 φορές ταχύτερος και 2,3 φορές πιο αποδοτικός σε κατανάλωση ενέργειας.
Η Intel έχει ήδη αποστείλει δείγματα του επεξεργαστή σε συνεργάτες, μαζί με σύστημα ψύξης με αέρα, και αναμένεται να γίνει ευρέως διαθέσιμο κατά το τρίτο τρίμηνο του 2024.
Στο τέταρτο τρίμηνο αναμένονται επίσης εκδόσεις με υδρόψυξη.