據(jù)香港IDC新天域互聯(lián)了解，在群眾AI算力競爭日趨熱烈的布景下，谷歌云（Google Cloud）在最新一屆App Dev & Infrastructure峰會上發(fā)布重磅新品——新一代云霄超等盤算處事Hypercomputer登第六代TPU（張量解決器）Trillium，展現(xiàn)了其在AI基礎(chǔ)措施限制的宏愿。
算作現(xiàn)在浮點(diǎn)運(yùn)算性能最強(qiáng)的TPU，Trillium的單一集群可提供高達(dá)91 exaflops的算力。與客歲發(fā)布的TPU v5e比較，新品在AI模子測驗(yàn)性能上提高了4倍，推理隱約量提高3倍，單芯片峰值盤算性能更是提高了4.7倍。值得刺見識是，在性能大幅提高的同期，其動力破費(fèi)卻減少了67%，體現(xiàn)了谷歌在綠色盤算方面的技巧松懈。
在本體性能測試中，Trillium在初始Gemma 2-27B、MaxText Default-32B和Llama2-70B等大模子時(shí)，性能較上一代TPU v5p提高卓絕4倍。從老本效益角度來看，Trillium比v5e跨越1.8倍，比v5p跨越2倍，展現(xiàn)出極具競爭力的性價(jià)比。
硬件升級方面，新品在高頻內(nèi)存（HBM）容量和芯片間互連帶寬上齊終赫然翻倍提高。通過芯片互連技巧（ICI），單個高帶寬低延長Pod最多可推廣至256個芯片，并可通過一語氣數(shù)百個Pod釀成包含上萬顆芯片的超等盤算集群。合營谷歌13 Petabit/s的Jupiter數(shù)據(jù)中心匯集，可終了接近線性的性能推廣。
除了新一代TPU，谷歌云還推出了多項(xiàng)配套居品：搭載NVIDIA H200 Tensor Core GPU的A3 Ultra VM預(yù)覽版將于11月推出，其GPU間匯集帶寬和LLM推感性能較前代居品提高1倍；基于自研Arm架構(gòu)Axion解決器的C4A VM處事也已上線，較傳統(tǒng)x86架構(gòu)VM在性價(jià)比和能效方面分袂提高65%和60%。
在匯集措施方面，新上線的Jupiter光纖交換匯集提供400Gb/s的原生一語氣速率和13.1Pb/s的對分帶寬，據(jù)稱可解決地球上通盤視頻圖像。同期推出的AI/ML專用存儲處事Hyperdisk ML在數(shù)據(jù)傳輸速率上達(dá)到了1.2TB/s，超越競爭敵手近100倍。
跟著AI技巧快速發(fā)展，算力需求呈指數(shù)級增長。這次谷歌全面升級AI基礎(chǔ)措施，不僅展現(xiàn)了其在AI芯片限制的技巧實(shí)力，更預(yù)示著新一輪算力競爭的到來。在英偉達(dá)主導(dǎo)的AI芯片商場中開yun體育網(wǎng)，谷歌能否憑借新品掀開陣勢，值得商場執(zhí)續(xù)格式。