2026/04/22 20:00

Google為訓練效能與推理打造的TPU 8t(左)與TPU 8i(右),能夠大幅縮短模型運算時間,協助企業更高效率邁向「代理式企業」的轉型。(業者提供)
〔記者邱巧貞/台北報導〕Google年度盛會「Google Cloud Next '26」於美西時間4月22日至24日在拉斯維加斯登場,作為年度雲端與AI技術盛會,今年最大亮點之一即是第八代TPU(Tensor Processing Unit)的正式亮相。
Google Cloud執行長Thomas Kurian在會中宣布,AI產業正邁入「代理式企業(Agentic Enterprise)」新時代,並同步發布一系列涵蓋AI技術堆疊、算力基礎建設與應用層的創新布局,這些技術建立在統一的架構之上,使AI代理不再只是單純的聊天工具,而是進一步升級為具備感知、推理並採取行動以推動實質成果的自主AI代理(autonomous agents)。
在這波技術發布中,Google正式推出第八代客製化TPU,採用「雙晶片、一系統」設計,推出TPU 8t 與TPU 8i 兩種架構,分別對應AI「訓練」與「推理」的兩種截然不同的需求,旨在重新定義AI的可能性,從建立最強大的AI模型、到完美調度龐大的AI代理群,以及管理最複雜的推理任務。
其中,「訓練效能引擎」TPU 8t 經過最佳化處理,可將前沿模型的開發時間從數個月縮短至數週。為實現這個目標,Google表示,透過一個系統平衡了極致的運算吞吐量、共享記憶體和晶片間頻寬,同時提供最佳能源效率和高產能的運算時間。
作為「推理引擎」的TPU 8i 專為驅動理想的代理式AI(agentic AI)使用者體驗而打造,強調只需要提出問題、將任務委派給AI代理,就能立即獲得回應,無需等待數秒。它結合了288 GB的高頻寬記憶體,與內建384MB的SRAM(靜態隨機存取記憶體),容量較上一代增加3倍,能將模型使用中的工作集完全保存在晶片上。
Google表示,透過這套訓練與推理分工的架構設計,第八代TPU在整體成本效能上較前代提升達80%,意味企業能以相同的成本服務近乎雙倍的客戶量,從而實現獲利成長。這兩款晶片預計於今年稍晚正式推出,也顯示雲端巨頭正加速布局AI算力基礎建設,搶占下一波企業轉型與產業升級的關鍵主導權。