semiconductor / news / / Interesting Engineering
Google 推出兩款新的 Tensor 處理器。
Google 推出兩種不同的 AI 晶片：TPU 8t 專用於訓練，而 TPU 8i 則用於推理。
重點
- TPU 8T 的計算效能比上一代 Ironwood 提高了近三倍。
- TPU 8i 相較於前代產品，在效能與價格的比率上提升了 80%，並內建 288 GB 具有高頻寬度的記憶體。
- 這兩種晶片相較於 Ironwood，在效能/瓦特 (效能/功耗) 方面可以提供兩倍的優勢，並且採用第四代液冷技術。
- TPU 8T 和 8i 支援主要的 AI 框架，例如 JAX、PyTorch、SGLang 和 vLLM，以便實現無縫部署。
相關公司
由 Newsio 自 Interesting Engineering 摘要整理。 摘要方式說明 →