Google扩展其AI硬件产品组合,推出两款新的专用芯片

TechCrunch
Google发布两款新TPU芯片TPU 8tx和TPU 8i Max,扩展其AI硬件,用于机密推理和大规模工作负载。

内容摘要

Google扩展了其定制芯片阵容,推出两款针对专用AI工作负载的新型张量处理单元(TPU)。TPU 8tx与AMD合作开发,专为机密训练和推理设计,在硬件层面内置安全性,即使在活跃使用期间也能保护敏感数据和模型权重。它还具有自定义推理网络,支持即时模型蒸馏和训练,可帮助企业在不移动数据的情况下使用专有数据训练模型。TPU 8i Max将4月推出的两款专注于推理的TPU 8i芯片组合到一个封装中,使内存容量、处理能力和带宽翻倍,让AI模型在查询时能处理更广泛的信息。这两款芯片属于Google 4月推出的第八代TPU系列。此次发布之际,Microsoft、Amazon等超大规模云服务商以及OpenAI、Anthropic等AI实验室都在开发自己的AI专用半导体,以减少对Nvidia的依赖;Nvidia正处境脆弱,其CEO Jensen Huang上周末承认与一名被指为中国间谍的人有婚外情。

(来源:TechCrunch)