10月21日,财闻海外资讯消息,谷歌周二宣布,其备受期待的PyTorch适配版本TorchTPU正式开源。此举意味着谷歌加入亚马逊(AMZN.US)阵营,共同打破英伟达(NVDA.US)对AI行业的垄断——目前绝大多数AI应用默认基于英伟达芯片(GPU)开发运行。
PyTorch是AI开发者和初创企业广泛使用的开源工具包,用于构建、训练和运行AI模型。据估算,约85%的AI应用采用该技术。PyTorch最初由Meta(META.US)(当时名为Facebook)于2016年开发,彼时大语言模型(LLM)尚未掀起变革浪潮。由于英伟达GPU当时已是AI研究的标配硬件,PyTorch诸多功能均为适配其芯片而设计。2022年,Meta将PyTorch移交至Linux基金会管理。
谷歌推出的TorchTPU支持AI应用在其自研AI芯片——张量处理单元(TPU)上运行,并简化了现有PyTorch应用向TPU及谷歌云(Google Cloud)的迁移流程。开发者仅需调整配置,无需重写代码即可完成迁移。
亚马逊于周一发布类似产品TorchNeuron,支持AI应用零代码改写迁移至其自研芯片Trainium及亚马逊云科技(AWS)。亚马逊更进一步,向PyTorch主项目提交代码,将多项功能与英伟达芯片解耦,使PyTorch默认兼容更多硬件。
谷歌在部分领域或更胜一筹。该公司称与Meta、Hugging Face、vLLM开发商Inferact、SGLang开发商RadixArk等直接合作,确保TorchTPU的特性和代码库与这些主流AI开发工具无缝衔接。此外,谷歌推出TPU代理工具套件,协助开发者迁移应用至其芯片及云平台,并实时排查故障;同时升级了端侧AI运行工具LiteRT,优化其对PyTorch应用的兼容性。
这并不意味着AI开发者会立即集体弃用英伟达硬件,但亚马逊与谷歌正着力削弱英伟达的既有优势。