谷歌吹嘘自研芯片TPU4组成的超算是英伟达A100超算性能的1.7倍 – 蓝点网
谷歌日前公布了该公司用于训练人工智能模型 PaLM 的谷歌超级计算机的更多细节,谷歌称这个超级计算机比英伟达的吹嘘成的超算超算同类系统速度更快、功耗更低。自研U组
目前 AI 行业主要依靠英伟达的芯片性专用加速卡进行训练,典型代表是英伟 OPENAI 使用 20000~30000 张 NVIDIA A100 加速卡,早前英伟达还推出了最新加速卡 NVIDIA H100,达A的倍性能是蓝点 A100 的三倍。
谷歌虽然也使用英伟达的谷歌加速卡,不过谷歌自己也在研发芯片,吹嘘成的超算超算比如谷歌新超级计算机使用的自研U组就是谷歌自己研发的第四代张量处理单元 (TPU)。
TPU 主要用于谷歌的芯片性人工智能训练,谷歌称公司 90% 的英伟人工智能和机器学习训练都是基于 TPU 单元的,即通过模型提供数据的达A的倍过程,让这些处理单元在用于类似人类的蓝点文本响应查询和图像生成领域发挥作用。

谷歌最新的张量处理单元是第四代即 TPU4,谷歌自 2020 年开始将 TPU4 部署在数据中心组成超级计算机供内部使用。
谷歌本周发布了一篇新论文介绍 TPU4 及 TPU4 组成的超级计算机,谷歌工程师利用自己定制开发的光开关将 4000 多个 TPU4 连接在一起组成超算。
难点在于如何让这些处理单元组合起来提供高速运算,因为诸如 ChatGPT、Bard 这类模型数据量太大,靠单个芯片无法支撑。
相反,这些模型必须利用数量夸张的计算单元,然后将数据分布存储在上面,同时还要求每个计算单元能够协同工作数周甚至更长的时间,因此这是一个技术难点。
所以最终谷歌选择自己定制开发专用的光开关,这样 TPU4 超算可以轻松动态配置处理单元之间的连接,降低延迟、提高性能满足计算需求。
性能对比方面,谷歌在论文中表示对于同等大小的系统,TPU4 超算比 NVIDIA A100 超算快 1.7 倍、能效提高 1.9 倍,A100 上市时间与 TPU4 完成开发类似,所以可以对比,而最新发布的 H100 属于更先进的产品了,谷歌没对比。
那么标题中为什么要说谷歌 “吹嘘” 呢?我们倒不是怀疑谷歌的研发能力,主要是谷歌自研的这些芯片 (包括用于手机上的 AI 芯片) 都不对外出售的,也就是只有谷歌自己能使用。
所以即便性能提升多少对其他 AI 企业来说好像也没太大意义,不过谷歌也倒不是完全封锁,谷歌通过 Google Cloud 云计算服务对外出租 Cloud TPU 算力,所以 AI 企业要想使用 TPU 还必须使用 Google Cloud,妥妥的捆绑销售了,要知道云计算成本可比自己购买芯片后长期使用的成本高的多,所以对大型 AI 企业来说这并不划算。
另外谷歌暗示该公司还在开发新一代 TPU,毕竟 TPU4 都是 2020 年之前的事儿了,谷歌要研发第五代张量计算单元与 NVIDIA H100 竞争。
(责任编辑:视觉艺术秀)
- ·中文网站工程建设民营企业服务项目(腾讯Bazelle关键字强化)及早晓得越好,
- ·大众ID.3 GTX官图发布 驾驶感比肩GTI Clubsport
- ·2023少沙那里有杨梅戴采戴基天
- ·中国电视市场9月出货:海信第一 小米下降
- ·蝎子池收录于技术(网易网络营销账户强化的12个小基本功,工作效率翻番神功!)这都可以,
- ·路特斯EMEYA繁花正式开启交付 售价66.8万元起
- ·洛图科技:Q3大尺寸交互平板面板出货量上涨21%
- ·2023少沙那里有杨梅戴采戴基天
- ·中文网站强化初步设计(逆冬:3个新一代网络营销科学知识撷取、探求网络营销根本)庞克推荐,
- ·外资看好中国经济前景 普遍关注消费板块机遇
- ·营销网站T8300公司(灌篮高手1076:三船长单刷新复本结局,坎比和罗惨败,路飞猎人暴涨当孩子说“...、美人”,不愿做爱时,其实真正畏惧的是这5件事)学到了吗,
- ·祸本爱收文表bai ?老公江宏杰 称其救了本身好几次
- ·2023成皆薰衣草花海正在那里 附最好赏花期
- ·蔡缓坤找郭麒麟教相声被秒拒 互为师徒挨算掉败
- ·正午是谁的代表作(纺织工业出版社创造“正午十书、宿苞十万册” 被知名MBA收录美国最强健8岁男孩,靠壁球红遍全球,18年过去了,现状让人心碎)这都可以?,
- ·苹果腕表4绝航才气出有晋降 电池借是要一天一充
- ·斯柯达Epiq概念版官图正式发布 预计2025年海外市场上市
- ·凶僧斯天下记载!6岁小女孩获最年青游戏开辟者奖项
- ·德国大众汽配(德国大众集团第一款自主研制电动车动力电控现身,电池组成本有望降低50%)教给了吗,
- ·仝卓甩出文旅部民网链接 号令网友写疑告收郑云龙













