沃资讯
科技 财经 汽车 游戏 数码 资讯 商业

谷歌第六代TPU Trillium商用:AI计算性能大幅提升,内存带宽双倍增强

2024-12-12来源:ITBEAR编辑:瑞雪

谷歌近日宣布,其第六代TPU Trillium已正式向Google Cloud的客户开放。这一举措旨在借助Trillium强大的计算能力、卓越的性能以及可持续性,进一步推动AI模型的发展。

作为Google Cloud AI超级计算机的核心组件,Trillium TPU代表了一种革命性的超级计算机架构。它融合了性能优化的硬件、开放的软件环境、前沿的机器学习框架以及灵活的消费模型,共同构成了一个高度集成的系统。

早在今年5月的I/O开发者大会上,谷歌便已经宣布了Trillium TPU。据官方介绍,与上一代相比,Trillium TPU在训练性能上实现了4倍以上的提升,推理吞吐量提升高达3倍,峰值计算性能更是提升了4.7倍。

在效率方面,Trillium TPU同样表现出色。其能源效率提高了67%,每美元训练性能提升高达2.5倍,推理性能也有1.4倍的提升。这一显著的效率提升,无疑将为用户带来更加经济实惠且高效的AI计算体验。

在规模扩展方面,Trillium TPU同样具备强大的能力。单个Jupiter网络结构可容纳多达10万个Trillium芯片,同时配备了双倍的HBM容量和ICI带宽,支持大规模AI训练。谷歌官方表示,Trillium的近乎线性扩展能力,配合高速芯片互连和Jupiter数据中心网络,可以显著加快大型模型的训练速度。

举例来说,在训练gpt3-175b模型时,即使跨数据中心网络运行,24个Pod(共6144个芯片)也能达到94%的扩展效率。这一成绩充分展示了Trillium TPU在大型模型训练方面的卓越表现。

Trillium TPU还具备出色的灵活性和可扩展性。用户可以根据实际需求,灵活调整计算资源和配置,以满足不同规模和复杂度的AI计算任务。这一特点使得Trillium TPU成为众多企业和研究机构在AI领域的首选计算平台。

随着谷歌正式向Google Cloud客户开放第六代TPU Trillium,我们有理由相信,这一先进的计算平台将在未来为AI领域的发展注入更加强劲的动力。

未来十年科技新图景:智能硬件跃迁、AI赋能与网络无感化变革
本文将从智能硬件、AI 算法、未来网络、数字经济、安全体系等多个维度,分析科技浪潮下的核心趋势。 设备变得更聪明网络变得无形AI 成为能力底座数字经济成为主引擎安全体系成为关键支撑科技不是未来,而是现在正在发…

2025-11-15

桥梁位移监测仪:精准感知位移 灵活部署续航 守护桥梁安全出行
这种方式能够利用清洁能源为设备持续供电,既体现了节能环保的理念,也巧妙地解决了在市政供电不便场景下的设备续航问题,保障了监测工作的不间断进行。为了便于现场操作与维护,桥梁位移监测仪还配备了便捷的配置方式。 …

2025-11-14

水库增殖放流站物联网升级:实时监测,远程管控,开启智慧渔业新模式
通过接入溶解氧传感器、水温传感器、水质监测仪、自动投料机、自动增氧机、循环水设备PLC、摄像头等多种设备,物通博联智能数采网关能够实时采集各个鱼池的水质、溶解氧、水温以及投料、增氧、循环水等设备状态,通过5…

2025-11-14

5.5G辐射危害健康?物理学者:比太阳光频率低,基站越密越安全
我当时听了都愣了,太阳光那不是好东西吗,怎么还跟信号辐射扯一块儿了? 最有意思的是,他说大家都觉得基站多了辐射就大,这完全是搞反了。之前吵得最凶的那个阿姨,现在天天用5.5G跟外地的孙子视频,还跟邻居说这新基…

2025-11-14

高光谱探测器助力宽带叠层扫描成像 开启3D高光谱成像新篇
最近的研究表明,能量分辨或高光谱探测器可以在某种程度上取代单色器的作用来执行,例如,在单次采集中使用宽带辐射进行边缘减影叠层扫描成像。利用这样的探测器,时间相干性变得可调(在探测器的能量分辨率的限制内)并且在…

2025-11-12

中国电信携手多方完成2万公里中轨NTN在轨试验 速率达140Mbps
快科技11月11日消息,近日,中国电信研究院联合浙江电信,携手清华大学、上海清申科技、北京捷蜂创智科技,依托云网融合大科创装置天地一体卫星试验能力,成功完成NTN(非地面网络)制式在中轨卫星条件下的在轨技术验…

2025-11-12

NAND闪存供应告急价格半年翻倍,群联电子聚焦高利润企业客户
即便价格不断走高,市场对存储器的需求并没有减弱,而是不断增长。 据了解,群联电子在2025年中已经获得了2026年的大部分NAND闪存供应,并与六家供应商延长了长期协议。群联电子将与主要GPU和服务器供应商合…

2025-11-12

万卡AI集群:算力变革下数据中心建设逻辑、系统瓶颈与交付模式之变
它迫使数据中心的建设逻辑从“基建思维”转向“IT思维”;它将系统瓶颈从“算力”引向了“网络”;它也将交付模式从“工程项目”推向了“产品制造”。 当一个万卡集群被点亮时,它不再是一个被动容纳IT设备的“机房”…

2025-11-12

中国移动北斗短信升级新突破:无网也能畅发文字语音图片 应急通信添利器
iMobile爱科技11月11日讯——中国移动正式发布北斗短信业务重大升级成果,在原有文字通信基础上新增图片、语音等富媒体消息功能,并实现上行40 个汉字、下行 10 个汉字的文本传输能力升级,北斗通信进入…

2025-11-11

爱立信完成上行L4S技术测试,为5G时延敏感业务提供网络支撑
(全球TMT2025年11月11日讯)近日,在IMT-2020(5G)推进组的组织下,爱立信成功完成了上行L4S技术测试,验证了L4S在提升上行实时交互业务体验方面的显著效果。测试结果表明,L4S技术能够有效…

2025-11-11