1. 首页>>分享

亚马逊发布3nm自研AI芯片Trainium3,性价比提升4倍,真能挑战英伟达吗?

财联社12月3日讯,编辑是史正丞 ,北京时间周三凌晨,全球云计算领域被称作“一哥”的亚马逊AWS,在re:Invent大会期间作出宣布,新一代由自身研发的AI芯片Trainium3正式公开上市,这是让华尔街翘首以盼等待着的事情,。

从综合的公司介绍来看,Trainium3属于亚马逊推出的头号具备3nm制程工艺的芯片,相较于前一代Trainium芯片而言,Trainium3在计算性能方面最高能够实现4.4倍的提升,在能效上有着4倍的提升幅度,内存带宽差不多有4倍的提升,旨在参与主打AI算力竞争的性价比赛道,由Trainium3构建而成的UltraServer系统能够实现互联,每一台能够容纳144枚芯片,并且可以为单个应用提供多达100万枚Trainium3芯片,数量是上一代的10倍。

图片

公司表明,对比那些状况同样使用图形处理单元也就是GPU的系统而言,训练以及运行AI模型的成本能够把降低幅度达到最多50% 。

当然,那些期望亚马逊Trainium3去和谷歌TPU进行一番较量,甚至于“向英伟达发起挑战”的投资者,或许会存有一些失望之情,毕竟并没有任何相关资料表明这款芯片除了具有“性价比”这一特性之外,还具备其他方面的优势,。

亚马逊不肯说出新款AI芯片跟谷歌、英伟达最新品作基准性能比较的情况,也没讲功耗参数。当下我们仅晓得每块芯片整合144GB的高带宽内存,然而谷歌最新型的Ironwood TPU是192GB,英伟达的Blackwell GB300最高能到288GB。

关于Trainium项目,有着一位AWS副总裁兼首席架构师,此人是Ron Diamant,他也直白地表示说:“我并不觉得我们会想法去替代英伟达”。

归根结底,Diamant进一步表示,这款自研芯片最大的优势就是性价比,他的主要目标是为客户在不同的计算工作负载上提供更多选择。 ,。

对于亚马逊的AI芯片来讲,最大的短板并非芯片自身,而是亚马逊欠缺极具深度、易于使用的软件库。在亚马逊的AI芯片方面,最大的短板并不是芯片这个东西本身,是亚马逊缺少充分有深度且易于使用的软件库。

除了亚马逊本身,以及公司大力投入资金进行投资的AI初创企业Anthropic之外,当下几乎难以找寻到运用Trainium芯片的知名公司。

在10月时,Anthropic表明,会采购数量封顶100万块谷歌的TPU,于11月,它又宣告与英伟达签订投资入股协议,且会进一步去购买英伟达芯片的算力。然而,Anthropic也着重指出,亚马逊依旧是其“主要的训练合作伙伴以及云服务提供商”,预估到年底会使用数量超出一百万颗的Trainium 2芯片。

Bedrock Robotics 将人工智能用于赋能施工设备自动化,其介绍表明,公司的基础设施运行于 AWS 服务器之上,然而,在为挖掘机构建引导模型之际,就得运用英伟达芯片。公司首席技术官 Kevin Peterson 做出了总结,他说:“我们所需要的它务必要具备高性能与此同时还需要易于使用,也就是英伟达。”。

亚马逊好像也察觉到了这个问题,在Trainium3的公告里头,公司特意着重强调Trainium4正在进行研发工作中,其中最大的亮点是“可以跟英伟达芯片共同开展工作”。

公司宣称,Trainium4会对英伟达NVLink Fusion高速芯片互连技术予以支持,最终造就一派兼顾GPU跟Trainium服务器的经济高效的机架级AI基础设施。

英伟达作出介绍,称所讲的NVLink Fusion,其核心是NVLink Fusion chiplet此一对象,而有超大规模云服务商,能够把该chiplet放进自身定制的ASIC设计里,目的是去连接NVLink规模化互联以及NVLink交换机。

图片

(NVLink Fusion芯片组得以让72个定制ASIC实现全互联,每个ASIC的带宽达到3.6 TB/s,来源:英伟达)。

这表明,依托Trainium4,系统可与英伟达GPU实现互操作,进而提升整体性能,与此同时,仍采用亚马逊自行研发的、成本更低的服务器机柜技术。这还会使那些围绕英伟达GPU所构建的大型AI应用,能够 easier 迁移至AWS 。

(财联社 史正丞)

本文采摘于网络,不代表本站立场,转载联系作者并注明出处:https://www.mjgaz.cn/fenxiang/279567.html

联系我们

在线咨询:点击这里给我发消息

微信号:13588888888

工作日:9:30-18:30,节假日休息