配备超16000个GH200超级芯片,亚马逊云科技与英伟达共推云AI超级计算机

admin1年前生活百科5
󦘖

微信号

KTV115116

添加微信

  美国当地时间11月28日,亚马逊云科技(AWS)在拉斯维加斯的re:Invent大会上发布了两款自研芯片Graviton4和Trainium2,并推出企业级AI聊天机器人“Amazon Q”(下称“Q”)抢占AI硬件市场。

  生成式AI热潮下,尽管云计算厂商对自研AI芯片热情高涨,但英伟达GPU目前仍是企业进行AI训练及推理的算力首选。

  当天,英伟达创始人兼CEO黄仁勋也穿着标志性的皮衣现身大会现场,与亚马逊云科技CEO Adam Selipsky一起宣布扩大战略合作。双方将联合推出先进的基础设施、软件及服务,包括亚马逊云科技将支持英伟达最新推出的H200 GPU,托管英伟达的人工智能训练即服务(AI-training-as-a-service)平台DGX Cloud。此外,双方正设计世界上最快GPU驱动的云AI超级计算机,配置16384颗NVIDIA GH200超级芯片,以及构建更多基于英伟达芯片的云实例等,提高生成式AI、HPC高性能计算性能。

  作为此次大会的重头戏,Graviton4和Trainium2分别瞄准数据中心通用计算和人工智能训练场景。亚马逊云科技称,基于Arm架构的服务器芯片Graviton4与前一代Graviton3处理器相比,性能提升30%,独立核心增加50%以上,内存带宽提升至少75%。

  而Trainium2则是面向AI大模型的高性能训练芯片,与第一代Trainium芯片相比,Trainium2训练速度提升至4倍,能够部署在多达10万个芯片的计算集群中,大幅降低了模型训练时间,同时能效提升多达2倍。

配备超16000个GH200超级芯片,亚马逊云科技与英伟达共推云AI超级计算机

  据界面新闻了解,目前最先进的大模型通常包含数千亿甚至数万亿个参数或变量,这为芯片的计算能力带来了诸多挑战,既要保证高性能、安全可靠,也要低成本。Tranium2主要强调的也是低成本、高能效和更快的训练能力。

  Tranium2已有了早期客户,数据分析平台公司Databricks以及由亚马逊支持的OpenAI竞争对手Anthropic都计划使用Trainium2芯片训练大模型。

  除自研定制芯片外,亚马逊云科技还推出首个基于生成式AI开发的应用——办公助手“Q”,可通过聊天方式实现辅助云端开发、服务响应、企业数据查询等功能。

  Q并非面向消费市场,而是围绕企业需求设计,其定位类似于一个专家助理。但Adam Selipsky特别强调,Q不会使用企业客户数据来训练其底层模型,Q的生成结果也不会跨越不同数据权限间的防火墙。Q可以设置为仅对安全团队的相关安全问题进行响应,非公司内部或与业务无关者,无法获得安全问题答案。

  事实上,在提及亚马逊云科技此前推出的Bedrock AI基础模型服务时,Adam Selipsky也重点强调了安全与隐私问题。他还“不点名”地提到了最大竞争对手微软。

  “你不会希望看到云供应商受制于一家模型提供商,而是需要一个真正的选择……过去10天发生的事件已经非常清楚地表明了这一点。” Adam Selipsky说。他口中的“事件”指的是OpenAI刚刚经历的一场戏剧性的人事动荡。

  re:Invent至今已举办了12年,云市场的竞争环境也增加了很多变量——尽管亚马逊云科技在公有云领域保持着领先优势,但竞争对手微软Azure凭借与OpenAI的深度合作关系,正不断扩大市场份额。

  据市场调查机构Canalys公布的最新报告,亚马逊云科技今年第二季度占全球云基础设施服务(IaaS)支出为30%,同比增长12%。与去年同期相比,亚马逊云科技收入增长已减少一半以上,这也促使该公司加大对人工智能领域投资,以寻找更多增长动力。同期,微软Azure同比增长了26%,占据26%市场份额,增长率高于亚马逊云服务。而AI热潮很可能将进一步促进市场加大对微软云计算业务的支出,因为Azure承载着OpenAI和Meta等公司的AI计算需求。

相关文章

【ETF操盘提示】二季度基金持仓快速提升,机构称2024年或为船舶上行周期初期!国防军工ETF(512810)收涨0.91%

【ETF操盘提示】二季度基金持仓快速提升,机构称2024年或为船舶上行周期初期!国防军工ETF(512810)收涨0.91%

  7月24日早盘,国防军工板块异动走高,盘面上,船舶板块震荡走高,中国船舶涨超4%,中国动力涨近3%,中船防务、中船应急等纷纷跟涨。在中船系带动下,场内热门的国防军工ETF(512810)早盘快速拉...

博鳌直击|智能手机增长见顶?荣耀万飚:高端智能手机销量不减反增 折叠屏手机将迎来翻倍增长

博鳌直击|智能手机增长见顶?荣耀万飚:高端智能手机销量不减反增 折叠屏手机将迎来翻倍增长

  博鳌亚洲论坛2024年会于3月28-31日在海南博鳌召开,今年主题为“不确定的世界:团结合作迎挑战,开放包容促发展”。在“推进数字经济”分论坛上,荣耀终端有限公司董事长万飚表示,终端行业远没有到瓶...

康众医疗(688607.SH):畅城及君联承宇累计减持1.06%股份

来源:格隆汇 格隆汇11月3日丨康众医疗(688607.SH)公布,本次权益变动期间,畅城及君联承宇通过大宗交易、集中竞价的方式合计累计减持公司股份933,157股,占公司总股本的比例为1.06%。本...

5日上涨概率较大,祥鑫科技站上5日均线,阳包阴形态确立!

5日上涨概率较大,祥鑫科技站上5日均线,阳包阴形态确立!

行情显示,祥鑫科技今日出现阳包阴形态,多方力量一举收复失地。点击咨询祥鑫科技如何操作 “策略之王”发现, 祥鑫科技出现阳包阴的同时,股价站上5日均线,表示短期多方强势,上涨信号得到了进一步的确认。 但...

上海浦发银行降薪引发员工抗议?董监事会办公室:正在核实具体情况

  来源 九派财经记者 郭梓昊   5月11日,网传浦发银行员工因不满降薪而到上海浦银大厦抗议一事,引发广泛关注。   对此,浦发银行董监事会办公室工作人员回应九派财经称,正在核实具体情况,会跟进处理...

各地楼市“大招”出台一个月,市场反应平淡

各地楼市“大招”出台一个月,市场反应平淡

  无论是新房还是二手房,市场对新政的反应都比较平稳。居民从恐慌型购房变为理性型购房   文|《财经》研究员 王文彤 任德辉   编辑|余乐   从8月开始,一个多月的时间里,全国已有超40城落实“...

微信号复制成功

打开微信,点击右上角"+"号,添加朋友,粘贴微信号,搜索即可!