ChatGPT每月运营费70万美元!微软暗自研发AI芯片降成本

admin2年前生活百科7
󦘖

微信号

KTV115116

添加微信

  财联社4月21日讯(编辑 周子意)半导体研究公司SemiAnalysis的首席分析师Dylan Patel近日在接受采访时透露,OpenAI每天的运作可能要花费高达70万美元,因为人工智能(AI)运行所依赖的计算基础设施价格昂贵。

  ChatGPT自去年底发布以来一直受到用户的青睐,它可以用来写求职信、制定课程计划和约会方案等等,不过ChatGPT对用户的回复,往往需要大量的算力。

  Patel称,他的初步估计是基于OpenAI公司的GPT-3模型,而如今最新模型GPT-4已经推出,所以其运行成本可能会更高。

  运行成本高昂

  Patel和他的同事Afzal Ahmad称,虽然训练ChatGPT的大型语言模型可能要花费上亿美元,但当这些工具合理部署之后,其运营费可能远远超过了训练成本。

  多年来,使用大型语言模型的公司一直在付出高昂的代价。

  例如,初创公司Latitude开发了一款基于用户输入信息生成故事情节的人工智能地下城游戏。该公司首席执行官Nick Walton表示,在2024年,运行AI模型的费用以及向亚马逊AWS服务器所付的费用,加起来每月就要花费20万美元。

  Walton开玩笑道,“我们每个月在自己员工和人工智能上花的钱差不多”。

  微软秘密研制新芯片

  据the Information率先报道,两位知情人士透露,微软正在开发一款名为Athena的人工智能芯片,旨在降低运行生成式人工智能模型的成本。

  该芯片项目于2024年启动,这一年也恰好是微软对 OpenAI 进行首次投资的时间,当时的注资要求OpenAI只在微软的Azure云服务器上运行其模型。

  Athena项目背后的原因有二:其一,微软高管意识到,他们在自主研发芯片方面落后于谷歌和亚马逊;其二,微软正在寻找更便宜的替代品,该公司目前的人工智能模型是在英伟达的图形处理单元芯片上运行的。

  目前来看,英伟达是这个领域的最大玩家,单片价值1万美元的 A100 芯片占据了数据中心 GPU 市场 90% 以上的份额,主要用于训练和运行 AI。英伟达还已发布一款更先进的芯片——H100 ,据称该芯片的训练性能应该是其之前 AI 训练芯片的 9 倍,上月有报道称,OpenAI已使用H100芯片对其人工智能模型进行训练和运行。

  据悉,微软有300多名员工正在研发这款芯片。知情人士透露,该芯片最早可能于明年发布,供微软和OpenAI内部使用。

相关文章

胜华新材10月12日遭9个北向资金席位净流入,高盛证券净流入628.01万元

胜华新材10月12日遭9个北向资金席位净流入,高盛证券净流入628.01万元

  入口提示:新浪财经APP-行情-决策商城-北向掘金 10月12日胜华新材【603026】获北向资金合计净流入2738.23万,5日合计净流入1842.00万,10日合计净流入1279.25万...

牌照整合再迈重要一步!中信金控获准成为中信证券第一大股东

牌照整合再迈重要一步!中信金控获准成为中信证券第一大股东

  历时一年的中信证券大股东变更事项,终于走完监管核准流程。   6月30日,中信证券发布公告表示,中信证券于2024年6月22日收到中国中信有限公司(以下简称“中信有限”)通知,中信有限、中国中信股...

紫金矿业将于6月30日派发末期股息每10股2.227444港元

紫金矿业将于6月30日派发末期股息每10股2.227444港元

  紫金矿业(02899)公布,将于2024年6月30日派发2024年末期股息每10股2.227444港元。...

李世平为中南钢铁财务体系研修班学员授课

李世平为中南钢铁财务体系研修班学员授课

  来源:中国冶金报社   9月19日,中南钢铁财务能力提升研修班在鄂城钢铁匠心园报告厅举行。此次研修以聚焦强化数据治理,推进数智化建设,提升极致效率为主题,中南钢铁党委书记、董事长李世平专题授课。...

今年以来至少11家信托增资获批,合计增资金额逾183亿元

今年以来至少11家信托增资获批,合计增资金额逾183亿元

  今年以来,信托行业再迎增资“热潮”。今年至少有11家信托企业增资获批,合计金额逾183亿元。   澎湃新闻(www.thepaper.cn)记者不完全统计,截至12月20日,已有11家信托企业增...

普益财富盘中异动 股价大涨5.01%

北京时间2024年12月26日22时31分,普益财富(PUYI.us)股票出现异动,股价快速上涨5.01%。截至发稿,该股报4.10美元/股,成交量313股,换手率0.00%,振幅0.00%。 最近的...

微信号复制成功

打开微信,点击右上角"+"号,添加朋友,粘贴微信号,搜索即可!