ChatGPT运行每天或花费70万美元 微软开发自主芯片尝试降低成本

admin2年前生活百科10
󦘖

微信号

KTV115116

添加微信

ChatGPT运行每天或花费70万美元 微软开发自主芯片尝试降低成本

  新浪科技讯 北京时间4月21日早间消息,据报道,芯片行业研究公司SemiAnalysis首席分析师迪伦·帕特尔(Dylan Patel)表示,由于ChatGPT运行在价格昂贵的计算基础设施之上,OpenAI每天为运行ChatGPT投入的成本可能高达70万美元。

  帕特尔指出,ChatGPT需要庞大的算力,才能基于用户的输入信息做出反馈,包括撰写求职信、生成教学计划,以及帮助用户优化个人资料等。他表示:“大部分成本都来自于昂贵的服务器。”

  此外,帕特尔最初的估计基于OpenAI的GPT-3模型,而在采用最新的GPT-4模型之后,ChatGPT现在的运行成本可能更高。

  对此,OpenAI尚未对此做出回应。

  帕特尔和SemiAnalysis的另一位分析师阿夫扎尔·艾哈迈德(Afzal Ahmad)表示,此前外界已经注意到,训练ChatGPT背后的大语言模型可能要花费上亿美元,但运营费用,或者说人工智能推理的成本,以任何合理的部署规模来看都远远超过了训练成本。他们指出:“事实上,按周来看,ChatGPT的推理成本超过了训练成本。”

  过去几年,使用OpenAI语言模型的公司也一直在承担高昂的价格。创业公司Latitude开发了一款基于用户输入信息生成故事情节的人工智能地下城游戏。该公司首席执行官尼克·沃尔顿(Nick Walton)表示,运行该模型,以及相应的购买亚马逊AWS云服务器的费用2024年达到每月20万美元。因此,沃尔顿最终决定改用AI21 Labs支持的语言软件提供商。这帮助他将公司的人工智能成本降低了一半,至每月10万美元。

  沃尔顿在接受采访时表示:“我们会开玩笑说,我们有人类员工和人工智能员工,在这两类员工身上花费的成本大致相同。我们每个月在人工智能上花掉数十万美元,而且我们也不是一家大型初创公司,所以这是一笔巨大的开支。”

  近期有报道称,为了降低生成式人工智能模型的运行成本,微软正在开发一款代号为“雅典娜”的人工智能芯片。该项目于2024年启动。在此几年前,微软与OpenAI达成了10亿美元的投资协议,要求OpenAI仅在微软的Azure云服务器上运行其模型。

  微软启动这一芯片项目的背后有两方面思考。知情人士透露,微软高管意识到,他们在自主芯片开发方面落后于谷歌和亚马逊。与此同时,微软正在寻找更便宜的方案去替代英伟达的GPU芯片。

  目前,微软大约有300多名员工正在开发这款芯片。消息人士称,该芯片最早可能在明年发布,供微软和OpenAI内部使用。微软拒绝对此消息置评。

相关文章

非银行支付机构监督管理条例(全文)

  新华社北京12月17日电非银行支付机构监督管理条例   第一章 总则   第一条 为了规范非银行支付机构行为,保护当事人合法权益,防范化解风险,促进非银行支付行业健康发展,根据《中华人民共和国中国...

大行评级|交银国际:上调康方生物目标价至67港元 维持“买入”评级

交银国际发表报告指,康方生物的卡度尼利胃癌sNDA获受理,相关数据未来将于学术会议或学术期刊上发表,无论PD-L1表达如何,卡度尼利在整体晚期胃癌中展示出高效的肿瘤缓解和生存获益。交银国际表示,...

奇迹男孩原型-《奇迹男孩》有原型吗?

奇迹男孩原型-《奇迹男孩》有原型吗?

本文目录一览: 1、《奇迹男孩》有原型吗? 2、奇迹男孩是真事吗 影片中男孩奥吉的原型是谁 3、奇迹男孩原型人物结局 《奇迹男孩》有原型吗? 电影《奇迹男孩》1月19日就要全国公映,在专业的...

中国能源建设(03996)前三季度新签合同额9415.05亿元,同比增长35.53%

中国能源建设(03996)发布公告,2024年7-9月新签合同额2955.76亿元人民币;本年累计新签合同额9415.05亿元人民币,同比增长35.53%。...

美元失去王者地位或需时日 但现在就有相关交易机会

  可能还要过几十年美元才会真正失去桂冠,但与此同时,市场中存在一个相关的交易机会。   Lumen Capital Investors表示,随着数十个经济体制定规避美元的交易框架,新兴市场货币势将从...

复星国际:2024年总收入达1753.9亿元,同比增长8.7%

  炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!   复星国际有限公司(以下简称“复星国际”)及其附属公司今日公布2024年全年业绩。业绩显示,2024年总收入人民币1,7...

微信号复制成功

打开微信,点击右上角"+"号,添加朋友,粘贴微信号,搜索即可!