27 亿参数,微软发布 Phi-2 模型:某些性能指标优于 Llama-2-7B

admin1年前生活百科7
󦘖

微信号

KTV115116

添加微信

IT之家 11 月 17 日消息,微软 Ignite 2024 大会已拉开帷幕,微软在本次活动中发布了旗下最小的语言模型 Phi-2,共有 27 亿参数,相比较此前版本有明显提升。

27 亿参数,微软发布 Phi-2 模型:某些性能指标优于 Llama-2-7B

IT之家注:微软于今年 6 月发布 Phi-1,只有 13 亿代码,适用于 QA 问答、聊天格式和代码等等场景。该模型完全基于高质量数据进行训练,在基准测试中的表现比同类模型高出 10 倍。

微软今年 9 月更新发布了 Phi-1.5 版本,同样为 13 亿参数,可以写诗、写电子邮件和故事,以及总结文本。在常识、语言理解和推理的基准测试中,该模型在某些领域能够跟上多达 100 亿个参数的模型。

微软现在更新发布的 Phi-2 拥有 27 亿参数,规模虽然比此前版本翻番,但相比较其它主流语言模型,依然小很多。

微软表示 Phi-2 在逻辑推理和安全性方面显示出显著的改进。通过正确的微调和定制,小型语言模型是云和边缘应用程序的强大工具。

Microsoft Research 机器学习基础小组负责人 Sebastien Bubeck 在 Twitter 上发布了“MT-Bench”基准测试的屏幕截图,该基准测试了具有强大语言模型(例如 GPT-4)的大型和小型语言模型的实际功能。

27 亿参数,微软发布 Phi-2 模型:某些性能指标优于 Llama-2-7B

根据结果,Phi-2 在某些方面优于 Meta 的 Llama-2-7B 模型。Phi-2 的聊天版本也在酝酿中,可能会解决该模型在这些领域的一些现有痛点。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

相关文章

标普500日内跌幅达1%,报4358.3

标普500日内跌幅达1%,报4358.3点。...

拜登政府建立在国家投资能力上的大国竞争策略难以持续

虽然财政支出水平和结构支撑着大国竞争力,但客观上美国如何在32万亿美元旧债基础上,近期筹措这笔近两万亿美元的新增资金,既关乎其政治前程,也关乎其全球治理愿望的实现。 2024年拜登政府预算案,在202...

三十六计有哪些-36计都有什么计

三十六计有哪些-36计都有什么计

本文目录一览: 1、36计都有什么计 2、三十六计都有哪些 3、孙子兵法三十六计有哪些 4、三十六计有哪36计? 5、三十六计有哪些? 36计都有什么计 ;     《三十六计》是我...

紫菜头-紫菜头怎么做好吃?

紫菜头-紫菜头怎么做好吃?

本文目录一览: 1、紫菜头怎么做好吃? 2、紫菜头的做法大全 3、紫菜头有何特征、特性? 紫菜头怎么做好吃? 紫菜头介绍紫菜头又称红菜头、红根甜菜,为藜科甜菜属甜菜种的一个变种,以肥大的肉质...

中金:维持万洲国际跑赢行业评级 目标价降至4.8港元

中金:维持万洲国际跑赢行业评级 目标价降至4.8港元

  中金发布研究报告称,维持万洲国际(00288)“跑赢行业”评级,但考虑美国中上游利润水平或不及预期,下调2024/24年核心归母净利润36%/5%至9.04/13.7亿美元。综合考虑盈利预测下调...

中国的航空母舰有几艘-中国航空母舰有几艘

中国的航空母舰有几艘-中国航空母舰有几艘

本文目录一览: 1、中国航空母舰有几艘 2、中国航母有几艘 3、目前中国有几艘航母? 4、中国目前已有几艘航母? 5、中国现有几艘航母? 6、中国有几艘航空母舰? 中国航空母舰有...

微信号复制成功

打开微信,点击右上角"+"号,添加朋友,粘贴微信号,搜索即可!