炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！

　　来源：周鸿祎微博

　　昨天马斯克呼吁暂停GPT-5的研发。我自己是做安全的，但我坚定地认为，不发展才是最大的不安全。

　　全文如下：

　　不发展才是最大的不安全-一对于马斯克请愿叫停 GPT-5 研发的看法

　　昨天，以马斯克为首的科学家给美国政府写请愿信，要求暂停 GPT-5 的研发，担心它“对社会和人类构成潜在风险”。我认为这不影响中国发展自己的大语言模型，包括 360 在内的一些中国公司已经展示了自己的作品，实事求是来说，离 GPT-4 的水平还有两年差距。现在担心风险为时尚早

　　不管你愿不愿意，GPT 都将引领一场新的工业革命，意义超越互联网和 iPhone 的发明。它将带来生产力的大幅提升，进而提升国家竞争力。中国一定要迎头赶上。

　　最近人工智能的指数级跃变确实让人有点措手不及。我一直预测，GPT-6 到 GPT-8 的版本就会产生真正的意识，甚至进化成一个新物种人类如何应对 AI 带来的未来安全挑战，谁也没法给出确定答案

　　我曾经想过是不是在程序里加一句暗语，比如天王盖地虎，宝塔镇河妖”，一提这句话，AI就能停止工作。然而现在的发展态势，已经不是一句暗语或者拔掉电源就能控制的了。人工智能的进化已经不以个人意志为转移了，哪怕早马斯克我自己就是做安全的，但我坚定地认为，不发展才是最大的不安全关于马斯克的请愿信，我不了解内幕，但我猜测是 GPT 的进化路上出现了超乎人类想象的现象。真是这样我倒不奇怪，我认为 GPT-4 已经是超级人工智能的雏形，早就出现了一些连它的创造者都无法解释的现象，比如涌现、幻觉、能力的迁移和逻辑增强。就像猿猴进化成人，不知道在哪个节点会发生智力的突变对于人类如何与 AI 共处，目前的观点大致分为三派：

　　-“降临派”认为人类应该把知识献给 AI，甘心做硅基文明的引导程序。

　　-“幸存派”有点躺平，认为只要我能生存，未来跟 AI 以什么样的方式共处都行。

　　-“拯救派”认为 AI不是来取代人类的，而是来升级人类的，人类将迎来工业革命之后最大的生产力解放。

　　我比较认同“拯救派”的观点。人类身小力薄从来都不是靠体能和智能的进化站在食物链顶端的，我们靠的是不断发明和使用工具。GPT就是这个时代最伟大的工具。我们可以借助它的能力大幅提升生产效率，提高个体自身的能力，普通人也能解锁专业技能，发挥聪明才智。通过人机协作的方式，我们将变成史上最强人类，智人2.0。

　　昨天我在发布会现场演示360GPT的时候也问了这个问题，它回答说“无论如何我们应该认识到 AI 仍处于婴儿期，需要在宽容和支持的基础上进行发展”

　　看起来360GPT的求生欲满满。这个答案我满意。

　　360 周鸿神

　　2024年3月30日