马斯克等千人联署：所有 AI 实验室应立即暂停训练至少 6 个月

luyuanhong

马斯克等千人联署：所有 AI 实验室应立即暂停训练至少 6 个月

2023-03-30 06:52:18　来源: 环球网资讯 北京

来源：环球时报

【环球时报综合报道】据英国路透社 29 日报道，包括马斯克和苹果联合创始人斯蒂夫·沃兹尼亚克在内的 1000 多名行业高管和专家签署公开信，呼吁在 6 个月内暂停高级人工智能（AI）的开发。他们在信中详细阐述了具有强大竞争力的人工智能系统可能对社会和文明带来的潜在风险，包括经济和政治方面，并呼吁开发者与政策制定者合作制定治理和监管规定。


马斯克

这封信呼吁，所有人工智能实验室应立即暂停训练至少 6 个月。信中写道：“只有在我们确信其效果是积极的，风险是可控的情况下，才应该开发强大的人工智能系统。”据悉，ChatGPT 的研发公司 OpenAI 首席执行官并未签署这封信。

投资银行高盛集团发布的最新报告称，人工智能或取代3亿全职工作岗位，并给不同行业带来不同影响。例如，46% 的行政工作和 44% 的法律工作可自动化运行，而在建筑和维修行业，这一比例仅为 6% 和 4% 。报告得出结论，类比此前的信息技术进步，生成式人工智能很快就能接手大量工作岗位。（冯国川）

延伸阅读：

马斯克为呼吁暂停 AI 训练 媒体：他反对的只是 OpenAI 和 GPT

据生命未来研究所官网，3 月 22 日，生命未来研究所（Future of Life）向全社会发布了一封《暂停大型人工智能研究》的公开信，呼吁所有人工智能实验室立即暂停比 GPT-4 更强大的人工智能系统的训练，暂停时间至少为 6 个月。该机构以“引导变革性技术造福生活，远离极端的大规模风险”为使命。

信中写道“只有在我们确信它们的效果是积极的，风险是可控的情况下，才应该开发强大的人工智能系统。”马斯克此前曾多次表达对人工智能的担忧，认为人工智能是未来人类文明最大的风险之一，威胁程度远高于车祸、飞机失事、毒品泛滥等甚至比核武器都危险得多。

截至目前，马斯克、苹果联合创始人 Steve Wozniak 、Stability AI 创始人 Emad Mostaque 等上千名科技大佬和 AI 专家已经签署公开信。

值得一提的是，OpenAI CEO 奥特曼在与 MIT 研究科学家 Lex Fridman 的最新对话中指出，AI 已经出现其无法解释的推理能力，同时承认“AI 杀死人类”有一定可能性。


公开信截图

马斯克为什么反对人工智能？

深圳卫视直新闻报道，实际上，马斯克反的只是 OpenAI 和 GPT 。

马斯克是生命未来研究所的最初发起人，并捐赠了 1000 万美元。

其实，马斯克也是 OpenAI 公司的联合创始人之一。但他在 2018 年离开了 OpenAI 的董事会，并撤销了一大笔赞助款。美国《财富》杂志当时报道称，离开的原因是因为马斯克虽然支持人工智能，但特斯拉智能驾驶技术与 OpenAI 之间有“潜在利益冲突”。报道中的一句话引人浮想联翩——“随着特斯拉更专注于 AI 技术”。还有报道称，马斯克在离开前提出过由他本人执掌 OpenAI 运营的建议，但遭到了拒绝。

这就不难理解，为什么离开 OpenAI 后，马斯克就一直在批评后者，甚至矛头直指击后者最大的支持者——微软和比尔·盖茨。

马斯克解决与 OpenAI “潜在技术冲突”的方式也十分简单粗暴，那就是挖走它的人才。2022 年离职的特斯拉自动驾驶主管 Andrej Kapathy 就是其中之一。他堪称 AI 界的超级网红，也曾是 OpenAI 最优秀的人才之一

从马斯克和 Andrej Kapathy 的爱恨情仇不难看出，马斯克不是痛恨人工智能，而是痛恨自己没有掌握最高级的技术。

马斯克与 OpenAI 的重大分歧之一在于，OpenAI 宣称其目标是专注于人工智能安全和道德规范的开放式研究组织。

3 月 16 日，马斯克在推特上写道：“我仍然很困惑，一个我捐赠了 1 亿美元的非营利组织是如何变成一个市值 300 亿美元的营利性组织的。如果这是合法的，为什么不是每个人都这么做呢？”

马斯克此前就曾发推批评 OpenAI ，称“OpenAI 最初是作为一家开源（这就是为什么我把它命名为 ‘Open’AI）的非营利性公司而创建的，为了抗衡谷歌，但现在它已经成一家闭源的营利性公司，由微软有效控制……这完全不是我的本意。”


社交媒体截图

怎么看待马斯克等人叫停练？ChatGPT 回答

今日，第一财经记者提问 ChatGPT 怎么看马斯克等人叫停对它的训练，ChatGPT 回答道：“马斯克叫停 GPT 训练可能有多种原因，其中一个可能是担心模型被误用或滥用，尤其是在自然语言生成和信息操纵方面。GPT 模型能够生成自然语言文本，包括虚假或有害信息，这可能会对社会和个人造成危害。此外，GPT 模型也可能有隐私问题，因为它可以生成人类语言，可能会包含敏感信息。”

ChatGPT 认为，叫停 GPT 训练主要是出于对社会责任和技术发展的前瞻性方面的考虑。它还提到，GPT 模型可能存在一些局限性，或者不是解决某些问题的最佳方法，因此需要尝试寻找更好的替代方案。

OpenAI CEO ：“AI 确实可能杀死人类”

据澎湃新闻 3 月 28 日报道，OpenAI CEO 山姆·奥特曼称，并不否认过分强大的 AGI “可能杀死人类”这一观点。必须承认，（AI 杀死人类）有一定可能性。很多关于 AI 安全和挑战的预测被证明是错误的，我们必须正视这一点，并尽早尝试找到解决问题的方法。

值得注意的是，据财联社报道，近日，挪威机器人公司 1X Technologies 宣布完成 A2 轮融资，共筹集到 2350 万美元。OpenAI 旗下创业基金领投此轮融资，Tiger Global 以及一群挪威投资者也参与其中。

获得融资后，该公司创始人进一步表示，“1X 很高兴能得到 OpenAI 的领投，因为我们的使命是一致的：将新兴技术有意识地融入人们的日常生活。在我们投资者的支持下，我们将继续在机器人领域取得重大进展，并增强全球劳动力市场。”

值得注意的是，人形机器人也是马斯克十分关注的方向。去年 9 月 30 日举办的特斯拉 AI 日上，马斯克展示了外界引颈期盼的人形机器人 Optimus ，马斯克曾表示，机器人业务将比汽车更具价值。

彼时，马斯克在发布会上表示，目前的人形机器人没有“大脑”，没有能在现实世界中导航的智能，而且非常昂贵且产量低。如今，OpenAI 与人形机器人的牵手则让人期待。

高盛：全球将有三亿人失业

据红星新闻报道，ChatGPT 迭代升级的脚步加快，很多人失业的恐惧也越来越重。高盛分析师布里格斯和库达尼在 3 月 27 日发布的研究报告中就直面了这一问题。

报告称：“最近出现的生成式人工智能将降低劳动力成本和提高生产率。尽管 AI 的潜力存在很大的不确定性，但它可以生成与人类创造成果无法区分的内容，并能打破人机沟通障碍，反映出具有潜在巨大宏观经济影响的重大进步。AI 不仅节省劳动力成本，还能创造新的就业机会以及提高在岗工人的生产率。AI 的革命性就像早期通用技术（如发电机和个人计算机）一样能为社会带来繁荣。”

ChatGPT 等生成式人工智能系统的最新突破，料将给全球劳动力市场带来重大颠覆，全球预计将有 3 亿个工作岗位被生成式AI取代，律师和行政人员将是最有可能被裁员的岗位。

高盛研究发现，目前欧美约有三分之二的工作岗位都在某种程度上受到 AI 自动化趋势的影响，而多达四分之一的当前岗位有可能最终被完全取代。该研究计算出美国 63% 的工作暴露在“AI 影响范围”中，其中 7% 的工作有一半以上的流程可以由 AI 自动化完成，这使他们很容易马上被人工智能取代。在欧洲，情况也差不多。

据 21 财经，作为一种具备生产创造能力的智能形态，以 ChatGPT 为代表的 AI 近年来展现出令人瞩目的文字、图像、声音的生成或辅助生成能力，也不断刷新着人们对于 AI 最终取代绝大部分人类工作的担忧。

更为关键的是，当前的 AIGC（人工智能生成内容）无需工资，亦不存在失业的概念，作为提供生产力的经济单位，其与宏观经济间的逻辑关系较人类发生了根本性改变，而这或许将给经济环境带来难以估量的影响。

每日经济新闻综合自深圳卫视直新闻、红星新闻、澎湃新闻、第一财经、公开资料