扎克伯格谈人工智能风险言论

  • 扎克伯格称 AI 实验室有保持模型安全激励
  • Meta 推迟 Muse 模型上线加强安全
  • 主标题:AI 开发聚焦用户可提升安全性 副标题:专家称将算力用于用户而非自我优化更安全

马克·扎克伯格本周就人工智能(AI)“灭绝威胁”话题发声。他认为,市场压力已足以促使 AI 实验室将安全优先,无需新的监管要求。

这位 Meta(META)首席执行官发布言论是在数周前曾警告“超级智能”风险后做出的。他表示,这项技术应赋能个人用户,而不能掌控在少数大公司手中。

扎克伯格进入未曾发起的争论

在那篇8 月发布的文章中,他主张不能让任何单一公司或政府掌控超级智能系统,强调应将技术广泛分散。

当下华盛顿正试图应对 AI 行业内部的系列警告。Anthropic 研究员 Jacob Coxon 于本月宣布辞职,指责所在公司与 OpenAI 在缺乏足够安全保障措施的情况下,过快推进自我进化型 AI 系统。

Coxon 的离职引发了全面禁止超级智能的议案推进。参议员伯尼·桑德斯(Bernie Sanders)与众议员 Greg Casar 正在国会力推相关立法。

OpenAI 的安全研究员 Marcus Williams 也曾公开表示,人类被灭绝的概率在未来 3 年内高达 70%。他补充称,如果各大实验室放慢脚步、或监管机构积极介入,该概率有望下降。

扎克伯格究竟说了什么?

扎克伯格认为,能否达成“对齐”而非简单限制,将决定 AI 发展路径。行业最重要的资产正逐步转向“信任”。

用户不可能愿意使用那些无法与自己需求保持对齐、无法按要求执行指令的智能体。因此,各大实验室有着天然动力提升模型对齐度。

扎克伯格在 X 平台发帖表达了上述观点。

他还提及 Meta 本身在安全保障方面的表现。例如,Meta 曾为解决安全隐患,将 Muse 智能助手的首发时间从 4 月推迟。他强调,Meta 主动采取措施,而非等行业统一规则出台。

扎克伯格还表示,Meta 超级智能实验室(MSL)已引入独立评估机构对研发过程进行审查。他建议竞争对手也可采用类似的外部核查机制。

他还补充称,将算力资源主要用于服务用户需求,而非系统自我进化,是保障 AI 安全的重要措施。

不过,扎克伯格的说法并未缓解核心分歧。批评者仍持续呼吁对自我进化型 AI 设定强有力的约束,而 Meta 则押注于市场竞争和行业自律。

未来数月,这种平衡能否维系,或将影响国会对扎克伯格推动 AI 快速落地的立场与监管方向。

文章免责声明

BeInCrypto 致力于提供公正、透明的报道。本新闻文章旨在提供准确、及时的信息。但读者仍应自行独立核实事实,并在根据本内容作出任何决定之前咨询专业人士。请注意,我们的条款与条件隐私政策免责声明已更新。