Claude Fable 5 上线后 Dario Amodei 呼吁加强 AI 安全控制

  • Dario Amodei 呼吁政府阻止高风险前沿 AI 模型
  • Anthropic 公布 Claude Fable 5 后发布相关评论
  • Anthropic 推出测试法案与岗位转型方案

Anthropic 首席执行官 Dario Amodei 周三呼吁,对前沿 AI 模型强制实施第三方安全测评,并建议赋予政府权力,阻止未通过安全审核的系统上线。

这篇题为《AI 指数增长的政策》的文章发布于 Anthropic 发布 Claude Fable 5 后一天。公司同时公布了关于模型测评的立法建议,以及一套应对岗位替代的框架。

Dario Amodei 从“透明”走向“强制监管”

在 2025 年,Anthropic 一直在支持以信息披露为基础的立法,包括加州的 SB 53 法案、纽约的 RAISE 法案和伊利诺伊州的 SB 315。然而,Amodei 如今已经指出,单靠透明公开已经无法应对现有风险。

他建议借鉴美国联邦航空管理局(FAA)的监管模式。算力超过阈值的模型将被强制进行第三方审计,涉及四大领域。

这四个领域为:网络安全、生物武器、模型失控、自动化 AI 研究。

“前沿 AI 模型,应当像飞机一样,必须经过技术安全测试与审计。如果未达到高水平安全标准,其发布应被阻止或撤回,以防危及公共安全。”Amodei 在文章中写道

关注我们的 X 账号,实时获取最新快讯

这一方案超越了白宫 6 月发布的 AI 行政命令,虽然 Amodei 也认可该举措作为“渐进式进展”。

他同时建议:必须及时上报安全事故,严格保护模型权重。

网络风险敲响加密基础设施警钟

Amodei 指出,网络安全是首个已全面显现的风险。他提到 Claude Mythos Preview,成功解决了 73%顶级专家级网络安全挑战,此前尚无任何 AI 模型实现此成就。

文章警告,前沿 AI 模型可能冲击金融行业及关键基础设施。

BeInCrypto 的分析同样指出,Mythos 级模型可能加大DeFi 安全隐患——原因在于去中心化金融(DeFi)协议本身就是完全公开、易遭黑客攻击的价值存储场。

与此同时,Anthropic 于 6 月 9 日上线的 Claude Fable 5 模型,内置了可屏蔽高风险网络及生物学请求的防护机制。

Amodei 指出,这类自愿限制无法替代全行业统一的强制性监管规则。

他还警告,AI 的自主性风险可能随之加剧。Anthropic 的内部数据显示,AI 正在助力自主升级,在多家领先 AI 实验室,Claude 已能独立编写大部分核心代码。

失业、民权保护与民主国家联盟

在经济层面,Amodei 建议推出工资保险、留任税收激励以及员工培训补助金等政策。

如果就业岗位被长期取代,Amodei 提议可通过企业税或资本利得税,为全民基本收入计划提供资金支持。

在民权议题上,Amodei 态度鲜明。他主张全面禁止在本土执法领域部署全自动武器,并敦促美国国会尽快堵上数据经纪商漏洞,防止执法机关大规模购买公民数据实施监控。

地缘战略方面,他呼吁民主国家结成联盟,共同管控芯片及半导体制造设备出口。

他还援引美国尚待通过的 MATCH 与 OVERWATCH 法案,认为这是建立更严密、协调出口限制措施的起点。

Amodei 否认公众对 AI 的担忧属于“营销误区”,直言这些担忧“确实合理”。美国国会是否采纳 Anthropic 提出的 AI 测试方案,将决定下一阶段 AI 监管政策的走向。


要阅读来自BeInCrypto的最新加密货币市场分析,点击此处

文章免责声明

本篇文章僅供參考,不應視為金融或投資的具體建議。BeInCrypto 致力於提供準確、公正的報告,但市場情況可能會有所變化,恕不另行通知。在做出任何財務決定之前,請務必自行研究並諮詢專業人士。請注意,我們的《服務條款與細則》、《隱私政策》 以及 《免責聲明》 已更新。