OpenAI 安全监督团队技术成员警告称，倘若 AI 实验室不放缓研发或监管部门不及时介入，人类在未来 3 年内灭绝的概率高达 70%。
这名成员名为 Marcus Williams，于 2025 年 5 月刚刚加入 OpenAI。他在社交平台 X 上发布了上述预警。在其他用户要求给出具体概率后，他给出了这个数字。
人类灭绝概率为何如此之高？
Williams 在发言中表示，如果 AI 缺乏有效监管，或者各大实验室不采取协同减速措施，未来几年内人类灭绝“非常有可能”发生。
有用户随后试图将此讨论转化为赌局，提出用价值 10 000 美元的微软股票对赌 OpenAI 股票，期限为 5 年。Williams 在回应中给出了概率预测。
“如果没有监管或放缓，我认为 3 年内出现 70% 的概率。不过，我也认为实现监管或放缓是完全可能的。”
值得注意的是，Williams 明确表示，监管或放缓具有较高可能性，因此上述结论并非板上钉钉。他并未将风险视为已经确定将会发生的事实。
华盛顿已开始应对 AI 风险
此番表态正值 AI 安全议题步入主流政治讨论的当口。9 月 9 日，Anthropic 一名研究员辞职，并指责 Anthropic 与 OpenAI 将人类生命当做赌注。
美国国会议员对此迅速作出回应，并于次日提出新一轮暂停 AI 开发的倡议，其中包括全面禁止超级智能的参议院法案。
实验室以外的声音也接连发出警告。联合国人权事务高级专员本周在日内瓦直言，先进 AI 已构成人类“生存威胁”。
尽管如此，Williams 的预测仍处于风险评估的极端一端。Anthropic 对齐科学负责人 Evan Hubinger 认为，本世纪内人类灭绝概率超过 10%。而诺贝尔奖获得者 Geoffrey Hinton 给出的区间在 10%–20% 之间。
与此同时，加密货币市场投资者也在密切关注此类警告。交易平台 Polymarket 在数小时内将 Williams 的言论推送给自家用户，其平台用户甚至已将大选、重大宏观事件纳入押注范围，与热门代币行情并列。
因此，眼下对 AI 风险的“考验”，更多来自政治层面而非技术领域。监管机构能否在 Williams 所述的 3 年时间窗口内采取有效行动，尚属未定，而他本人仍坚信监管措施切实可行。
