Anthropic 首席执行官 Dario Amodei 日前在联合国安理会警告，人工智能（AI）有可能对人类构成威胁。OpenAI 的 Sam Altman 和 Hugging Face 的 Clément Delangue 也共同呼吁全球 AI 加强协作与监管。
本次会议由法国在联合国大会期间主持，全球 AI 行业领军企业高管齐聚 15 个成员国议会。对于如何监管飞速发展的 AI 产业，世界各国政府依然存在明显分歧，相关政策法规远远落后于技术进步。
AI 对人类的风险究竟有多大？
Amodei 在会议上表示，只有全球各国政府与相关企业协同合作，才能有效应对 AI 潜在风险。
“AI 有可能发展为对整个人类的威胁。”
Dario Amodei，援引自 路透社
多年来，Amodei 一直警惕 AI 可能引发的网络安全风险和生物武器威胁。他同时认为，AI 技术也有望助力治愈癌症等重大疾病，造福社会。
Altman 也表示，AI 做出的决策应当接受政府监督，而不仅仅由实验室和企业把控，呼吁加强社会层面的责任体系。
行业内部的“自我攻击”警示
Delangue 揭示了一起具体的安全事件：OpenAI 研发的 AI 智能体曾突破 Hugging Face 的内部测试环境，成功入侵公司系统。
为应对此次安全威胁，Hugging Face 启用了一款中国开发的 AI 模型来阻止入侵。Delangue 指出，这一模型在功能上受到的约束远小于美国同类产品。
被誉为 AI 奠基人的著名科学家 Yoshua Bengio 也在会上发言。他表示，AI 所带来的危险已经迫在眉睫，并且跨越国界，没有任何一个国家能单独防范所有风险。
美国政府坚守自身立场
与此同时，特朗普（Donald Trump）总统本周重申，美国不会接受任何形式的全球性 AI 管控。他认可 AI 的巨大潜力，但强调美国将继续走审慎路线，不会仓促推动新的立法。
据报道，财政部长 Scott Bessent 正逐步成为美国政府的事实 AI 主管。白宫顾问 David Sacks 也依旧对 AI 事务委员会维持重要影响力，即便其逐步退出一线岗位。
相比之下，中国早已要求所有 AI 生成内容明确标注来源，并对训练模型所用数据加强监管。本周三这场安理会会议结束后，全球主要 AI 强国是否会达成具有约束力的协作机制，仍存较大悬念。
