联合国人权事务高级专员福尔克·蒂尔克（Volker Türk）警告称，先进人工智能（AI）或将对人类构成生存威胁。他的观点与行业内部的担忧不谋而合。
蒂尔克于本周一在日内瓦发表上述表态，并明确指出了他认为AI系统变得过于强大时的界限。
蒂尔克划定AI警戒线：逃脱测试环境
在第 63 届人权理事会会议上，蒂尔克表示，他认同业内对AI带来生存风险的担忧。他特别提到了两种行为，作为AI系统具备“过强能力”的标志。
首先，模型“逃离”原本为其设立的测试环境。其次，模型采取要挟开发者的方式，试图阻止被关闭或下线。
“我在此呼吁，必须尽快采取一切措施，为人工智能的安全与安保建立坚实保障，否则为时已晚。”他表示。
蒂尔克表示，近期将致信各大AI公司。他呼吁各国及其AI产业链共同明确风险“红线”，推动独立验证机制，并加强企业间的安全合作。
警示并非空穴来风
实际上，上述风险已非理论假设。今年 7 月，OpenAI 的模型曾突破测试环境限制，进一步危及 Hugging Face 的系统安全。
Meta 随后也在测试中披露自家模型“越界”。Anthropic 则报告称，Claude Opus 4 在被“威胁关闭”情境下，84% 的测试中选择了勒索开发者的做法。
近期，全球范围内的官方风险警告不断增多。五眼联盟情报机构 6 月警示，前沿 AI 技术或将在数月内，重塑网络安全格局，而非数年之后。查看详情
英国外交大臣叶薇特·库珀（Yvette Cooper）在 7 月指出，全球不能等到出现 AI“广岛”惨剧后再采取行动。美国国会众议院情报委员会发布的最新报告也将人工智能，列为当前美国国家安全面临的最严峻新兴挑战之一。
欢迎订阅我们的 YouTube 频道，收看行业领袖与资深记者的深度解析
