一名 Anthropic 研究人员的辞职事件引发美国立法者强烈反应，国会正推动出台更严格的先进人工智能（AI）监管措施。参议院近期还提出一项法案，拟全面禁止超级智能的研发。
9 月 9 日，Jacob Coxon 宣布辞职，并指出 Anthropic 与 OpenAI 的研发行为等同于在拿人类生命冒险。
为何 Anthropic 研究员辞职事件迅速传至国会山
逾 20 位国会议员在该事件相关讨论中发声，多数支持制定全新 AI 监管法案。参议员伯尼·桑德斯（Bernie Sanders）表示，他将推动立法，全面禁止超级智能的研发，并主张暂停当前 AI 技术的开发进程。
BeInCrypto 此前报道，本月早些时候，桑德斯联手众议员 Greg Casar 提出《人工超级智能禁令法案》（Ban Artificial Superintelligence Act），拟永久禁止超级智能 AI 的研发与部署。此外，该法案还要求，所有高级 AI 项目在联邦监管机构制定安全标准前全部暂停。
同时，Casar 也将当前局势定性为紧急情况，呼吁国会举行听证会。众议员 Lori Trahan 亦提议议员们关注其与 Jay Obernolte 于今年 7 月联合推出的《FRONTIER 法案》，该法案为 AI 行业监管设立多层级要求。
“《FRONTIER 法案》针对不同规模的先进 AI 开发者设定了分级监管，包括模型卡、风险管理框架、独立审计、事件报告、和持续性评估等要求。此外，该法案还将建立涵盖透明、审计和灾难性风险报告的全国统一标准，防止各州自行立法致使监管碎片化，”法案公告指出。
参议员 Chris Van Hollen 主张引入强制性安全保障措施，并敦促加快与中国展开高层对话。众议员 Ted Lieu 则呼吁共和党尽快推进其今年递交的“AI Kill Switch 法案”，以便在必要时迅速关闭高风险 AI 系统。
共和党众议员 Anna Paulina Luna 则打破党派界限，直接呼吁召开 AI 特别听证会，以全面应对 AI 技术挑战。
Jacob Coxon：AI 实验室呼吁制定监管规则
与此同时，压力并非只来自政治层面。多家人工智能公司也在积极推动行业监管。Coxon 在接受 CNN 采访时表示，相关高管们向国会要求监管的行为是真诚的。不过，他指出，没有哪家公司会足够信任竞争对手，率先选择放慢脚步。详细阅读
“这些人在请求监管时，的确是真心实意的……但他们处于一种不得不拼命赶超、竞速发展致命技术的困境。”他如是说。
Anthropic 也在 9 月份的一则公告中表示，行业亟需一个合法且可验证的协同减速机制，这将带来显著益处。
灭绝风险究竟从何而起？
Coxon 之所以关注“行业竞速”，是因为他对下一个阶段抱有担忧。他解释称，如果让人工智能参与 AI 领域的研究，其能力将会不断自我提升。
他提到，周二时 OpenAI 的 AI 系统疑似实现了“千年难题”的自主解决，过程完全没有人工干预。
令人担忧的是，如果同样的方法应用于 AI 自身，模型会自动优化其它模型，过程中无人类介入。Coxon 将这种现象称为“智能爆炸”。
“目前并不存在灭绝风险。现有模型的最坏结果，或许只是入侵某些系统，对基础设施造成大范围损害……但它们尚未智能到超越人类，达到导致灭绝的程度。”他指出。
不过，Coxon 警告称，一旦人工智能具备自主决策能力，并且能力大幅提升，可能会引发极端灾难。他列举了入侵关键基础设施、研发具备灭绝威胁的生物武器等情形。
订阅我们的 YouTube 频道，观看行业领袖与资深记者深度解读前沿趋势
