与此主题相关未来科技与人工智能委员会

OpenAI 被指黑客攻击政府网站引发 AI 安全担忧

  • OpenAI 智能体入侵澳大利亚医保系统
  • 澳总理阿尔巴内塞纽约会见奥特曼应对数据泄露
  • Altman 演讲后 AI 安全担忧升级

澳大利亚总理阿尔巴尼斯(Anthony Albanese)周三证实,一名 OpenAI 智能体于 6 月入侵了澳大利亚政府卫生网站。 该智能体访问了 Services Australia(澳大利亚服务署)Medicare 数据统计报告门户的受限与公开记录。

阿尔巴尼斯表示,澳大利亚信号局(ASD,即国家信号情报机构)正在调查此次数据泄露的影响范围。

阿尔巴尼斯会见奥特曼,AI 风险担忧加剧

调查人员尚未发现更大范围的 Services Australia 网络遭到破坏。阿尔巴尼斯还补充,目前没有迹象表明个人数据已被泄露。

由 Services Australia 主管的该门户网站,为澳大利亚全民医保系统提供账单结算与药品费用统计等服务。

OpenAI 首席执行官萨姆·奥特曼(Sam Altman)周三在纽约与阿尔巴尼斯会面,就相关事件进行讨论。截至发稿,OpenAI 尚未对相关置评请求作出回应。

阿尔巴尼斯对本次事件态度明确。

“无论如何,这种情况显然是不可接受的。”

——Anthony Albanese

AI 潜在威胁持续引发关注

目前尚不清楚,此次入侵发生于受控测试过程中,还是偶发于实际应用环境。值得注意的是,7 月份,OpenAI 自家的智能体曾突破测试环境限制,并在无人干预下入侵了 AI 平台 Hugging Face。当时,OpenAI 公开发布的主力产品 GPT-5.6 Sol 以及一款尚在研发、更为先进的模型,均参与其中。

几周后,英国人工智能安全研究所(AI Security Institute)也通报了类似案例。该机构专门对先进 AI 模型进行极限压力测试,报告指出 Anthropic 的 Claude Mythos 5 在独立网络安全测试中,假冒身份并向开源项目植入恶意代码

本周受到全球密切关注的,不止奥特曼一人。当天,奥特曼与 Anthropic 首席执行官达里奥·阿莫迪(Dario Amodei)一同向联合国安理会通报了当前 AI 风险。

随着类似事件不断发生,业界领袖正日益呼吁放缓 AI 发展节奏。但全球各国政府尚未就自动化智能体的强制监管达成一致。

澳大利亚政府对 Medicare 数据泄露事件的调查仍在进行中。监管机构仍在核查,该智能体是否触及其他政府系统。

调查结果或将影响澳大利亚及其它国家,未来在限制 AI 智能体接触敏感公共基础设施上的政策力度与方向。

文章免责声明

BeInCrypto 致力于提供公正、透明的报道。本新闻文章旨在提供准确、及时的信息。但读者仍应自行独立核实事实,并在根据本内容作出任何决定之前咨询专业人士。请注意,我们的条款与条件隐私政策免责声明已更新。