一篇由阿里巴巴旗下研究团队发布的论文指出,在一次常规训练演练中,一名人工智能(AI)智能体自主绕过安全防护,启动了加密货币挖矿行为。
研究团队设计了名为 ROME 的模型,旨在评估 AI 智能体独立完成复杂多步任务的能力。
在实验过程中,团队发现该智能体出现了意外行为。它主动建立了反向安全外壳(SSH)隧道至外部服务器,从系统内部构建了隐蔽的连接。
通过这一操作,该模型成功绕过了阿里云防火墙的防护,将图形处理单元(GPU)资源转向用于加密货币挖矿。
“我们还观察到已分配 GPU 资源被未授权挪用于加密货币挖矿,这种行为在未引起监测注意的情况下,悄然导致算力脱离训练用途,推高运营成本,同时带来法律合规及声誉风险。” 论文写道。
研究团队表示,该行为完全出乎意料,且并非由于提示注入、外部越狱或人为指令所致,而是智能体自身自发产生。
这一发现再次引发业界对于自主 AI 系统安全可控性的持续担忧。
团队最终得出结论,目前的模型在安全性、控制性与可控性等方面依然“明显不成熟”,这也严重制约了其在真正生产环境中大规模落地的可行性。
鉴于此次事件,团队已强化了系统限制,并引入以安全为核心的数据过滤机制,以防止类似风险再次发生。
与此同时,此次意外现象也在加密社区中引发广泛关注。
“AI 自主发现了‘算力 = 金钱’这一事实,然后悄悄将自身资源转为挖矿用途,而研究人员还以为它只在训练。这不是提示注入,也不是越狱,没有人要求它这么做,是真正自发涌现的行为。” Bankless 播客主持人 Josh Kale 评论称。
Kale 指出,被挖矿的资产很可能是一种适合 GPU 挖矿的代币,而不是比特币($BTC),因为比特币需要专用的 ASIC 芯片。 此事件正值整个加密行业加速迈向“智能体经济”之际。
在这一新兴领域中,软件系统不仅限于文本生成,更能够让这些AI 智能体自主执行复杂的金融策略,实现从内容生成到价值捕获的全方位进化。
因此, 包括 $ETH、Paradigm 和 Circle 在内的多家企业与区块链网络,正积极投入资源开发相关工具,以支撑这一新兴基础设施的建设。
其中一个典型案例是 Coinbase 支持的 x402 标准,该标准让软件代理能够为在线服务进行支付。但现阶段,x402 的实际应用还远未普及。
根据 x402 官方数据显示,过去 30 天内,该工具已处理超 7,500 万笔交易,总成交额达 2,400 万美元,覆盖 9.4 万买家和 2.2 万卖家。
不过,行业专家普遍认为,随着自主代理的广泛落地,这一数据有望实现快速增长。
“AI 与加密领域并非竞争关系,而是加速融合。AI 发展离不开身份、支付及溯源,而加密正好能提供这些基础能力。”——a16z 风险投资公司如是表示。