与此主题相关未来科技与人工智能委员会

ChatGPT 智能助手数据安全存疑

  • NYU 教授 Tristan Buckmaster 停止向 OpenAI Codex 提供原创想法
  • 开发者称OpenAI获悉姓名翌日即复现其未公开方法
  • OpenAI 回应称其提示未影响模型系统

一位来自纽约大学的数学家表示,OpenAI 的某款模型在得知他姓名后的短短一天内,就推导出了他未曾发表的研究成果。现在,他已将原创思路完全隔离于该公司 AI 工具之外。对此,OpenAI 否认其提示词曾对系统产生影响。

在 OpenAI 发布 722 篇 AI 生成数学论文数日后,Tristan Buckmaster 发出了此警告。他透露,自己的某个账号在默认设置下仍允许模型训练。

Buckmaster:未发表研究成果几乎遭 AI “复现”全过程

Buckmaster 与 AI 竞品 Anthropic 的数学家 Levent Alpöge 合作,耗时近一年攻关 Navier-Stokes 方程这一百万美元流体力学难题的关键步骤。

Buckmaster 通过个人付费账号,将阶段性成果上传到 OpenAI 的代码助手 Codex 进行运行和处理,草稿内容也因此留存在 OpenAI 服务器上。

他在接受 CNBC 采访时称,OpenAI 在获知其姓名前,并未取得实质性进展。然而,在交流后仅一天,其 AI 系统便与他团队的研究进度“完全重合”。

据 BeInCrypto 报道,Buckmaster 曾在 9 月表示,自己并未指责任何人。但如今,他已对事件发生的时机产生怀疑。

“他们没听说我的名字前,几乎没有任何进展。但在知晓姓名后,立刻从我们离开的地方继续推进……我对此感到很可疑。”他在 采访中如是说。

Buckmaster 称,在 OpenAI 于 9 月 8 日对外宣布攻克 Navier-Stokes 难题之前,OpenAI 曾提出,只要他放弃合作方 Alpöge,便可让他独自署名为论文作者。他拒绝了该提议。

OpenAI 则坚决否认其系统曾接触到相关数据。

“我们可以明确指出,过去两个月内,Buckmaster 博士在 Codex 上的任何提示词,皆不可能以任何形式影响系统,包括用于训练。”据 ABC 援引 OpenAI 发言人报道。

Buckmaster 发现,OpenAI 关于数据使用时间窗口的说法屡次变化。该公司随后将截止日期修改为 7 月 3 日。

Buckmaster:警告学界切勿将创新思路输入 AI

Buckmaster 目前虽仍使用 Codex,但对于希望保持原创性的重要想法,已完全避免在 AI 工具中输入。

他还提醒道,许多科研基金评审人员常将申报方案复制粘贴到 AI 工具中生成摘要,这实际上等同于将未公开的研究思路交由 AI 公司存储并处理,存在潜在泄密风险。

OpenAI 于去年 10 月发布的版本,源自于 4,000 道未解数学难题。Buckmaster 表示,这一举措让不少初级数学研究者的课题计划被迫中止。

OpenAI 首席研究员 Sébastien Bubeck 此前向《纽约时报》 表示,他的相关举措原本是为了为 Buckmaster 提供帮助。

OpenAI 发言人称,团队在另一道价值 100 万美元的难题上已取得“重大进展”。

文章免责声明

BeInCrypto 致力于提供公正、透明的报道。本新闻文章旨在提供准确、及时的信息。但读者仍应自行独立核实事实,并在根据本内容作出任何决定之前咨询专业人士。请注意,我们的条款与条件、隐私政策及免责声明已更新。