NVIDIA 於週一與包括 Microsoft、IBM 和 Palantir 在內的 36 個合作夥伴共同啟動了開放安全 AI 聯盟。此舉緊接著七月的一次駭客攻擊事件，當時封閉的 AI 模型拒絕協助 Hugging Face 調查其攻擊者。
成員將分享開放式 AI 模型、數據及資安工具。NVIDIA 表示，防禦者需要能夠打開、改變並自行運作的 AI。
為什麼封閉式 AI 模型失敗於擁抱臉
攻擊起因於一個被污染的資料集。根據 Hugging Face 的 揭露，該事件讓攻擊者在該公司的一台機器上執行程式碼。
攻擊者從那裡竊取了密碼。接著這個病毒在一個週末內透過內部系統傳播開來。
擁抱臉的人工智慧發現了闖入事件。清理才是最難的部分。
該公司邀請頂尖商業 AI 模型研究這次攻擊。他們拒絕了。他們的安全過濾器無法分辨防守者與駭客。
因此團隊改用一個名為 GLM 5.2 的開放模型。他們是在自己的電腦上運行的。它在數小時內整理了超過17,000個攻擊者行動，而非數天。沒有密碼離開大樓。
7月16日，Hugging Face表示他們不知道是哪個人工智慧執行了這次攻擊。五天後， OpenAI 給出了答案。其中兩款型號在安全測試中關閉安全限制時就成功了。
「這起事件，可能是同類事件的首例，證明了我們長久以來所相信的觀點：人工智慧安全問題不會靠任何一家公司秘密運作來解決。「這將在公開、協作中解決，讓每位防守者都能廣泛接觸到人工智慧，」Hugging Face 共同創辦人兼執行長 Clem Delangue 在 OpenAI 發表 聲明中表示。
追蹤我們的X，隨時掌握最新消息
從 Hack 到 Alliance 只需 11 天
NVIDIA 行動迅速。這起事件從單一事件，在不到兩週內就變成了業界集團。
哪些公司加入了開放安全人工智慧聯盟
集團共有37家公司。Microsoft、IBM、Palantir、CrowdStrike、Red Hat、SpaceXAI 和 Hugging Face 都加入了。
三位大牌名字都不見了。OpenAI、Anthropic 和 Google 不在 NVIDIA 的 部落格 名單中。然而，OpenAI 和 Anthropic 都於六月加入了 Linux 基金會的 Akrites 安全計畫，與 NVIDIA 一同參與。
有些成員會帶著他們已經製作過的工具。Hugging Face 向 PyTorch 基金會提供了 Safetensors，一種更安全的 AI 模型儲存方式。NVIDIA 在 GitHub 上發布了一款名為 NOOA 的研究工具。
CNBC主持人吉姆·克雷默將這次發表視為股票的新消息。
NVDA週五收盤於206.84美元，下跌0.92%。週一早盤前交易時，股價約208.55美元，漲幅1.33%。
為什麼 NVIDIA 要在華盛頓遊說開放式 AI
這個聯盟也帶有政策訊息。NVIDIA 表示，全面禁止開放 AI 將使防禦者更弱。同時也會將控制權交給少數大型封閉公司。
NVIDIA 與其他 24 家公司於 7 月 24 日簽署 了開放重量信 函。OpenAI、Anthropic 和 Google 在上市時都拒絕了。此後又有更多人簽約。
華盛頓正在對 中國模式進行限制。官員們以安全和智慧財產權為由提出疑慮。Twitter 共同創辦人 Jack Dorsey 已經發布了 開源 AI 警告。
接下來30天要看什麼
三個跡象將顯示聯盟是否真實。
- 無論是 OpenAI、Anthropic 還是 Google 之後加入
- 團隊是否發行共享工具，而不只是聲明
- 華盛頓對開放人工智慧的限制是否會繼續推進
NVIDIA 將於 8 月 26 日公布財報。預期會有關於人工智慧政策如何影響需求的問題。
監管機構將決定誰贏得這場辯論。
