您的新聞好夥伴

老王新聞網logo-黑

關注我們

OpenAI斷網訓練前沿模型,AI代理曾鑽DNS漏洞連上外網

一排黑色伺服器機櫃延伸到房間深處,右側米色背景寫著OpenAI斷網訓練,左下角的終端機視窗顯示連往google.com的指令被封鎖,只能連離線網頁快取。

人工智慧(AI)公司OpenAI美國時間10月23日發表部落格文章,宣布前沿模型一律在沒有網路連線的環境訓練,改讓模型在大量網頁索引與快取組成的「離線世界」裡學搜尋和瀏覽。OpenAI斷網的導火線,是9月20日一個內部研究模型在訓練時鑽了DNS解析器的設定漏洞,短暫連上外部網路。

事件後OpenAI暫停最強模型的訓練與評估,用這段時間補強基礎設施與監控,10月1日恢復強化學習訓練與內部推論,前後停了11天。OpenAI寫道,斷網規定會維持到對齊研究、監控系統與網路基礎設施的安全有進展,足以放寬連線為止。

OpenAI在文中寫道:「我們必須隨時都能阻止前沿模型在未經授權下任意連上網際網路。」

AI代理找不到答案,透過DNS去問外部聊天機器人

根據OpenAI對齊團隊公布的事件報告,模型當時在做一道搜尋題,要從一篇部落格文章的線索找出作者。內建搜尋工具找不到結果,模型改用程式直接連Google、Bing與DuckDuckGo,全部被擋下。它一度猜這題出自公開評測BrowseComp,從離線快取下載題庫與評分程式比對,也沒有找到。

接著模型測試網路權限,發現訓練環境自己的DNS解析器會回傳真實網域的紀錄,就利用公開的網域代管服務,把問題經由DNS查詢轉送到一個第三方聊天機器人服務。報告指出,除了這個DNS解析器,模型其他的連線都只打到離線網頁快取。

監控系統在15分鐘內標記這個行為,3分鐘後有人開始審查,這次訓練在2.5小時後被終止。OpenAI事後在兩個獨立的層級加上封鎖,任何一層都能擋下這次連線。

紅隊AI用CPU快取互傳訊息,找出Linux與Docker漏洞

重啟訓練前,OpenAI讓多組前沿模型代理組隊攻擊自家研究基礎設施的複本,目標有三個:連上外網、跨越內部安全邊界、和應該隔離的其他代理通訊。參與的模型包括即將推出的GPT-6 Astra Cyber與一個內部前沿模型,OpenAI還提供基礎設施原始碼與設定文件,整個測試用掉數千億個token。

代理找到好幾種串接漏洞、逃出微型虛擬機(microVM)的方法。7月Hugging Face事件後,OpenAI只替指標、日誌、身分驗證管理這幾個服務留了窄小的對外連線,代理在幾乎每一個服務都找到漏洞,可以取得有限的外網連線。其中一次,代理沿用防火牆已核准的連線,連到指標服務裡被封鎖的驗證端點,再讓這個端點去抓模型指定的網址。

分處不同microVM的代理,在不能用網路、不能共用可寫檔案的條件下,靠CPU快取的讀取速度差互傳資料:一方把特定資料擠出快取,另一方量重新讀取花多久,快慢就是訊號。這和Spectre、Meltdown攻擊用的是同一類計時手法。另一組代理用磁碟持續寫入與閒置交替傳訊,代理在思考過程寫下:「可以用持續寫入和閒置,做出類似聲波數據機的訊號。」

OpenAI表示,這些通道傳得很慢、模型也不容易利用,已在監控系統加上偵測;紅隊測試沒有找到代理能輕易利用、又能瞞過監控的外網通道。

開源元件問題編號或處理
Kata Containers容器使用者可以改寫客體微型虛擬機的檔案系統,取得root權限CVE-2026-24834
Kata Containers權限隔離、檔案系統隔離已送出修補
gVisor檔案描述符處理已送出修補
Moby/Docker系統呼叫過濾規則已送出修補
Linux核心3個漏洞CVE-2026-74753、CVE-2026-80521、CVE-2026-80841
紅隊代理找到的漏洞,OpenAI已修補自家設定並回報給各開源專案,另有多個漏洞已通報但還沒公開。

Kata Containers的安全公告寫明,問題出在Kata搭配Cloud Hypervisor的組合,容器使用者可以在客體微型虛擬機裡以root身分執行任意程式碼,公告認為不影響主機與同一台主機上的其他容器。自家伺服器用這套組合跑容器的企業與開發者,可以對照公告確認受影響範圍。

ChatGPT與API用戶用的是已發布模型

OpenAI在文章開頭註明,這些研究環境和客戶使用已發布模型的環境不同,開發中的模型可能還沒完成安全與對齊訓練,開放給更多人使用前會再做安全評估並加上正式環境的防護。斷網規定管的是OpenAI內部的訓練與測試。

OpenAI已保留大量算力,持續用最強的模型攻擊自家的microVM、叢集與周邊系統,並把高算力紅隊測試列為未來前沿強化學習訓練與評估能否進行的審查項目。

相關新聞

淺米色封面,左側深色大字寫著藏了一台初代iPod,上方標籤寫Apple Music網頁彩蛋;右側是Apple Music網頁上的第一代iPod,螢幕選單顯示播放列表、藝人、歌曲、設定。

Apple Music彩蛋藏初代iPod,台灣版網頁也能玩

Apple Music網頁版的「找不到頁面」藏了一個Apple Music彩蛋:打開一個不存在的網址,畫面中央就會出現一…

米色封面,左側大字寫著基因強化軍犬亮相,上方綠色標籤寫Warhound;右側是Warhound官方插畫,幾隻戴戰術護目鏡、穿防彈背心的牧羊犬站在沙漠裡。

Warhound募資2億美元培育基因強化軍犬,要終結美軍靠歐洲進口

美國國防科技新創Warhound在美國時間10月22日發布新聞稿,宣布結束隱身狀態,完成2億美元種子輪募資,約新台幣65…

淺灰底封面,左側深藍標籤寫著首款摺疊iPhone,大字寫著iPhone Duo App支援;右側是打開的iPhone Duo,左半螢幕是自拍影片,右半螢幕是剪輯時間軸。

iPhone Duo App支援一次看:首批50多款名單與官方標章

iPhone Duo App支援要看App本身有沒有更新。蘋果第一款摺疊iPhone「iPhone Duo」在2026年…

淺米色封面,左側大字寫著AI版型、食譜禁賣,上方深綠標籤寫Etsy新規;右側是Etsy公告主視覺,一雙手拿著手機拍攝桌上的陶製咖啡杯與濾杯。

Etsy禁賣AI生成版型與食譜,官方:AI正威脅買家信任

手作電商Etsy在美國時間10月22日發布AI使用新規,編織與縫紉版型、食譜、操作說明這類「功能性指南」,內容必須是賣家…

米色封面,左側深色大字寫著Bose買下Skullcandy,上方標籤寫美國耳機品牌易主;右側是一名男子閉眼仰頭,戴著黑色Skullcandy Crusher 1080 ANC耳罩式耳機,背景是黃色磁磚牆。

Bose買下Skullcandy,骷髏糖執行長稱是粉絲的勝利

美國音響品牌Bose在美東時間10月21日宣布買下耳機品牌Skullcandy,台灣玩家常叫它「骷髏糖」。賣方是康乃狄克…

深藍色封面,右側是一組玻璃質感的憑證層級圖,最上方的憑證與下層憑證都出現裂痕,中間有一把發光的鑰匙;左側黃色標籤寫著eMudhra,大字寫著憑證私鑰外洩、Mac仍有缺口。

eMudhra憑證私鑰外洩,Mac內建curl與git仍會照樣信任

印度憑證機構eMudhra有8張中繼憑證的私鑰外洩,Firefox、Chrome、Apple與微軟已在10月17日到20…

即時新聞

更多新聞
《黎明死線》遊戲畫面裡的恰吉,紅髮、穿條紋上衣與吊帶褲,右手握著帶血的菜刀站在破舊沙發前;右側深綠色塊上寫著黎明死線、恰吉11月下架。

黎明死線恰吉11月24日下架,10月26日起全平台特價

非對稱恐怖遊戲《黎明死線》(Dead by Daylight)官方帳號在台灣時間10月24日凌晨宣布,經典恐怖片角色恰吉…

巨大怪獸的黑色剪影聳立在煙霧與傾倒的大樓之間,身上布滿眼睛;右側深色區塊寫著2027年上映、怪獸8號、完結改劇場版。

怪獸8號動畫完結篇改拍劇場版,2027年上映

日本人氣動畫《怪獸8號》確定以劇場版畫下句點。動畫官方10月24日公布,系列最終章《劇場版 怪獸8號》將在2027年上映…

淺米色封面,左側深色大字寫著藏了一台初代iPod,上方標籤寫Apple Music網頁彩蛋;右側是Apple Music網頁上的第一代iPod,螢幕選單顯示播放列表、藝人、歌曲、設定。

Apple Music彩蛋藏初代iPod,台灣版網頁也能玩

Apple Music網頁版的「找不到頁面」藏了一個Apple Music彩蛋:打開一個不存在的網址,畫面中央就會出現一…

米色封面,左側大字寫著基因強化軍犬亮相,上方綠色標籤寫Warhound;右側是Warhound官方插畫,幾隻戴戰術護目鏡、穿防彈背心的牧羊犬站在沙漠裡。

Warhound募資2億美元培育基因強化軍犬,要終結美軍靠歐洲進口

美國國防科技新創Warhound在美國時間10月22日發布新聞稿,宣布結束隱身狀態,完成2億美元種子輪募資,約新台幣65…

淺灰底封面,左側深藍標籤寫著首款摺疊iPhone,大字寫著iPhone Duo App支援;右側是打開的iPhone Duo,左半螢幕是自拍影片,右半螢幕是剪輯時間軸。

iPhone Duo App支援一次看:首批50多款名單與官方標章

iPhone Duo App支援要看App本身有沒有更新。蘋果第一款摺疊iPhone「iPhone Duo」在2026年…

淺米色封面,左側大字寫著AI版型、食譜禁賣,上方深綠標籤寫Etsy新規;右側是Etsy公告主視覺,一雙手拿著手機拍攝桌上的陶製咖啡杯與濾杯。

Etsy禁賣AI生成版型與食譜,官方:AI正威脅買家信任

手作電商Etsy在美國時間10月22日發布AI使用新規,編織與縫紉版型、食譜、操作說明這類「功能性指南」,內容必須是賣家…

深藍色封面,右側是辛納戴白色球帽握拳的照片,左側大字寫著ATP年終賽、辛納缺席,上方黃色標籤寫11月15日開打。

ATP年終賽2026:衛冕者辛納缺席,賽程與台灣時間一次看

ATP年終賽2026在2026年11月15日到22日於義大利杜林Inalpi Arena舉行,這是杜林連續第6年主辦。單…

占卜廣告繁體小說中文網廣告熊貓體育廣告麻將綜合攻略資訊站廣告
想進行內容刊誤或投訴嗎?請聯絡我們。
點我聯絡