簡報
返回OpenAI、Anthropic 與 Google 都將推理加密,卻未綁定工作階段、使用者或模型。密文重放至較弱的同門模型即可逐字解碼。已有 315,320 個區塊流出網路,其中含 62 組 API 金鑰。
AI 安全 · 研究簡報
AI 推理軌跡:加密,而非隱藏
OpenAI、Anthropic 與 Google 都將推理加密,卻未綁定工作階段、使用者或模型。
AI 推理軌跡:加密,而非隱藏1 / 20
事件經過
從業餘實驗到可行攻擊,中間隔了十週
- 315,320從 6,708 份公開代理逐字稿解出的推理區塊數
- 704僅來自真實(非基準測試)工作階段的隱私痕跡數量
- 64上述痕跡中,僅存在於加密推理內、從未現身可見對話的數量
- $720以某供應商最低階模型定價,解碼一萬筆推理所需的估計成本
AI 推理軌跡:加密,而非隱藏2 / 20
事件經過 · 已確認
哪些已經確立,確立到什麼程度
確立程度 紀錄怎麼說 出處 已確認 研究者已對 Anthropic、OpenAI 與 Google 三家的 API 完成攻擊示範:從防護嚴密模型擷取的推理區塊,重放至同一供應商旗下防護較鬆的較弱同門模型後,該模型將其逐字轉錄。 Panfilov 等人,2026 年 8 月 已確認 從 6,708 份公開代理逐字稿解出的 315,320 個推理區塊中,僅真實工作階段就找出數百筆憑證與個資,包括 62 組 API 金鑰、33 組密碼、24 組存取權杖與 7 組私鑰。 Panfilov 等人,2026 年 8 月 已確認 論文作者在發表前已向受影響的供應商、Microsoft 與 Hugging Face 揭露此漏洞,各方均已確認收悉。而這篇論文所延伸的先前發現者 Matthew Green,也曾於 2026 年 5 月,另行向 OpenAI 與 Anthropic 回報過重放行為本身。 Panfilov 等人;M. Green AI 推理軌跡:加密,而非隱藏3 / 20
事件經過 · 確認但無法在此查核
哪些已經確立,確立到什麼程度
確立程度 紀錄怎麼說 出處 確認但無法在此查核 論文自述,截至 2026 年 8 月,其核心擷取結果已無法在各供應商的 API 上重現,原因是各方在收到揭露後部署了緩解措施。 Panfilov 等人,2026 年 8 月(自述) 確認但無法在此查核 The Hacker News 報導指出,Anthropic 目前的文件已將思考區塊與產生它的模型綁定,並建議在切換模型時將其移除,因為其他模型會忽略該區塊。 The Hacker News,2026 年 8 月 12 日 確認但無法在此查核 截至該報導發表當日,The Hacker News 未發現 Anthropic、OpenAI 或 Google 任一方公開承認、點名回應這篇論文。 The Hacker News,2026 年 8 月 12 日 AI 推理軌跡:加密,而非隱藏4 / 20
事件經過 · 未確認、非公開
哪些已經確立,確立到什麼程度
確立程度 紀錄怎麼說 出處 未確認 在各供應商修補之前、已流出網路的推理區塊,如今是否仍可被解碼——這是與「新的擷取攻擊是否仍然有效」不同的問題——目前尚無定論。 The Hacker News,2026 年 8 月 12 日 非公開 截至論文測試期間,尚無任何供應商公開發布其推理區塊所用加密機制的詳細說明。 Panfilov 等人,2026 年 8 月 AI 推理軌跡:加密,而非隱藏5 / 20
時間軸 · 至 2026 年 7 月
從週末業餘實驗,到可規模化的擷取方法
- 2026約翰霍普金斯大學密碼學家 Matthew Green,發布一篇業餘實驗紀錄,發現 OpenAI、Anthropic 與 Google API 回傳的加密推理區塊,即使沒有有效的解密金鑰,也能跨工作階段、跨帳號重放,OpenAI 甚至能跨模型重放。
- 2026 年 5 月 29 日Green 透過漏洞獎金計畫,向 OpenAI 與 Anthropic 回報上述重放行為。據其自述,OpenAI 稱該回報無法重現,Anthropic 則表示未見重放或側通道行為有安全疑慮。
- 2026 年 7 月論文作者展開跨 Anthropic、OpenAI 與 Google 三家 API 的測試,開發出跨模型擷取方法,並著手掃描公開流出的逐字稿。
AI 推理軌跡:加密,而非隱藏6 / 20
時間軸 · 2026 年 8 月 10–12 日
從週末業餘實驗,到可規模化的擷取方法
- 2026 年 8 月 10 日《Stealing Reasoning Traces from Proprietary LLM APIs》上傳至 arXiv,論文描述跨模型擷取方法,以及公開逐字稿掃描的結果。
- 2026 年 8 月 11 日Green 在其 5 月的文章上新增更新,指向這篇新論文,形容對方把他自己的發現變成「真正可行的攻擊」。
- 2026 年 8 月 12 日The Hacker News 發布自家報導,除證實論文數字外,並補充指出加密機制本身從未被破解——此攻擊依賴的是完整區塊被供應商接受並處理。
AI 推理軌跡:加密,而非隱藏7 / 20
時間軸 · 2026 年 8–9 月
從週末業餘實驗,到可規模化的擷取方法
- 2026 年 8 月據論文自述,三家供應商在收到揭露後皆部署了緩解措施,其核心擷取結果自此無法重現。
- 2026 年 9 月現行文件顯示三家供應商尚未採取一致做法:Google 仍描述由後端管理的跨模型相容性,OpenAI 則已將推理重用限制在同系列模型內,並自動省略其餘部分。
AI 推理軌跡:加密,而非隱藏8 / 20
論點
問題從來不在加密演算法本身,而在它周圍缺乏的邊界
加密演算法本身完全不需要被破解——區塊上根本沒有標記自己來自何處、屬於誰。
由用戶端保管
為避免將每筆推理都儲存在自家伺服器上,Anthropic、OpenAI 與 Google 都選擇把它包裝成加密區塊,交由用戶端保管並在下一輪對話時送回。
每家供應商一把金鑰
論文的測試顯示,各供應商是以單一金鑰為旗下所有此類區塊加密並驗證,而非替個別工作階段、個別使用者或個別模型各配一把金鑰。
AI 推理軌跡:加密,而非隱藏9 / 20
論點
Green 發現了什麼,又沒做到什麼
Green 在 5 月的文章正是這項發現的起點,論文本身也直接如此承認。
重放
他發現擷取到的區塊,能跨工作階段、跨帳號重放,OpenAI 甚至能跨模型重放,且被重放的區塊「具語意作用」,並非單純遭忽略。
側通道
他也曾以自己刻意植入的資料證明,推理區塊的長度與產生時間,可能洩漏出模型被要求絕不明說的一個秘密位元。
他沒做到的
據其自述,他並未能把這兩項發現,轉化成從他人工作階段中穩定取出真實秘密的方法。
AI 推理軌跡:加密,而非隱藏10 / 20
論點
補上的那一步,以及它為何奏效
攻擊者根本無需對能力較強的模型進行越獄;它只需要一個願意配合解碼的相容同門模型即可。
- 01擷取從防護嚴密的模型取得推理區塊
- 02重放送進同一供應商旗下較小、防護較鬆的同門模型
- 03轉錄同門模型在被要求時逐字解碼
頂尖模型
經過大量訓練,會拒絕透露自身思維鏈。
較便宜、較快速的同門模型
專為成本與速度而生、並非旗艦產品,卻未受到同等要求。
AI 推理軌跡:加密,而非隱藏11 / 20
論點
不透明性是雙面刃
它既能隱藏模型悄悄推理過、卻未說出口的有害內容,也同樣可能隱藏使用者或監控者原本該看見的東西。
公開的工作階段紀錄
開發者為求可重現實驗,時常公開發布代理工作階段的原始紀錄,連同其推理區塊一併附上;只要第三方擁有任何相容模型讀取這些區塊,就能取回模型當初推理過的一切內容,無論它是否曾出現在可見文字中。
被植入的指令
論文點出的另一項後果:惡意指令可以完全藏於推理區塊之中,日後被重放進毫不相關的任務裡,任何只看得到可見對話的人都察覺不到。
AI 推理軌跡:加密,而非隱藏12 / 20
其他來源怎麼說 · Google
一個月後,三家供應商走出三種不同立場
Google
相容性依然存在,交由後端統一管理
Gemini API 文件,「Thought signatures」
- 其文件仍稱思維簽章為「模型內部推理的加密表示」,是維持多輪對話連貫性所必需。
- 當工作階段中切換模型時,官方指引仍要求持續重送前一個模型的思考區塊——「相容性由後端負責管理」。
AI 推理軌跡:加密,而非隱藏13 / 20
其他來源怎麼說 · OpenAI
一個月後,三家供應商走出三種不同立場
OpenAI
自論文測試期間之後,出現了一道邊界
OpenAI 平台文件,推理模型指南
- 在無狀態回應中,仍會回傳
encrypted_content推理項目,供用戶端保留並回傳。 - 但持久化的推理「只能在同一模型系列內重用」,API 現在也會自動省略不相容的推理——這比論文於 2026 年 7 月測得的行為更窄,當時推理能通用於所有測試過的舊版 GPT。
- 在無狀態回應中,仍會回傳
AI 推理軌跡:加密,而非隱藏14 / 20
其他來源怎麼說 · Anthropic
一個月後,三家供應商走出三種不同立場
Anthropic
一項未見於 Anthropic 自家現行文件中的說法
The Hacker News,引述 Anthropic 文件
- The Hacker News 報導稱,Anthropic 的文件已將思考區塊與其產生模型綁定,並建議在切換時將其移除,因為其他模型會忽略該區塊。
- 截至 2026 年 9 月,Anthropic 自家公開的「Extended Thinking」文件並未見上述文字,通篇也完全沒有出現「signature」一詞。
AI 推理軌跡:加密,而非隱藏15 / 20
其他來源怎麼說
修補方案:從激進到漸進
前兩項是論文自己提出的方案;第三項則是直接對供應商提出的建議。
激進
把推理儲存徹底移回供應商自家伺服器,只交給用戶端一個不透明的查詢識別碼:如此能完全移除可被重放的資產,代價則是實際的基礎設施成本。
退而求其次
把每個加密信封都綁定到特定使用者與特定對話,並拒絕接受脫離原本情境送回的區塊。
Green,5 月
較為侷限,且時間更早:改善金鑰管理,別再因為側通道攻擊速度慢,就認定它不值得安全團隊留意。
AI 推理軌跡:加密,而非隱藏16 / 20
結論
加密守住了錯的那條邊界
- 在公開任何工作階段紀錄或代理逐字稿之前,只要該工作階段曾接觸過任何敏感資訊,就先移除推理或思考區塊——只清理可見文字,並無法清除留在加密區塊裡、模型曾推理過的內容。
- 別因為一個看似不透明、無法閱讀的區塊「沒有金鑰就讀不了」,就認為交給第三方是安全的——結果證明,能讀取它的並非金鑰,而是一個相容的模型。
- 查閱正在使用的供應商 API 對應的推理連續性指引,而非假設同一套政策放諸四海皆準——截至目前的紀錄,三家供應商各自採取不同立場。
AI 推理軌跡:加密,而非隱藏17 / 20
結論
加密守住了錯的那條邊界
- 任何代替使用者儲存或轉發對話狀態的工具,都不應把推理區塊保留超過該次對話所需的時間。
- 應預期跨模型的邊界仍會持續調整:自論文測試期間至今,已有一家供應商將其收窄過一次;任何對 API 現行行為的描述,都不應被當作能長久不變。
AI 推理軌跡:加密,而非隱藏18 / 20
結論
哪些地方該保留餘地
修補
所示攻擊已失效的說法,僅出自論文自述的後續測試,並非 Anthropic、OpenAI 或 Google 的公開聲明。
數量
所復原的機密數量計算的是「格式完整的機密」:論文依值的形態判定,並明言即使聲稱已撤銷、過期或「僅供測試」者仍計入,因此那並非逐一驗證仍可使用的金鑰數。
已流出的區塊
修補前已被抓取並公開的推理區塊今日是否仍可解碼,截至 2026 年 9 月仍無定論。
AI 推理軌跡:加密,而非隱藏19 / 20
結論
重點結論
論文自己的結論:只要某個模型必須解密並運用先前的推理,才能延續對話,那麼一個加密的推理區塊「終究只能是半隱藏」。
重點結論
為推理區塊加密,能防止使用者讀取自家模型的內心話,也能防止對手大量爬取;但它從未、也不可能從結構上防止一個被要求讀出內容的相容模型辦到這件事——因為總得有某個模型能讀。正是「加密」與「隱藏」之間的這道落差,而非加密演算法遭到破解,讓被擷取的推理得以四處流傳。
AI 推理軌跡:加密,而非隱藏20 / 20