Tratopedia
ES
Tetapan

Saiz teks

Tema

Kontras tinggi

Versi

v1.230.2

Keluaran yang menjadi asas halaman ini dibina. Itulah versi yang disimpan oleh service worker.

Dek slaid

Kembali

Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan

OpenAI, Anthropic dan Google menyulitkan penaakulan setiap model, tetapi tidak mengikatnya kepada sesi atau model. Dimainkan semula ke model adik lebih lemah, blok itu dinyahsulit dalam teks biasa; 315,320 blok sudah tersebar, dengan 62 kunci API di dalamnya.

  1. Keselamatan AI · Ringkasan Penyelidikan

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan

    OpenAI, Anthropic dan Google menyulitkan penaakulan setiap model, tetapi tidak mengikatnya kepada sesi atau model.

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan1 / 20

  2. Apa yang Berlaku

    Sepuluh minggu memisahkan projek santai daripada serangan yang berfungsi

    • 315,320blok penaakulan dinyahkod daripada 6,708 jejak ejen awam yang dikikis
    • 704artifak privasi yang dipulihkan hanya daripada sesi tulen (bukan penanda aras)
    • 64daripadanya, ditemui hanya di dalam penaakulan yang disulitkan, tidak pernah dalam sembang yang kelihatan
    • $720anggaran kos menyahkod sepuluh ribu jejak penaakulan menggunakan model termurah sesuatu penyedia

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan2 / 20

  3. Apa yang Berlaku · Disahkan

    Apa yang mantap, dan sekukuh mana

    KekukuhanApa yang ditunjukkan rekodSumber
    DisahkanPenyelidik menunjukkan serangan pengekstrakan ini terhadap API Anthropic, OpenAI dan Google: satu blok penaakulan yang ditangkap daripada model yang dijaga rapi dimainkan semula ke model adik yang lebih lemah dan kurang dijaga daripada penyedia yang sama, yang menyalin semula kata demi kata.Panfilov et al., Ogos 2026
    DisahkanMenyahkod 315,320 blok penaakulan yang dikikis daripada 6,708 jejak ejen awam memulihkan beratus-ratus bukti kelayakan dan data peribadi daripada sesi tulen sahaja, termasuk 62 kunci API, 33 kata laluan, 24 token akses dan 7 kunci peribadi.Panfilov et al., Ogos 2026
    DisahkanPenulis kertas kerja mendedahkan kelemahan ini kepada penyedia yang terjejas, Microsoft dan Hugging Face sebelum penerbitan; semua mengesahkan penerimaan. Matthew Green, yang catatan awalnya menjadi asas kertas kerja ini, turut melaporkan tingkah laku main semula tersebut secara berasingan kepada OpenAI dan Anthropic pada Mei 2026.Panfilov et al.; M. Green

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan3 / 20

  4. Apa yang Berlaku · Disahkan tetapi tidak dapat disahkan di sini

    Apa yang mantap, dan sekukuh mana

    KekukuhanApa yang ditunjukkan rekodSumber
    Disahkan tetapi tidak dapat disahkan di siniKertas kerja itu sendiri menyatakan bahawa, setakat Ogos 2026, hasil pengekstrakan utamanya tidak lagi dapat dihasilkan semula terhadap API penyedia, berikutan langkah mitigasi yang dilaksanakan penyedia selepas pendedahan.Panfilov et al., Ogos 2026 (laporan sendiri)
    Disahkan tetapi tidak dapat disahkan di siniThe Hacker News melaporkan bahawa dokumentasi semasa Anthropic mengikat blok pemikiran kepada model yang menghasilkannya dan menasihatkan agar ia dibuang apabila menukar model, kerana model lain mengabaikannya.The Hacker News, 12 Ogos 2026
    Disahkan tetapi tidak dapat disahkan di siniSetakat tarikh penerbitannya sendiri, The Hacker News tidak menemui sebarang pengakuan awam daripada Anthropic, OpenAI atau Google yang menamakan kertas kerja khusus ini.The Hacker News, 12 Ogos 2026

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan4 / 20

  5. Apa yang Berlaku · Tidak disahkan, tidak diketahui umum

    Apa yang mantap, dan sekukuh mana

    KekukuhanApa yang ditunjukkan rekodSumber
    Tidak disahkanSama ada blok penaakulan yang sudah diterbitkan dalam talian sebelum pembetulan penyedia masih boleh dinyahkod hari ini — soalan yang berbeza daripada sama ada percubaan pengekstrakan baharu masih berjaya — belum ditetapkan sama ada satu cara pun.The Hacker News, 12 Ogos 2026
    Tidak diketahui umumSetakat tempoh ujian kertas kerja itu sendiri, tiada penyedia menerbitkan penerangan terperinci tentang mekanisme kriptografi yang melindungi blok penaakulan mereka.Panfilov et al., Ogos 2026

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan5 / 20

  6. Garis Masa · hingga Jul 2026

    Daripada eksperimen hujung minggu kepada kaedah pengekstrakan berskala

    1. 2026Matthew Green, ahli kriptografi di Universiti Johns Hopkins, menerbitkan catatan eksperimen santai yang mendapati blok penaakulan disulitkan daripada API OpenAI, Anthropic dan Google boleh dimainkan semula merentasi sesi, merentasi akaun, dan — bagi OpenAI — merentasi model, tanpa kunci nyahsulit yang sah.
    2. 29 Mei 2026Green melaporkan tingkah laku main semula ini kepada OpenAI dan Anthropic melalui program ganjaran pepijat masing-masing. Menurut catatannya sendiri, OpenAI menyifatkan laporan itu tidak dapat dihasilkan semula, manakala Anthropic berkata ia tidak melihat sebarang implikasi keselamatan dalam tingkah laku main semula atau saluran sisi.
    3. Jul 2026Penulis kertas kerja menjalankan penilaian API mereka merentasi Anthropic, OpenAI dan Google, membangunkan kaedah pengekstrakan merentasi model dan imbasan jejak awam.

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan6 / 20

  7. Garis Masa · 10–12 Ogos 2026

    Daripada eksperimen hujung minggu kepada kaedah pengekstrakan berskala

    1. 10 Ogos 2026“Stealing Reasoning Traces from Proprietary LLM APIs” dihantar ke arXiv, menerangkan kaedah pengekstrakan merentasi model dan penemuan imbasan jejak awam.
    2. 11 Ogos 2026Green menambah kemas kini pada catatannya bulan Mei, merujuk pembaca kepada kertas kerja baharu itu, menggambarkannya sebagai mengubah penemuannya sendiri menjadi “serangan sebenar yang berfungsi”.
    3. 12 Ogos 2026The Hacker News menerbitkan liputannya sendiri, mengesahkan angka kertas kerja itu dan menambah bahawa penyulitan itu sendiri tidak pernah dipecahkan — serangan ini bergantung pada blok utuh yang diterima dan diproses oleh penyedia.

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan7 / 20

  8. Garis Masa · Ogos–Sep 2026

    Daripada eksperimen hujung minggu kepada kaedah pengekstrakan berskala

    1. Ogos 2026Menurut kertas kerja itu sendiri, ketiga-tiga penyedia melaksanakan langkah mitigasi berikutan pendedahan, dan hasil pengekstrakan utamanya berhenti dapat dihasilkan semula.
    2. Sep 2026Dokumentasi semasa menunjukkan ketiga-tiga penyedia belum bersepakat pada satu pendirian: Google masih menggambarkan keserasian merentasi model yang diuruskan oleh bahagian belakang, manakala OpenAI kini menyekat penggunaan semula penaakulan kepada model dalam keluarga yang sama dan secara automatik mengabaikan selebihnya.

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan8 / 20

  9. Hujah

    Kriptografi itu sendiri bukan titik lemah — sempadan di sekelilingnya yang lemah

    Kriptografi itu sendiri langsung tidak perlu dipecahkan — blok itu semata-mata tidak membawa sebarang penanda tentang di mana ia dihasilkan atau milik siapa.

    Disimpan oleh klien

    Bagi mengelak menyimpan setiap jejak penaakulan pada pelayan sendiri, Anthropic, OpenAI dan Google masing-masing membungkusnya sebagai blok yang disulitkan dan menyerahkannya kepada klien untuk disimpan serta dipulangkan pada giliran seterusnya.

    Satu kunci bagi setiap penyedia

    Ujian kertas kerja itu menunjukkan setiap penyedia mengesahkan dan menyulitkan semua blok sedemikian dengan satu kunci yang sama merentasi keseluruhan penyedia, bukannya kunci yang terikat kepada satu sesi, satu pengguna atau satu model.

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan9 / 20

  10. Hujah

    Apa yang Green temui, dan apa yang tidak

    Catatan Green pada bulan Mei ialah asal pemerhatian itu, dan kertas kerja itu sendiri mengakuinya secara langsung.

    Main semula

    Beliau mendapati blok yang ditangkap boleh dimainkan semula merentasi sesi, merentasi akaun dan, bagi OpenAI, merentasi model yang berbeza, dan blok yang dimainkan semula “aktif dari segi semantik” dan bukan sekadar diabaikan.

    Saluran sisi

    Beliau turut menunjukkan, menggunakan data yang beliau tanam sendiri, bahawa panjang dan masa satu blok penaakulan boleh membocorkan satu bit rahsia yang diarahkan supaya model tidak sekali-kali nyatakan secara terus.

    Apa yang tidak berjaya

    Menurut catatannya sendiri, beliau tidak berjaya mengubah mana-mana penemuan itu menjadi cara yang boleh dipercayai untuk mengeluarkan rahsia sebenar daripada sesi orang lain.

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan10 / 20

  11. Hujah

    Langkah yang tertinggal, dan mengapa ia berjaya

    Penyerang langsung tidak perlu melakukan jailbreak terhadap model yang berupaya itu; ia hanya memerlukan model adik yang serasi dan sudi menyahkod apa yang diserahkan kepadanya.

    1. 01Tangkapblok penaakulan daripada model yang dijaga rapi
    2. 02Main semulake model adik yang lebih kecil dan kurang dijaga daripada penyedia yang sama
    3. 03Salin semulamodel adik menyahkodnya apabila diminta, kata demi kata

    Model paling canggih

    Dilatih secara mendalam untuk menolak permintaan mendedahkan rantaian pemikirannya sendiri.

    Model adiknya yang lebih murah dan pantas

    Dibina demi kos dan kelajuan, bukan sebagai produk unggulan, dan tidak dikenakan piawaian yang sama.

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan11 / 20

  12. Hujah

    Sifat legap memotong ke dua-dua arah

    Ia boleh menyembunyikan kandungan berbahaya yang ditaakulkan oleh model tanpa dinyatakan, dan sama mudahnya ia boleh menyembunyikan sesuatu yang sepatutnya dilihat oleh pengguna atau pemantau.

    Log sesi yang diterbitkan

    Pembangun sering menerbitkan log sesi ejen yang mentah demi kebolehulangan, membawa sekali blok penaakulan bersama transkrip yang kelihatan; mana-mana pihak ketiga yang dapat membaca blok itu dengan mana-mana model serasi akan memperoleh semula apa jua yang ditaakulkan oleh model itu, sama ada ia pernah muncul dalam teks yang kelihatan ataupun tidak.

    Arahan yang ditanam

    Akibat kedua yang dikemukakan kertas kerja itu: arahan berniat jahat boleh ditanam sepenuhnya di dalam satu blok penaakulan dan kemudiannya dimainkan semula ke dalam tugasan yang tidak berkaitan, tidak kelihatan kepada sesiapa yang hanya membaca perbualan yang kelihatan.

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan12 / 20

  13. Apa yang Ditambah oleh Sumber Lain · Google

    Tiga penyedia, tiga pendirian berbeza sebulan kemudian

    • Google

      Keserasian dikekalkan, diuruskan oleh bahagian belakang

      Dokumentasi API Gemini, “Thought signatures”

      • Dokumentasinya masih menyebut tandatangan pemikiran sebagai “representasi disulitkan bagi penaakulan dalaman model”, yang diperlukan untuk keselanjaran merentasi giliran.
      • Apabila menukar model dalam satu sesi, panduannya ialah terus menghantar semula blok pemikiran model sebelumnya — “bahagian belakang menguruskan keserasian”.

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan13 / 20

  14. Apa yang Ditambah oleh Sumber Lain · OpenAI

    Tiga penyedia, tiga pendirian berbeza sebulan kemudian

    • OpenAI

      Satu sempadan telah muncul sejak tempoh ujian kertas kerja itu

      Dokumentasi OpenAI Platform, panduan model penaakulan

      • Respons tanpa keadaan masih memulangkan item penaakulan encrypted_content untuk disimpan dan dihantar semula oleh klien.
      • Tetapi penaakulan yang berterusan “hanya boleh digunakan semula dalam keluarga model yang sama”, dan API kini secara automatik mengabaikan penaakulan yang tidak serasi — lebih sempit berbanding tingkah laku Julai 2026 yang diukur kertas kerja itu, apabila penaakulan boleh dibawa merentasi setiap generasi GPT terdahulu yang diuji.

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan14 / 20

  15. Apa yang Ditambah oleh Sumber Lain · Anthropic

    Tiga penyedia, tiga pendirian berbeza sebulan kemudian

    • Anthropic

      Satu dakwaan yang tidak terdapat dalam dokumentasi semasa Anthropic sendiri

      The Hacker News, memetik dokumentasi Anthropic

      • The Hacker News melaporkan bahawa dokumentasi Anthropic mengikat blok pemikiran kepada model yang menghasilkannya dan menasihatkan ia dibuang apabila bertukar, kerana model lain mengabaikannya.
      • Dokumentasi awam Anthropic sendiri tentang Extended Thinking, setakat September 2026, tidak mengandungi bahasa itu dan langsung tidak menggunakan perkataan “signature”.

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan15 / 20

  16. Apa yang Ditambah oleh Sumber Lain

    Pembetulan, daripada yang drastik hingga yang berperingkat

    Dua yang pertama ialah cadangan kertas kerja itu sendiri; yang ketiga ditujukan terus kepada penyedia.

    Drastik

    Memindahkan semula storan penaakulan ke pelayan penyedia sendiri dan hanya menyerahkan pengecam carian legap kepada klien: ini akan menghapuskan sepenuhnya aset yang boleh dimainkan semula, dengan kos infrastruktur yang nyata.

    Jika tidak sejauh itu

    Mengikat setiap sampul yang disulitkan kepada pengguna dan perbualan tertentu, dan menolak blok yang dikemukakan di luar konteks yang menghasilkannya.

    Green, pada bulan Mei

    Lebih sempit, dan lebih awal: perbaiki pengurusan kunci, dan berhenti menganggap saluran sisi tidak layak mendapat perhatian pasukan keselamatan hanya kerana ia perlahan.

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan16 / 20

  17. Kesimpulan

    Penyulitan melindungi sempadan yang salah

    • Buang blok penaakulan atau pemikiran daripada mana-mana log sesi atau jejak ejen sebelum menerbitkannya, apabila sesi itu pernah menyentuh sesuatu yang sensitif — membersihkan teks yang kelihatan sahaja meninggalkan apa jua yang ditaakulkan oleh model tetap berada dalam blok yang disulitkan.
    • Jangan anggap selamat menyerahkan blok yang legap dan kelihatan tidak boleh dibaca kepada pihak lain hanya kerana ia tidak boleh dibaca tanpa kunci — model yang serasi, bukan kunci, yang didapati mampu membacanya.
    • Semak panduan keselanjaran penaakulan khusus bagi API penyedia yang digunakan, bukannya menganggap satu dasar terpakai di mana-mana — setakat September 2026, ketiga-tiga penyedia yang dinamakan menggambarkan tiga pendirian yang berbeza.

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan17 / 20

  18. Kesimpulan

    Penyulitan melindungi sempadan yang salah

    • Bagi mana-mana alat yang menyimpan atau menghantar keadaan perbualan bagi pihak pengguna, elakkan menyimpan blok penaakulan lebih lama daripada yang diperlukan oleh perbualan itu sendiri.
    • Jangkakan sempadan merentasi model terus berubah: ia sudah menyempit sekali, bagi satu penyedia, sejak tempoh ujian kertas kerja itu sendiri, dan tiada penerangan tentang tingkah laku sesuatu API patut dipercayai kekal lama.

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan18 / 20

  19. Kesimpulan

    Apa yang perlu dipegang longgar

    Pembetulan

    Dakwaan bahawa serangan yang ditunjukkan tidak lagi berkesan bersandar pada catatan kertas kerja itu sendiri tentang ujian susulannya, bukan pada pernyataan awam daripada Anthropic, OpenAI atau Google.

    Kiraan

    Jumlah rahsia yang dipulihkan ialah kiraan rahsia yang berbentuk sah: kertas kerja itu menilai satu nilai berdasarkan bentuknya dan menyatakan dengan jelas bahawa nilai yang didakwa telah dibatalkan, luput atau “untuk ujian sahaja” tetap dikira, jadi ia bukan kiraan kunci yang disemak masih berfungsi.

    Blok yang sudah tersebar

    Sama ada blok penaakulan yang telah dikikis dan diterbitkan sebelum pembetulan masih boleh dinyahsulit hari ini kekal sebagai soalan terbuka setakat September 2026.

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan19 / 20

  20. Kesimpulan

    Intipati

    Kesimpulan kertas kerja itu sendiri: selagi sesuatu model perlu menyahsulit dan bertindak atas penaakulan terdahulu untuk meneruskan perbualan, satu blok penaakulan yang disulitkan “tidak akan pernah lebih daripada separuh tersembunyi”.

    Intipati

    Menyulitkan blok penaakulan menghalang pengguna daripada membaca fikiran model mereka sendiri, dan menghalang pesaing daripada mengikisnya secara pukal. Ia tidak pernah, dan secara struktural tidak boleh, menghalang model serasi yang diminta membacakannya semula — kerana sentiasa ada satu model yang perlu berbuat demikian. Jurang antara disulitkan dan disembunyikan itulah, bukan sifer yang dipecahkan, yang membenarkan jejak yang ditangkap itu merantau.

    Jejak Penaakulan AI: Disulitkan, Bukan Disembunyikan20 / 20