Apa Itu
Istilah · Kejuruteraan LLM · Model bahasa · Penanda aras · AI · PeneranganTratopedia · 15 Ogos 2026
Kedua daripada lima · lapisan yang mengelilingi prompt
“Semua Konteks” Bertahan Enam Hari
Pada 19 Jun 2025 CEO Shopify berkata bahawa kejuruteraan konteks ialah seni menyediakan semua konteks supaya sesuatu tugasan boleh diselesaikan secara munasabah. Enam hari kemudian Andrej Karpathy menyokong istilah itu dan mengubahnya secara senyap: mengisi tetingkap dengan maklumat yang tepat sekadarnya untuk langkah seterusnya. Tiga minggu selepas itu, Chroma mengukur lapan belas model dan mendapati bahawa prestasi menjadi semakin kurang boleh dipercayai apabila input bertambah. Menjelang akhir September, definisi Anthropic telah menterbalikkan yang asal — cari set terkecil yang mungkin bagi token berisyarat tinggi. Dalam kira-kira seratus hari istilah itu berubah daripada soalan tentang sama ada anda telah memberi model itu cukup, kepada soalan tentang sama ada anda telah memberinya terlalu banyak.
Empat definisi, dalam lima belas minggu Diletakkan bersebelahan, semuanya tidak mengatakan perkara yang sama. Perbezaan itulah artikel ini.
- 6hari antara istilah itu disokong dan maknanya disempitkan
- 102hari daripada “semua konteks” kepada “set terkecil yang mungkin”
- 18model yang diuji Chroma, dan tiada satu pun menggunakan konteksnya secara seragam
- 0artikel Wikipedia untuk istilah ini semasa tangkapan — ia hanya satu perenggan dalam entri lain
Tobi Lütke · 19 Jun 2025
“Menyediakan semua konteks”
- Selengkapnya: seni menyediakan semua konteks supaya tugasan itu boleh diselesaikan secara munasabah oleh LLM.
- Perhatikan “tugasan itu” — tunggal, dan dilakukan sekali sahaja.
- Kata-katanya sendiri ialah “saya sangat suka istilah ini”, yang berbunyi seperti sokongan dan bukan penciptaan istilah. Tiada apa-apa yang dirujuk menamakan pengguna terdahulu juga.
Andrej Karpathy · 25 Jun 2025
“Maklumat yang tepat sekadarnya untuk langkah seterusnya”
- “+1 untuk kejuruteraan konteks berbanding kejuruteraan prompt. Orang mengaitkan prompt dengan penerangan tugasan yang ringkas… sedangkan dalam setiap aplikasi LLM bertaraf industri, kejuruteraan konteks ialah seni dan sains yang halus untuk mengisi tetingkap konteks…”
- Daripada “tugasan itu” kepada “langkah seterusnya”: daripada sesuatu yang dilakukan sekali setiap kerja kepada sesuatu yang dilakukan sekali setiap giliran.
- Apa yang diperoleh di sini terhenti di tengah ayat. Bahagian penghujungnya — “dengan maklumat yang tepat sekadarnya untuk langkah seterusnya” — dipetik oleh Anthropic, yang memaut ke catatan ini. Disahkan secara silang, bukan dibaca sepenuhnya.
Chroma · 14 Jul 2025
Bukan definisi — satu kekangan
- Andaian yang mereka uji: sesebuah model “sepatutnya mengendalikan token ke-10,000 sepercaya token ke-100”. Dapatan mereka: ia tidak benar.
- Model “tidak menggunakan konteksnya secara seragam; sebaliknya, prestasinya menjadi semakin tidak boleh dipercayai apabila panjang input bertambah” — merentas GPT-4.1, Claude 4, Gemini 2.5 dan Qwen3.
- Ia jatuh antara penciptaan istilah dan pemformalannya. Itu memberi petunjuk, dan halaman ini tidak menganggapnya sebagai punca yang terbukti.
Anthropic · 29 Sep 2025
“Set terkecil yang mungkin bagi token berisyarat tinggi”
- Secara formal: set strategi untuk memilih dan mengekalkan set token yang optimum semasa inferens LLM, termasuk semua maklumat lain yang mungkin sampai ke situ di luar prompt.
- Ia juga menjelaskan kadensinya: “fasa pemilihan berlaku setiap kali kita memutuskan apa yang hendak dihantar kepada model.”
- Definisi daripada sebuah pembekal, dan satu-satunya yang formal di sini. anthropic.com tersekat kepada sesi ini — teks itu dibekalkan oleh djTratoh.
Sekukuh mana setiap bahagian berdiri Hampir kesemuanya dibaca di sumbernya. Dua perkara tidak, dan satu dikira.
| Sekukuh mana | Apa | Berdasarkan apa |
|---|---|---|
| Dibaca di sumbernya | Kata-kata Lütke: “seni menyediakan semua konteks supaya tugasan itu boleh diselesaikan secara munasabah oleh LLM” | Catatannya di X, diambil pada 15 Ogos 2026 |
| Dibaca di sumbernya | Kata-kata Karpathy, setakat “mengisi tetingkap konteks” | Catatannya di X, diambil pada 15 Ogos 2026. Teks yang diperoleh terpotong di situ |
| Dibaca di sumbernya | Chroma menguji 18 LLM; model “tidak menggunakan konteksnya secara seragam”; prestasi “menjadi semakin tidak boleh dipercayai apabila panjang input bertambah” | Context Rot, laporan teknikal Chroma, 14 Jul 2025, diambil di sumbernya. Hanya bahagian pembukaan dibaca — tiada keputusan eksperimen individu dipetik di sini |
| Dibaca di sumbernya | Tiada artikel Wikipedia untuk kejuruteraan konteks; ia hanya satu perenggan dalam “Prompt engineering” | Satu 404 semasa tangkapan, 15 Ogos 2026. Ketiadaan itu sendiri satu dapatan: ensiklopedia itu masih menganggapnya subtopik |
| Terbitan | Kedua-dua catatan itu berselang enam hari — 19 Jun 03:01 UTC dan 25 Jun 15:54 UTC 2025 | Dikira daripada ID catatan itu sendiri, yang mengekod cap masa milisaat. Satu terbitan, bukan bacaan — boleh diulang, tetapi bukan sama seperti melihat tarikh pada halaman itu |
| Dibekalkan, hos tersekat | Definisi formal Anthropic, bajet perhatian, hujah perhatian n², dan tiga teknik ufuk panjang | Effective context engineering for AI agents, 29 Sep 2025. anthropic.com mengembalikan 403 kepada sesi ini bagi setiap alat; djTratoh membekalkan teksnya |
| Bacaan kami | Istilah itu terbalik: ujian kecukupan menjadi ujian kekurangan | Dihimpunkan daripada empat definisi di atas. Tiada sumber yang dirujuk menyebutnya |
| Bacaan kami | Pengukuran Chroma ialah punca yang munasabah bagi penyempitan itu | Ia jatuh antara penciptaan istilah dan pemformalannya, dan Anthropic memetiknya — tetapi tiada apa-apa menyatakan bahawa definisi itu berubah kerananya |
Garis Masa
Seratus dua hari Kronologi paling padat antara lima istilah itu — empat dokumen, dan satu pengukuran dalam jurangnya.
- Dis 2024Kerjanya, tanpa istilahnya. Anthropic menerangkan “LLM terimbuh” — sebuah model bersama perolehan, alatan dan ingatan — sebagai blok binaan bagi segala yang agentik. Kesemuanya ialah kejuruteraan konteks; tiada satu pun dipanggil begitu lagi.
- 19 Jun 2025Semua konteks. Tobi Lütke menyiarkan bahawa dia lebih suka “kejuruteraan konteks” berbanding “kejuruteraan prompt” kerana istilah itu menggambarkan kemahiran teras dengan lebih baik: menyediakan semua konteks supaya tugasan itu boleh diselesaikan secara munasabah.
- 25 Jun 2025Enam hari kemudian, konteks yang tepat sekadarnya. Karpathy menambah +1-nya — dan merangkanya semula sebagai mengisi tetingkap dengan maklumat yang tepat sekadarnya untuk langkah seterusnya. Perkataan “semua” tidak bertahan sepanjang minggu itu.
- 14 Jul 2025Seseorang mengukurnya. Chroma menerbitkan Context Rot: lapan belas model, dan tiada satu pun mengendalikan token kesepuluh ribu sepercaya token keseratus. Prestasi menjadi semakin kurang boleh dipercayai apabila input bertambah.
- 18 Sep 2025Gelung itu mendapat definisi. Simon Willison memutuskan “sebuah ejen LLM menjalankan alatan dalam satu gelung untuk mencapai sesuatu matlamat”. Gelung itulah yang terus menghasilkan token yang kini terpaksa dipilih oleh seseorang.
- 29 Sep 2025Set terkecil yang mungkin. Anthropic memberikan istilah itu definisi formalnya yang pertama — memilih dan mengekalkan set token yang optimum semasa inferens — dan menetapkan matlamatnya sebagai set terkecil bagi token berisyarat tinggi. Seratus dua hari selepas “semua”.
Hujah
Mengapa sesuatu definisi boleh terbalik dalam seratus hari Kerana yang pertama ialah harapan dan yang kedua telah diukur.
Definisi Lütke ialah ujian kecukupan. Sudahkah anda memberikan model itu segala yang diperlukannya? Jika tidak, tugasan itu tidak boleh diselesaikan secara munasabah, dan itu salah anda dan bukan salah model. Ia idea yang murah hati lagi praktikal, dan ia menunjukkan kegagalan yang nyata — ejen yang tidak dapat melihat fail itu tidak dapat menggunakannya. Definisi Anthropic pula ialah ujian kekurangan, dan ia menunjukkan kegagalan yang bertentangan. Konteks itu terhad, model mempunyai bajet perhatian, dan setiap token membelanjakan sebahagian daripadanya. Seni binanya menjelaskan sebabnya: sebuah transformer membenarkan setiap token memberi perhatian kepada setiap token yang lain, jadi n token menghasilkan n² hubungan berpasangan, dan perhatian menjadi semakin nipis apabila tetingkap itu terisi. Hasilnya ialah kecerunan dan bukan tebing curam — model kekal berkemampuan pada panjang yang tinggi tetapi kehilangan kejituan. Apa yang berlaku antara kedua-duanya ialah seseorang telah mengukurnya. Chroma menguji lapan belas model terhadap andaian bahawa token kesepuluh ribu sepercaya token keseratus, dan melaporkan bahawa ia tidak begitu — bukan pada satu model, tetapi pada kesemuanya. Setelah itu tercatat, “sediakan semua konteks” berhenti menjadi murah hati dan mula menjadi cara untuk merosotkan sistem anda sendiri. Halaman ini tidak mendakwa bahawa Chroma menyebabkan perubahan itu. Laporan itu terletak antara penciptaan istilah dan pemformalannya, dan Anthropic memetiknya; itu memberi petunjuk dan itu sahaja yang boleh ditunjukkan. Apa yang boleh ditunjukkan ialah kata-katanya: “semua konteks” pada 19 Jun, “yang tepat sekadarnya” pada 25 Jun, “set terkecil yang mungkin” pada 29 September.
- all → leastistilah yang sama, berselang seratus dua hari
- 18model yang konteksnya tidak digunakan secara seragam, menurut Chroma
- n²hubungan berpasangan daripada n token — sebab perhatian menipis apabila tetingkap terisi
Apa Yang Ditambah Orang Lain
Apa yang anda benar-benar lakukan mengenainya Amalan Anthropic sendiri, iaitu penjelasan paling khusus yang ada.
- 1Tulis pada altitud yang betulAntara logik if-else rapuh yang dikodkan keras dan panduan kabur yang mengandaikan konteks yang dikongsi. Sasarkan set minimum yang menentukan tingkah laku itu sepenuhnya — dan perhatikan bahawa minimum tidak bermaksud pendek.
- 2Kekalkan set alatan itu kecilAlatan hendaklah berdiri sendiri, tahan terhadap ralat dan bertindih seminimum mungkin. Ujiannya tegas: jika seorang jurutera manusia tidak dapat menyatakan alat mana yang patut digunakan dalam sesuatu keadaan, model tidak boleh diharapkan berbuat lebih baik.
- 3Ambil lewat, bukan awalSimpan pengecam ringan — laluan fail, pertanyaan, pautan — dan muatkan data pada masa jalan. Metadata itu sendiri ialah isyarat: fail bernama
test_utils.pydalamtests/bermakna sesuatu yang berbeza daripada nama yang sama dalamsrc/core_logic/. - 4Untuk kerja panjang, buang sesuatuTiga teknik: pemadatan (meringkaskan tetingkap yang penuh dan bermula semula daripada ringkasan itu), pencatatan nota berstruktur (menulis nota di luar tetingkap dan membacanya semula), dan sub-ejen (meneroka dengan puluhan ribu token, memulangkan satu hingga dua ribu).
Tiga teknik ufuk panjang, dibandingkan Panduan Anthropic sendiri tentang yang mana sesuai untuk apa.
| Teknik | Apa yang dilakukannya | Paling sesuai untuk |
|---|---|---|
| Pemadatan | Meringkaskan tetingkap yang menghampiri hadnya dan memulakan semula daripada ringkasan itu. Claude Code mengekalkan keputusan seni bina, pepijat yang belum selesai dan butiran pelaksanaan, membuang output alatan yang berlebihan, dan meneruskan kerja dengan lima fail yang paling akhir diakses | Tugasan yang memerlukan banyak pertukaran ulang-alik |
| Pencatatan nota berstruktur | Ejen itu menulis nota ke ingatan di luar tetingkap konteks dan menariknya semula kemudian. Satu senarai tugasan, atau sebuah NOTES.md | Pembangunan berulang dengan pencapaian yang jelas |
| Sub-ejen | Ejen khusus bekerja dalam tetingkap yang bersih dan memulangkan ringkasan padat — selalunya 1,000–2,000 token daripada puluhan ribu yang diterokai | Penyelidikan dan analisis apabila penerokaan selari berbaloi |
Satu perkara wajar diasingkan daripada rangka pembekal itu, kerana itulah bahagian yang paling mungkin lapuk. Nasihat Anthropic berakhir dengan “lakukan perkara paling mudah yang berkesan” dan jangkaan bahawa model yang lebih pintar akan memerlukan kurang pemilihan — bahawa reka bentuk agentik akan “cenderung ke arah membiarkan model pintar bertindak dengan pintar, dengan pemilihan oleh manusia yang semakin berkurangan”. Itu satu ramalan, dibuat oleh pihak yang berkepentingan agar ia benar, dan ia patut dibaca sedemikian. Apa yang bukan ramalan ialah pengukuran Chroma, dibuat oleh organisasi yang berlainan, merentas lapan belas model termasuk model perdana tiga pembekal. Jika model itu sudah pun mengendalikan konteks panjang secara seragam, laporan itu tentu menyatakannya. Ia menyatakan sebaliknya, dan ia menyatakannya tentang kesemuanya. Kedua-duanya boleh benar: pemilihan mungkin menjadi lebih mudah sambil kekal perlu. Tetapi hanya satu daripadanya telah diukur.
- 1pengukuran bebas dalam artikel ini. Selain itu semuanya definisi atau amalan
- 1–2ktoken yang dipulangkan oleh sub-ejen daripada puluhan ribu yang diterokai
- 403apa yang anthropic.com kembalikan kepada sesi ini. Catatannya dibekalkan, bukan diambil
Kesimpulan
Apa yang perlu diambil Tiga perkara, dan yang pertama ialah amaran tentang memetik istilah itu.
Tanya definisi mana yang dimaksudkan oleh seseorang
“Sediakan semua konteks” dan “cari set token terkecil yang mungkin” ialah arahan yang bertentangan, dan kedua-duanya telah diterbitkan di bawah satu istilah yang sama dalam tempoh seratus dua hari antara satu sama lain. Sesiapa yang menyebut “kejuruteraan konteks” pada 2026 boleh bermaksud mana-mana satu. Istilah itu tidak menyelesaikan kekaburannya sendiri.
Satu-satunya pengukuran bebas ialah bahagian yang paling wajar dipercayai
Tiga daripada empat definisi di sini datang daripada pihak yang mempunyai sesuatu untuk dijual atau pendirian untuk dipertahankan. Laporan Chroma langsung tidak mendefinisikan istilah itu — ia menguji sama ada model menggunakan konteks panjang secara seragam, merentas lapan belas daripadanya, dan mendapati mereka tidak berbuat demikian. Itulah fakta yang menanggung beban, dan ia datang daripada satu-satunya pihak yang tidak mendefinisikan apa-apa.
Tiada sesiapa yang dirujuk mendakwa telah mencipta istilah itu
Lütke menulis “saya sangat suka istilah ini” — menyokong sesuatu, bukan menamakannya. Karpathy menulis “+1”. Kedua-duanya tidak berbunyi seperti asal usul, dan tiada pengguna terdahulu muncul dalam apa-apa yang dirujuk di sini. Istilah itu lazimnya dikaitkan dengan mereka; berdasarkan bukti yang ada, mereka yang mempopularkannya.