Inferens setempat · Struktur Kos · Model terbuka · Apple Silicon · Perbandingan KosAlat September 2026, harga dibaca 12 Oktober 2026
Kos sebenar AI setempat
Empat Puluh Tiga Tahun Ialah Harga Bulan Lalu
Sebuah kalkulator satu halaman bertanya berapa lama sebuah mesin yang dibeli untuk menjalankan model terbuka setempat mengambil masa untuk berbayar balik berbanding menyewa model yang sama mengikut token. Pada tetapan lalainya — sebuah Mac Studio $3,499, sebuah model 27 bilion parameter, setengah juta token sehari — ia menjawab 43.6 tahun, dan jawapan itu tersebar. Angka itu kukuh: ia menerbitkan data dan formulanya, dan setiap satu daripada tiga belas angka dalam liputan terhasil semula dengan tepat. Apa yang angka itu bergantung padanya ialah bahagian yang menarik. Jadikan elektrik mesin itu percuma dan ia bergerak kurang daripada empat peratus. Tukar yang mana antara dua puluh hos aktif anda sewa, dan mesin yang sama, model yang sama dan hari yang sama memberi apa sahaja dari 19 tahun hingga 183.
Apa Yang Berlaku
Aritmetiknya tepat; tarikh padanya tidak Apa kata alat itu, apa yang terhasil semula daripada failnya sendiri, dan apa yang berubah sejak fail itu ditulis.
- 43.6Tahun untuk pulang modal, pada tetapan lalai yang diterbitkan alat itu
- 13 / 13Angka diterbitkan yang terhasil semula tepat daripada fail data projek itu sendiri
- 0 / 98Baris kelajuan terukur dalam datanya yang meliputi mesin dalam tetapan lalai itu
- 19 – 183Tahun untuk pulang modal merentas 20 hos yang menyajikan model itu hari ini
- 3.8%Berapa banyak jawapannya bergerak jika elektrik mesin itu percuma
| Taraf | Apa | Di mana ia ditetapkan |
|---|---|---|
| Disahkan | Setiap angka dalam liputan — bil bulanan, elektrik, penjimatan, memori, kelajuan, masa menunggu, malah “27 daripada 39 model muat” — terhasil semula tepat daripada data projek itu dan formulanya yang diterbitkan. | Empat fail data dan formulanya, semuanya terbuka. Dikira semula di sini pada 12 Oktober 2026. |
| Disahkan | Harga di sebalik jawapan itu disemak pada 3 September 2026. Disoal secara langsung hari ini mengikut peraturan alat itu sendiri — hos aktif termurah — beban kerja yang sama berkos kira-kira seperempat, yang menolak pulang modal ke kira-kira 180 tahun. | Fail data merekodkan peraturan dan tarikhnya; API pasaran itu sendiri disoal pada 12 Oktober 2026. |
| Disahkan | Dua puluh hos menyajikan model itu sekarang. Harga input berbeza 25 kali ganda dan harga output 3.5 kali ganda, jadi pulang modal pada satu mesin, satu model dan satu hari berjulat dari 19 tahun hingga 183. | Kesemua dua puluh titik akhir dan harganya, daripada API pasaran itu sendiri, 12 Oktober 2026. |
| Disahkan | Mesin dalam tetapan lalai itu tiada kelajuan terukur di mana-mana dalam 98 ukuran projek itu — ia belum dihantar ketika data disusun — dan projek itu menyatakannya sendiri. | Fail ukuran, dibaca baris demi baris, dan senarai jurang yang diketahui projek itu sendiri. |
| Disahkan, tetapi tidak boleh disahkan di sini | Ringkasan penulisnya sendiri: pada sejuta token sehari, pulang modal terpantas dalam kelas keupayaan itu ialah 8.3 tahun, dan ia jatuh bawah setahun hanya pada sekitar 20 juta token sehari. | Ditulis dalam bebenang forum awam pada 15 September 2026, berdasarkan harga yang disemak dua belas hari lebih awal. |
| Belum disahkan | Sama ada mana-mana harga termurah hari ini bersifat pengenalan. Julat 25 kali ganda pada satu model menimbulkan persoalan itu, dan tiada apa dalam data pasaran menjawabnya. | Dua puluh titik akhir disenaraikan sebagai aktif; tiada apa membezakan harga tetap daripada harga promosi. |
Apa angka itu
Satu pengiraan yang betul, atas andaian yang dinyatakan, daripada data yang disemak pada hari yang dinyatakan, oleh projek yang menerbitkan ketiga-tiganya dan menyenaraikan jurangnya sendiri.
Apa ia bukan
Satu pemalar. Dua daripada inputnya menggerakkannya sepuluh kali ganda atau lebih dan kedua-duanya telah berubah sejak itu; dua yang kelihatan menentukan — kelajuan mesin dan kuasanya — menggerakkannya kurang daripada lima peratus antara keduanya.
Garis Masa
Tiga puluh sembilan hari dari semakan harga ke harga Data disusun sebelum mesin yang digambarkannya dijual, dan angka itu sampai kepada khalayak baharu empat minggu kemudian.
- 12 Mac 2025Sebuah kumpulan penyelidikan menerbitkan aliran yang menjadi asas seluruh persoalan ini: harga bagi sesuatu tahap keupayaan telah jatuh mendadak dan berulang kali, sehingga 40 kali ganda setahun pada satu penanda aras.
- 3 Sep 2026Projek itu merekodkan harga dan tetapan lalainya sebagai disemak. Model dalam tetapan lalai dihargakan $0.32 masuk dan $2.50 keluar setiap juta token, mengikut peraturan “titik akhir aktif termurah”.
- 15 Sep 2026Kalkulator itu disiarkan ke forum awam. Ia menarik 47 mata dan 99 komen, dan yang pertama menolak premisnya: privasi, tulis pengomen itu, menjadikannya berbayar balik serta-merta.
- 22 Sep 2026Mesin dalam tetapan lalai itu dihantar — sembilan belas hari selepas data yang menggambarkannya disusun. Kelajuannya dalam pengiraan ialah anggaran daripada lebar jalur memori, dan dilabelkan sedemikian.
- 11 Okt 2026Angka itu dilaporkan kepada khalayak berbahasa Cina, dua puluh enam hari selepas ia diterbitkan dan tiga puluh lapan hari selepas harga di sebaliknya dibaca.
- 12 Okt 2026Harga langsung model yang sama dibaca merentas dua puluh hos aktif. Mengikut peraturan alat itu sendiri, beban kerja itu kini berkos kira-kira seperempat daripada angka yang direkodkan, dan dua puluh harga itu juga tidak bersetuju antara satu sama lain.
Hujah
Empat input, dan hanya dua yang penting Setiap baris di bawah menggerakkan satu input dan membiarkan yang lain pada nilai lalai yang diterbitkan.
Formulanya diterbitkan, dan membacanya ialah sebahagian besar kerjanya. Pihak awan dicaj untuk token input dan output. Pihak setempat dicaj untuk elektrik yang dibakar sambil menjana output — tiada penggunaan melahu, tiada masa membaca gesaan anda, tiada susut nilai, tiada bahagian bagi kegunaan lain mesin itu. Apa pun itu, ia bukan pengiraan yang diatur menentang pembelian mesin: pada kos operasi ia semurah hati yang aritmetik benarkan terhadap kotak setempat, dan harga perkakasan ditinggalkan melakukan semua kerja.
Itulah sebabnya pihak setempat dalam persamaan itu hampir tidak menggerakkan jawapannya. Pada nilai lalai yang diterbitkan, elektrik ialah 3.8% daripada bil awan, jadi dua angka yang kelihatan seperti keseluruhan cerita mesin setempat itu — kelajuan dan penggunaan kuasa — hampir tiada tempat untuk pergi. Separuhkan kelajuan dan anda menambah empat belas bulan pada empat puluh tiga tahun. Empat kali gandakannya dan anda menolak lima belas bulan. Jadikan elektrik percuma dan jawapannya masih 42 tahun.
Itu membingkai semula amaran projek itu yang paling kerap dipetik. Datanya memuatkan 98 kelajuan terukur dan tiada satu pun untuk mesin dalam tetapan lalainya sendiri, yang belum dihantar ketika fail itu ditulis; projek itu menyatakannya dalam senarai jurangnya. Ia jurang yang nyata dan ia menentukan kos masa sepenuhnya — empat puluh saat bagi seribu token, suku jam menunggu tambahan sehari. Ia hampir langsung tidak menentukan wangnya.
Dua input yang memang menentukannya ialah harga API dan jumlah penggunaan. Tentang jumlah: nilai lalainya ialah setengah juta token sehari, dan jawapannya ialah fakta tentang angka itu. Pulang modal tiga tahun memerlukan 7.3 juta token sehari dan setahun memerlukan 21.8 juta, kedua-duanya dalam siling terbitan mesin itu sendiri, 34.6 juta. Penulisnya menyatakan perkara yang sama dengan kata-katanya sendiri — bawah setahun “jika anda menjalankan ejen pada sekitar 20J token/hari”. Tentang harga: lihat bahagian berikutnya, kerana satu angka tidak mampu memikulnya.
- 3.8%Elektrik, sebagai bahagian daripada bil awan yang ingin dikalahkannya
- 42.0Tahun untuk pulang modal jika mesin itu berjalan dengan elektrik percuma
- 7.3MToken sehari diperlukan untuk pulang modal tiga tahun, berbanding lalai 0.5J
| Gerakkan satu input | Pulang modal | Berbanding 43.6 tahun |
|---|---|---|
| Anggaran kelajuan separuh, 25 ke 12.5 tok/s | 45.4 | +4.1% |
| Anggaran kelajuan empat kali, 25 ke 100 tok/s | 42.4 | −2.8% |
| Penggunaan kuasa berganda, 145 ke 290 W | 45.4 | +4.1% |
| Elektrik pada angka rasmi semasa, 18.31¢ | 43.8 | +0.3% |
| Elektrik percuma, 0¢/kWh | 42.0 | −3.8% |
| Harga API: hos aktif termurah hari ini | 182.9 | +319% |
| Harga API: hos aktif termahal hari ini | 19.1 | −56% |
| Penggunaan pada 7.3J token sehari | 3.0 | −93% |
| Penggunaan pada 20J token sehari | 1.1 | −97% |
Apa Yang Ditambah Pihak Lain
“Harga awan” bukan satu angka Dua puluh hos, satu model, satu hari, dan pulang modal yang disiratkan setiap satunya bagi mesin yang sama.
| Jalur harga, setiap juta token | Hos | Beban kerja ini | Pulang modal |
|---|---|---|---|
| Termurah: $0.040 masuk, $1.350 keluar | 2 | $1.85/mo | 182.9 yr |
| Bawah $4 sebulan | 9 | $1.85–3.92 | 79.6–182.9 yr |
| $4 hingga $10 sebulan | 9 | $5.09–9.46 | 31.7–60.3 yr |
| Melebihi $10 sebulan | 2 | $14.46–15.54 | 19.1–20.5 yr |
| Angka dalam kalkulator, disemak 3 Sep | — | $6.94/mo | 43.6 yr |
Suis yang tiada siapa sebut
43.6 tahun ialah jawapan paling murah hati yang ada
- Alat itu membawa pilihan untuk membiarkan harga API terus jatuh. Ia dimatikan secara lalai, jadi tajuk utama itu mengekalkan harga hari ini selama empat puluh tiga tahun.
- Notanya sendiri: harga “tidak berkelakuan begitu”, dan menghidupkan pilihan itu “menolak pulang modal lebih jauh”.
- Melepasi satu titik, kata nota itu, “API berkos kurang daripada elektrik anda” dan pulang modal “tidak lagi boleh dicapai langsung”.
Apa yang ditinggalkannya
Dan menyatakannya, satu demi satu
- Keseluruhan pembelian dicaj kepada inferens. Tiada kredit untuk kerja video, kompilasi, atau apa-apa lagi yang dilakukan mesin itu, dan tiada susut nilai terhadap nilai jualan semula.
- Angka kuasa bagi mesin 2026 ialah nilai ganti, kerana pengilangnya tidak menerbitkan apa-apa; setiap baris terlibat ditanda.
- Siling harian menganggap membaca gesaan anda tidak memakan masa. Notanya sendiri: siling sebenar “berkemungkinan 20-30% lebih rendah”.
Apa yang tidak boleh dihargakannya
Jawapan pertama menolak premisnya
- “Ia berbayar balik serta-merta, kerana [vendor itu] tidak lagi dapat melihat apa yang saya lakukan… Jika saya memindahkan sebahagian proses fikiran saya kepada sebuah mesin, saya mahu memiliki mesin itu.”
- Jawapan kedua membuat hujah metodologi yang memihak alat itu: perbandingan yang adil ialah hos yang menjalankan model terbuka yang sama, dan itulah yang dilakukannya.
- Kestabilan luar talian, terma yang tidak berubah, harga yang tidak berubah dan tiada peraturan kandungan berada dalam kategori yang sama: nyata, dan tidak boleh dinyatakan dalam dolar sebulan.
| Juga wajar diketahui | Butiran |
|---|---|
| Angka bertarikh bukan angka yang salah | Pengiraan itu merekodkan peraturan yang digunakannya dan hari ia digunakan. Harga yang bergerak selepas itu menjadikan angka itu lama, bukan palsu — dan ini bidang di mana angka boleh menjadi lama dalam lima minggu. |
| Termurah ialah peraturan, bukan sebuah hos | Fail data merekodkan peraturan dan tarikhnya, tidak pernah penyedia mana yang terpilih, jadi angka September dan angka Oktober tidak boleh dijejaki kepada hos yang sama. |
| Julat harga ialah soalan, bukan saranan | Tiada apa di sini menguji kependaman, pemprosesan, pengekalan data atau kebolehpercayaan pada mana-mana daripada dua puluh hos itu. Julat 25 kali ganda pada satu model ialah sebab untuk melihat, bukan sebab untuk memilih yang paling bawah. |
| Apa yang tidak dapat dibaca | Halaman pembelian pengilang itu sendiri mengesahkan harga peringkat memori di kedua-dua belah yang dalam tetapan lalai, tetapi melukis harga konfigurasi dengan skrip, jadi $3,499 itu bergantung pada fail data projek dan sumber yang dipetiknya. |
Kesimpulan
Cara membeli inferens yang mana sesuai untuk pembeli yang mana Pengiraan itu menjawab satu soalan dengan baik. Ia bukan satu-satunya soalan, dan ia bukan soalan yang sama bagi semua orang.
Sewa sahaja
Jika bilnya yang menjadi sebab
- Paling baik pada: tiada kos awal, tidak pernah menjadi mesin yang salah, dan semakin murah sementara anda duduk diam.
- Pada penggunaan ini bilnya beberapa dolar sebulan, dan perkakasan itu memerlukan berdekad daripadanya.
- Pertukarannya: kerja anda pergi ke mesin orang lain, dan harga, terma dan modelnya boleh berubah tanpa anda.
Beli
Jika jumlahnya memang sudah ada
- Paling baik pada: menukar kos tetap kepada penggunaan tanpa had. Mesin itu tidak mengenakan bayaran mengikut token, jadi semakin berat harinya semakin elok rupanya.
- Pulang modal tiga tahun pada 7.3 juta token sehari, kira-kira setahun pada 20 juta — kedua-duanya dalam siling mesin itu sendiri, dan kedua-duanya jauh di atas nilai lalai.
- Pertukarannya: ia lebih perlahan setiap token berbanding pusat data, dan harga hos yang anda kalahkan sedang jatuh di bawah anda.
Beli juga
Jika sebabnya memang bukan bil itu
- Paling baik pada: perkara yang tiada lajur dalam mana-mana kalkulator. Kerja itu tidak pernah meninggalkan bilik, termanya tidak boleh berubah, dan ia berjalan ketika rangkaian tumbang.
- Apabila kerahsiaan ialah kehendak undang-undang dan bukan pilihan, soalan pulang modal langsung tidak timbul.
- Pertukarannya: jujurlah bahawa itulah yang anda beli. Aritmetik di atas bukan hujah menentangnya, dan ia juga bukan hujah menyokongnya.
Muktamad
Aritmetiknya betul dan boleh dihasilkan semula daripada data yang diterbitkan. Pada setengah juta token sehari, mesin itu tidak berbayar balik melalui bil, dengan jurang yang luas, dan jurang itu tidak sensitif kepada apa-apa tentang mesin itu.
Terbuka
Berapakah harga hos nanti. Ia jatuh kira-kira empat kali ganda dalam tiga puluh sembilan hari pada satu bacaan, dua puluh hos tidak bersetuju antara satu sama lain sebanyak 25 kali ganda hari ini, dan aliran yang dipetik alat itu datang daripada analisis yang notanya sendiri berkata mendahului tahun ini.
Pegang ini dengan longgar
Mana-mana angka pulang modal tunggal, termasuk setiap satu pada halaman ini. Semuanya petikan sesaat bagi harga yang bergerak setiap minggu, dikira pada tahap penggunaan yang dipilih seseorang. Jalankan semula dengan dua angka anda sendiri; selebihnya hampir tidak penting.
- Kira dua angka anda sendiri sebelum apa-apa lagi: token sehari, dan harga hos yang benar-benar akan anda guna. Bersama-sama ia menggerakkan jawapannya sepuluh kali ganda atau lebih. Kelajuan mesin dan elektriknya menggerakkannya kurang daripada empat peratus antara keduanya.
- Semak tarikh pada mana-mana angka pulang modal, termasuk yang ini. Harga di sebalik tajuk utama itu berusia lima minggu ketika ia sampai kepada khalayak baharu, dan beban kerja yang digambarkannya telah berubah kira-kira empat kali ganda dalam tempoh itu.
- Hargakan hos yang akan anda guna, bukan “awan”. Dua puluh daripadanya menyajikan model yang satu ini hari ini dan harga inputnya berbeza 25 kali ganda. Yang mana anda pilih mengubah jawapannya lebih daripada apa-apa yang boleh anda beli.
- Jika anda membeli mesin itu untuk privasi, katakanlah dan berhenti membuat kiraan itu. Pengiraan itu mencaj keseluruhan pembelian kepada inferens dan tidak memberi kredit untuk apa-apa lagi yang dilakukan mesin itu. Ia menjawab soalan tentang wang; ia memang bukan soalan yang anda tanyakan.
Nota pantas
- laporan tentang kalkulator itu dalam TechBang, 11 Okt 2026
- kalkulator itu sendiri di sunkcost.ai, dan repositorinya — README yang membawa formula dan senarai jurang yang diketahui, serta empat fail data bagi perkakasan, model, nilai lalai dan pemprosesan terukur
- bebenang Show HN 15 Sep 2026, bagi angka penulisnya sendiri dan jawapan pertama
- API models dan endpoints OpenRouter, disoal 12 Okt 2026 bagi kesemua dua puluh harga aktif
- halaman spesifikasi dan pembelian Mac Studio Apple
- Epoch AI, ‘LLM inference prices have fallen rapidly but unequally across tasks’, 12 Mac 2025
- dan Electric Power Monthly Pentadbiran Maklumat Tenaga AS, melalui APInya. Semua dibaca 12 Okt 2026. Slaid juga merujuk panduan cache gesaan OpenRouter dan sejarah komit repositori itu, kedua-duanya dibaca pada 15 Okt 2026.
Boleh diharap
Wajar dipercayai
Berkongsi subjek
- LLM setempat dan pembelian Mac — Laporan teknikalApple Silicon · Inferens setempat
- Inkling: Model Terbuka Thinking Machines, dan Pesaing yang Turut MengajarnyaModel terbuka
- Pengambilalihan Hugging Face oleh Nvidia, Disahkan, Bernilai $12.9 BilionModel terbuka
- Sembilan Tahun, Margin Yang SamaStruktur Kos
Berkongsi domain sumber
- Laporan Pasca Insiden Kualiti Claude Code — Tiga Perubahan Yang Tidak Berkaitangithub.com · ycombinator.com
- LLM setempat dan pembelian Mac — Laporan teknikalapple.com · github.com
- Ledakan RWA Avalanche, dan Mengapa AVAX Masih Jatuhgithub.com · githubusercontent.com
- Swap Merentas Lima Platform — Mampat Dahulu, Limpah Kemudianapple.com · githubusercontent.com
- Cukup, atau Kurang? Kejuruteraan Konteks Menyebut Kedua-duanya dalam Seminggugithub.com · ycombinator.com
- Sembilan bilion permintaan sehari, dipindahkan tanpa membina semula satu fail pungithub.com
- Grok Build Menghantar Seluruh Repositori ke Awan xAIgithub.com
- Lima Nama untuk Satu Timbunan, dan Tiada Susunan yang Disepakatigithub.com
- POCO X8 Pro lawan X8 Pro Max — Panduan Pembeli di Taiwantechbang.com
- Ia bermula sebagai penalaan sebuah ejen. Menjelang Mac ia bermaksud segalanya kecuali model.github.com
- Satu istilah, dicipta dua kali dalam jarak dua minggu. Jenaka itu yang menang.github.com
- Dorado v4 hingga v6 — Apa yang Berubah, Sebanyak Mana, dan Adakah Ia Berbaloigithub.com
- Pengambilalihan Hugging Face oleh Nvidia, Disahkan, Bernilai $12.9 Bilionopenrouter.ai
- Dakwaan Cip China Z.ai untuk GLM-5.3-Flashopenrouter.ai
- Mengalih Bacaan Pukal ke Model Lebih Murah — Apa Sebenarnya Dipotong oleh 90% Itugithub.com
- Barisan Hadapan Berhenti. Perangnya Tidak.eia.gov
- Berdekad, Bukan Bertahunapple.com