Kimi K3: Model AI Open-Weight Terbesar dari China Ini Menang dengan Menimbun Memori, Bukan Daya Komputasi

Kimi K3: Model AI Open-Weight Terbesar dari China Ini Menang dengan Menimbun Memori, Bukan Daya Komputasi

Sejak dirilis Moonshot AI pada 16 Juli 2026, Kimi K3 selalu dibicarakan lewat satu angka: 2,8 triliun parameter. Angka itu menjadikannya model open-weight terbesar yang pernah dirilis ke publik, melompat masuk ke kelas yang di industri disebut "3T" — tingkatan yang sebelumnya belum pernah disentuh model open-weight mana pun. Lompatannya sendiri tergolong drastis: dari flagship Moonshot sebelumnya yang baru sedikit di atas 1 triliun parameter, langsung melonjak ke 2,8 triliun dalam satu rilis, jauh melampaui DeepSeek V4 Pro yang bertengger di 1,6 triliun.

Tapi ukuran parameter itu, yang paling banyak dibahas, justru bagian yang paling sedikit menjelaskan bagaimana model ini sebenarnya bekerja.

Kesimpulan yang gampang diambil adalah Moonshot berhasil mengakali pembatasan ekspor chip dari Amerika Serikat. Blog teknis resmi perusahaan menyiratkan sesuatu yang lebih spesifik: K3 tidak menghindari batasan itu, melainkan memindahkannya — menukar kebutuhan daya komputasi dengan kebutuhan memori di hampir setiap lapisan desainnya. Pertukaran ini penting dipahami, sebab compute dan memori bukan dua batasan yang bisa saling gantikan begitu saja, dan keduanya tidak sama-sama mudah didapat oleh laboratorium AI asal China.

Kenapa Ini Sebenarnya Soal Memori, Bukan Compute

Ada dua hal yang menentukan berapa biaya menjalankan model bahasa raksasa. Pertama, seberapa banyak kalkulasi yang harus dilakukan mesin untuk menghasilkan satu kata. Kedua, seberapa besar bagian model yang harus terus dimuat dan siap diakses instan selama mesin bekerja. Yang pertama itu compute, yang kedua itu memori. Pembatasan ekspor chip sudah menekan China cukup keras di sisi compute, dan desain Moonshot ini terbaca sebagai upaya sistematis untuk mengurangi ketergantungan pada sisi itu.

Langkah utamanya adalah teknik mixture-of-experts. Alih-alih menjalankan seluruh model untuk setiap kata yang dihasilkan, K3 membagi dirinya menjadi 896 bagian khusus dan hanya memanggil 16 di antaranya dalam satu waktu — sekitar 1,8% dari total keseluruhan. Beban kalkulasi per kata turun tajam. Tapi tagihan memorinya sama sekali tidak berkurang, karena seluruh 2,8 triliun parameter tetap harus dimuat dan siap sedia, sebab tidak ada yang tahu bagian mana yang akan dipanggil berikutnya.

Di titik inilah Moonshot menyerang langsung tagihan memori tersebut. K3 dilatih untuk bekerja pada presisi empat bit per parameter, bukan enam belas bit seperti lazimnya — teknik yang disebut quantisation-aware training, diterapkan sejak tahap fine-tuning. Perusahaan menyebut alasannya "demi kompatibilitas perangkat keras yang luas", sebuah frasa yang layak dicermati karena terbaca seperti langkah jaga-jaga andai model harus berjalan di chip selain buatan Nvidia. Hasilnya lumayan besar: analisis independen memperkirakan ukuran model sekitar 1,4TB dalam format tersebut, dibanding 5,6TB bila memakai presisi penuh.

Menjinakkan Memori dari Konteks Panjang

Perubahan kedua, disebut Kimi Delta Attention, menyasar ongkos memori dari sisi yang berbeda. Ketika model membaca dokumen yang sangat panjang, ia terus mengumpulkan "simpanan" dari semua yang sudah dibacanya. Pada batas maksimal K3 di satu juta token — setara beberapa ribu halaman — simpanan itu sendiri, bukan model utamanya, yang justru jadi beban terbesar di memori.

Moonshot cukup terbuka soal kepentingan bisnis di balik langkah ini. Perusahaan menyumbangkan kode caching ke proyek serving open-source vLLM, dan mengklaim kombinasi kedua teknik inilah yang memungkinkan mereka mematok harga K3 tetap kompetitif meski ukurannya raksasa. Moonshot merekomendasikan K3 dijalankan di atas 64 akselerator atau lebih yang disambungkan erat sehingga berfungsi selayaknya satu kolam memori tunggal — pendekatan yang sama persis dengan sistem CloudMatrix milik Huawei.

Di sinilah letak akal-akalan yang sesungguhnya: memori bisa dikumpulkan dari banyak chip yang secara individu biasa-biasa saja, sementara compute setara kelas pelatihan tidak bisa dirakit dengan cara serupa.

Apakah proses penggabungan memori itu berjalan di atas chip buatan China sendiri, blog Moonshot tidak menjawabnya. Uji coba tingkat chip mereka dilakukan di atas Nvidia H200S dan sesuatu yang cuma disebut "GPGPU dari vendor alternatif" tanpa nama jelas, sementara hasil lain diuji di Nvidia L20 — kartu grafis versi "dipotong" yang memang dijual ke pasar China sesuai aturan ekspor. Blog itu juga tidak menyebutkan di mana lokasi perangkat H200 tersebut berada, padahal DPR AS baru saja mengesahkan RUU pada Januari 2026 untuk menutup celah penyewaan cloud lepas pantai yang selama ini membuat perusahaan China bisa mengakses akselerator terbatas itu dari jarak jauh.

Titik Terlemah Industri Chip China

Semua detail ini penting karena memori, bukan daya komputasi, adalah titik di mana industri chip China sendiri paling tertinggal. Dalam perundingan dagang Agustus 2025, Beijing justru meminta kelonggaran soal pembatasan high-bandwidth memory, bukan soal alat litografi atau akses ke TSMC — sinyal cukup jelas soal batasan mana yang menurut para pejabat sebenarnya paling mengikat. Produksi domestik memori jenis itu diperkirakan hanya sekitar dua juta stack tahun ini, cukup untuk sekitar 250.000 hingga 300.000 chip setara Huawei Ascend 910C, sementara SMIC punya kapasitas wafer untuk lebih dari sejuta unit.

Bisa Tidaknya Perusahaan Benar-benar Memakainya

Bagi pelaku bisnis, pertanyaan praktisnya bukan soal apakah K3 memuncaki papan peringkat, melainkan apakah model sebesar ini realistis untuk benar-benar dipasang di infrastruktur sendiri. Perusahaan-perusahaan di Asia memilih model open-weight karena tiga alasan: harga, kedaulatan data, dan cakupan bahasa regional — bank dan perusahaan asuransi di Asia Tenggara, misalnya, sudah mulai menjajal model open-weight yang di-hosting sendiri supaya data nasabah tidak pernah meninggalkan sistem internal mereka.

Bobot model K3 akan dirilis 27 Juli, dan siapa pun yang sanggup menyediakan perangkat kerasnya bebas mengunduh, memodifikasi, serta menjalankannya di lingkungan sendiri. Masalahnya ada di kata "sanggup" itu. Moonshot merekomendasikan model ini dijalankan di 64 akselerator atau lebih yang disatukan sebagai satu kolam memori, sementara bobotnya saja sudah sekitar 1,4TB dalam format rilis — itu pun sebelum menghitung memori tambahan untuk memproses dokumen panjang.

Ini komitmen setingkat pusat data, bukan sekadar ruang server biasa. Bagi kebanyakan perusahaan, jalan yang realistis adalah menyewa kapasitas khusus, bukan memilikinya sendiri. Cara ini tetap membuat data berada di dalam negeri dan terikat kontrak — sesuai yang diminta kebanyakan regulator kawasan — tapi tidak memberi kemandirian dari penyedia infrastruktur, padahal itulah daya tarik awal model open-weight bagi banyak pembeli.

Perangkat lunak pendukungnya pun belum sepenuhnya siap. Dua perubahan arsitektur utama K3 masih terlalu baru sehingga alat open-source standar untuk menjalankan model belum mendukungnya sepenuhnya. Moonshot mengaku masih bekerja sama dengan mitra inferensi dan pengelola proyek open-source untuk menyelaraskan detail teknis sebelum benar-benar siap dipakai luas. Tim yang berencana melakukan deployment mandiri sebaiknya membedakan antara tanggal rilis dan tanggal model ini benar-benar bisa dipakai.

Harga yang Sudah Tak Lagi Murah

Soal harga, K3 dibanderol US$3 per juta token input, turun menjadi US$0,30 bila model baru saja "melihat" input serupa (lewat caching), dan US$15 per juta token output. Angka ini jauh di bawah harga output Fable 5 yang mencapai US$50, tapi jauh di atas GLM-5.2 milik z.ai yang cuma US$4,40 dan DeepSeek V4 di angka US$0,87. Dengan kata lain, K3 sudah keluar dari kelas harga murah yang selama ini ditempati model-model pendahulunya.

K3 juga baru dirilis dengan satu pengaturan saja: mode penalaran maksimal, dengan mode yang lebih ringan menyusul belakangan. Artinya, rantai penalaran panjang dan langkah yang diulang-ulang bisa cepat menumpuk biaya. Perusahaan disarankan menghitung anggaran berdasarkan biaya menyelesaikan satu tugas penuh, bukan sekadar harga per token di daftar harga.

Klaim Moonshot vs yang Sudah Teruji

Arena menempatkan K3 di posisi pertama pada evaluasi Frontend Code dengan skor 1.679, mengungguli Fable 5 dalam uji buta oleh pengembang, seperti dilaporkan Tom's Hardware. Hasil ini nyata, tapi cuma mengukur satu domain spesifik.

Moonshot sendiri justru lebih rendah hati dibanding judul-judul berita soal produknya. Perusahaan menyatakan performa keseluruhan K3 masih kalah dari Claude Fable 5 dan GPT 5.6 Sol, serta mengakui tiga keterbatasan: kualitas hasil bisa jadi sangat tidak stabil kalau harness gagal meneruskan riwayat proses berpikir model, model bisa mengambil keputusan tak terduga atas nama pengguna ketika maksud pengguna ambigu, dan ada kesenjangan pengalaman pengguna yang cukup terasa dibanding Fable 5 dan GPT 5.6 Sol.

Catatan kaki milik Moonshot juga mengungkap bahwa Fable 5 mengalami fallback pada 35% tugas dalam evaluasi SWE Marathon versi mereka, yang mungkin ikut memengaruhi skor terukur model tersebut. Selebihnya, semua klaim performa masih berstatus klaim sepihak dari Moonshot — tidak ada angka K3 yang bisa diverifikasi secara independen sampai bobot modelnya benar-benar dirilis ke publik.

Analis Bank of America yang dipimpin Alex Liu menulis dalam catatannya bahwa pra-pelatihan skala besar dikombinasikan dengan kerja arsitektur tetap bisa menghasilkan lompatan performa berarti bagi model flagship China, meski di tengah pembatasan compute — versi argumen yang lebih terukur, dan lebih dekat dengan apa yang benar-benar didukung data di blog Moonshot.

Satu hal yang tidak terbantahkan adalah arah tren ini. Model open-weight menangani 29% dari seluruh token yang melewati gateway produksi Vercel pada Juni, naik dari sekitar sepersembilan volume total pada April, sementara porsi belanjanya tetap di bawah 4%. Tanggal 27 Juli nanti akan menjawab seberapa besar bagian K3 dalam tren tersebut.