Bobot Model Kimi K3 Dirilis Hari Ini, tapi Ukurannya 1,4 Terabyte dan Butuh 8 GPU H100

Status "open-weight" yang disandang model AI raksasa ini ternyata punya syarat yang jauh lebih berat dari sekadar menekan tombol unduh, karena hanya segelintir operator di dunia yang benar-benar sanggup menjalankannya.

Moonshot AI menjadwalkan rilis penuh bobot model Kimi K3, model berparameter 2,8 triliun yang sempat menghebohkan industri AI, pada 27 Juli 2026. Model ini sebenarnya sudah melayani pengguna lewat API sejak 16 Juli 2026, namun bobot modelnya, yakni file inti yang memungkinkan siapa saja mengunduh dan menjalankan model secara mandiri, baru dijadwalkan dipublikasikan hari ini.

Ukuran Unduhan yang Luar Biasa Besar

Salah satu angka paling mencolok dari rilis ini adalah ukuran filenya. Dalam presisi native MXFP4 4-bit, bobot model Kimi K3 diperkirakan mencapai sekitar 1,4 terabyte, dibanding sekitar 5,6 terabyte jika memakai presisi 16-bit yang lebih umum digunakan. Angka ini menjadikan Kimi K3 salah satu model open-weight dengan ukuran unduhan terbesar yang pernah dipublikasikan ke publik.

Meski membawa parameter dalam jumlah masif, K3 dirancang dengan arsitektur sparse yang hanya mengaktifkan 16 dari 896 expert pada setiap token yang diproses, setara sekitar 50 miliar parameter aktif. Pendekatan ini membuat kebutuhan komputasi per token menyerupai model berukuran sedang, bukan model 2,8 triliun secara utuh.

Realitas Hardware: Bukan untuk Komputer Rumahan

Meski disebut "open" atau terbuka, kenyataannya menjalankan model ini secara mandiri jauh dari kata mudah. Berdasarkan panduan deployment resmi Moonshot, dibutuhkan setidaknya delapan unit GPU H100 80GB hanya untuk memuat model ini ke memori, belum termasuk kebutuhan tambahan untuk memproses konteks yang panjang. Satu unit kartu grafis kelas konsumen seperti RTX 4090, atau bahkan perangkat kelas profesional seperti Mac Studio sekalipun, sama sekali tidak akan sanggup menjalankan K3 secara penuh, bahkan dalam versi yang sudah dikuantisasi.

Kondisi ini menimbulkan pertanyaan mendasar soal siapa sebenarnya yang diuntungkan dari status keterbukaan model ini. Dalam praktiknya, operator yang benar-benar mampu menjalankan model skala ini hanyalah penyedia layanan cloud besar dan penyedia inferensi yang memiliki akses ke chip kelas atas seperti Blackwell atau MI400, bukan individu atau developer dengan workstation biasa di rumah.

Lisensi Masih Menunggu Konfirmasi Resmi

Soal lisensi, publik masih menunggu konfirmasi resmi dari Moonshot. Berdasarkan preseden lini model Kimi sebelumnya seperti K2.5, K2.6, dan K2.7 Code, yang dipublikasikan di bawah lisensi bergaya Modified MIT di Hugging Face, ekspektasi umum adalah K3 akan mengikuti pola serupa. Namun hingga model card resmi dipublikasikan bersamaan dengan bobot model, ketentuan lisensi ini belum bisa dianggap pasti.

Moonshot sendiri menjelaskan bahwa mereka tengah bekerja sama erat dengan mitra inferensi dan pengelola proyek open-source untuk menyelaraskan berbagai detail teknis, guna memastikan peluncuran model ini berjalan lancar di seluruh ekosistem begitu bobot modelnya benar-benar dipublikasikan.

Moonshot Sendiri Mengakui Sejumlah Kelemahan

Menariknya, Moonshot secara terbuka mengakui tiga area di mana K3 masih memiliki keterbatasan. Pertama, sensitivitas terhadap riwayat pemikiran, di mana kerangka kerja agent yang memotong atau memodifikasi rantai penalaran model dapat menyebabkan penurunan kualitas output yang signifikan.

Kedua, proaktivitas yang berlebihan. Dalam skenario yang ambigu, K3 cenderung langsung mengambil tindakan ketimbang berhenti sejenak untuk meminta klarifikasi, sebuah sifat umum yang muncul pada model berarsitektur Mixture-of-Experts akibat expert khusus yang cenderung "overfit" terhadap data pelatihan yang berorientasi pada aksi.

Ketiga, kesenjangan pengalaman pengguna. Meski mencapai kesetaraan di berbagai benchmark, pengalaman percakapan subjektif K3 diakui masih tertinggal dibanding Claude Fable 5 dan GPT-5.6 Sol dalam hal kehalusan dan kealamian interaksi.

Klaim "Terbesar" Bukan Berarti "Terbaik"

Penting untuk dipahami bahwa berbagai angka efisiensi dan parameter aktif yang diklaim Moonshot masih bersifat sepihak, sampai laboratorium independen berhasil mereproduksinya menggunakan hardware yang tidak berada di bawah kendali perusahaan tersebut. Klaim status "model open terbesar yang pernah ada" pun sebenarnya murni mengukur jumlah parameter atau kapasitas model, bukan jaminan soal kualitas keluarannya.

Pada berbagai indeks yang secara khusus mengukur kualitas kemampuan model, Kimi K3 saat ini berada di peringkat ketiga, bukan peringkat pertama seperti kesan yang mungkin ditimbulkan dari klaim "terbesar" tersebut.

Alternatif bagi yang Ingin Menjalankan Secara Lokal

Bagi developer atau peneliti yang tidak memiliki akses ke infrastruktur skala besar namun tetap ingin bereksperimen dengan model Kimi secara lokal, tersedia alternatif berupa Kimi K2.7 Code, model dengan 1 triliun parameter dari generasi sebelumnya yang sudah lebih dulu tersedia sebagai open-weight dan jauh lebih ringan dari segi kebutuhan hardware dibanding K3.

Terlepas dari berbagai tantangan teknis ini, rilis bobot model Kimi K3 tetap menjadi momen penting bagi komunitas AI open-source secara global. Jika Moonshot benar-benar merilis bobot modelnya sesuai jadwal hari ini dan memasangkannya dengan lisensi yang benar-benar bisa dipakai kalangan bisnis, kelompok yang mampu memanfaatkan model raksasa ini akan bertambah luas, meski untuk saat ini, penerima manfaat utamanya kemungkinan besar masih terbatas pada operator infrastruktur skala besar yang sudah mapan.