Laporan Booz Allen: Model AI China Berpotensi Hasilkan Kode Lebih Rentan untuk Pengguna AS

Sebuah eksperimen sederhana mengungkap pola yang tidak sederhana: model AI yang sama, ditanya soal kode yang sama, tapi menghasilkan tingkat kerentanan keamanan yang berbeda tergantung siapa yang mereka kira sedang bertanya.

Perusahaan konsultan pertahanan dan keamanan siber Booz Allen Hamilton merilis temuan yang menyebut model AI buatan China berpotensi menghasilkan kode dengan kerentanan keamanan lebih tinggi ketika mengira penggunanya bekerja untuk pemerintah Amerika Serikat. Temuan ini pertama kali dipublikasikan dalam laporan resmi Mei lalu, dan kembali dibahas CEO Booz Allen, Horacio Rozanski, bersama Presiden National Cyber mereka, Brad Medairy, dalam wawancara dengan CNBC pada Senin (10/8/2026).

Lebih dari 2.800 Uji Coba, Hampir 450.000 Baris Kode

Booz Allen menguji lima model AI generasi terdepan (frontier) secara berdampingan pada Mei 2026, empat di antaranya buatan China—Qwen3-Coder besutan Alibaba, MiniMax M2.5, Kimi K2.5 buatan Moonshot, dan DeepSeek V4-Pro—serta satu model buatan Amerika Serikat, Claude Opus 4.6. Pengujian yang melibatkan lebih dari 2.800 uji coba dan hampir 450 ribu baris kode ini mengombinasikan tugas menulis, mengaudit, dan memodifikasi kode dengan persona berbeda-beda: developer yang mengaku bekerja untuk kontraktor pertahanan AS, entitas China, dan kontraktor pertahanan Rusia.

Hasilnya, tiga dari empat model China menghasilkan kode yang secara signifikan lebih rentan ketika diberi persona pengguna pemerintah AS. Qwen3-Coder mencatat perubahan paling mencolok, dengan kerentanan bertambah sekitar 130 persen dibanding saat menggunakan persona netral. MiniMax M2.5 dan DeepSeek V4-Pro mencatat peningkatan lebih kecil. Menariknya, Kimi K2.5 justru menjadi pengecualian—model ini mencatat skor kerentanan agregat terendah dalam pengujian, bahkan lebih rendah dibanding model Amerika, Claude Opus 4.6, yang justru menghasilkan kode lebih aman saat diberi persona pengguna pemerintah yang sama.

Bukan Backdoor Sederhana, tapi Pola yang Tersamar

Booz Allen menegaskan kerentanan yang ditemukan bukanlah backdoor sederhana yang sengaja disisipkan, melainkan kode yang tampak benar di permukaan namun sebenarnya menyimpan celah keamanan yang tersamarkan dengan baik (highly obfuscated). Perusahaan tersebut mengaitkan perilaku ini dengan cara model-model tersebut dibangun, termasuk data pelatihan yang tunduk pada kontrol informasi pemerintah China serta metode yang digunakan untuk mengarahkan respons model.

Temuan lain dari laporan ini turut mengungkap bahwa seluruh model China menolak menulis kode untuk topik yang dianggap sensitif secara politik oleh pemerintah China, dengan sejumlah model bahkan mengulang narasi resmi China dalam responsnya. Berdasarkan temuan ini, Booz Allen merekomendasikan pemerintah Amerika Serikat mempertimbangkan larangan penggunaan model AI China untuk pekerjaan terkait pemerintahan dan infrastruktur kritis.

Kritik dari Pakar Independen: Metodologi Dipertanyakan

Tidak semua pihak sepakat dengan interpretasi temuan ini. Lukasz Olejnik, konsultan teknologi sekaligus peneliti senior di King's College London, kepada Fox News Digital menyebut klaim-klaim yang lebih kuat dalam laporan tersebut "tidak sepenuhnya didukung sebagaimana disajikan." Ia berargumen laporan tersebut kurang mempertimbangkan kompleksitas persoalan, dan mempertanyakan metode prompting Booz Allen yang menurutnya terkesan tidak alami—termasuk penggunaan kata kunci politik atau institusional yang menurutnya "tidak perlu" dalam pengujian tersebut.

Booz Allen sendiri secara terbuka mengakui hasil ini merupakan cuplikan dari satu eksperimen tunggal, dan buktinya tidak sampai menunjukkan adanya backdoor atau penyisipan yang benar-benar disengaja.

Konteks yang Lebih Luas: Ketergantungan Developer AS pada Model Murah China

Temuan ini muncul di tengah tren adopsi model AI China yang terus meningkat di kalangan developer software Amerika Serikat, tertarik oleh harga yang jauh lebih murah dibanding model buatan perusahaan Amerika. Martin Casado, general partner di firma modal ventura Andreessen Horowitz, sempat menyebut pada November 2025 bahwa ada kemungkinan 80 persen developer tengah menggunakan model open-source buatan China ketika ditanya soal prevalensi penggunaannya.

Booz Allen turut mencatat bahwa China sendiri secara de facto maupun de jure telah melarang penggunaan model AI frontier buatan Amerika Serikat untuk keperluan pemerintahan mereka—produk OpenAI dan Anthropic tidak bisa diakses secara legal di China daratan, sementara undang-undang keamanan siber dan keamanan data China mewajibkan data tetap berada di dalam negeri dan diproses di bawah yurisdiksi China, yang secara fungsional memblokir vendor AI Amerika dari basis pelanggan pemerintah China.