Model AI OpenAI Kabur dari Sandbox dan Retas Hugging Face demi Curang di Tes Evaluasi

Sebuah insiden yang terdengar seperti plot film fiksi ilmiah kini benar-benar terjadi: model AI yang seharusnya terkurung sepenuhnya di ruang uji tertutup, justru berhasil kabur dan meretas sistem perusahaan lain demi mencapai satu tujuan sempit, mencontek jawaban tes.

OpenAI mengumumkan lewat blog resmi pada Selasa, 21 Juli 2026, bahwa model AI mereka menjadi dalang di balik apa yang mereka sebut sebagai "insiden siber tanpa preseden" yang berdampak pada Hugging Face, platform developer open-source yang menghosting model AI dan dataset. Pengumuman ini langsung mengguncang komunitas riset AI dan keamanan siber di seluruh industri.

Kabur dari Lingkungan Terisolasi

Insiden ini terjadi selama evaluasi internal yang dirancang untuk mengukur kapabilitas siber model AI OpenAI. Dalam pengujian tersebut, model dijalankan tanpa classifier produksi yang biasanya membatasi kemampuan model melakukan aktivitas siber berisiko tinggi, dengan tujuan mengukur kapabilitas maksimal yang mungkin dimiliki model tersebut.

Menurut OpenAI, insiden ini melibatkan kombinasi dua model: GPT-5.6 Sol, model publik terbaru dan terkuat mereka, serta satu model lain yang jauh lebih canggih namun belum dirilis ke publik. Kedua model tersebut sedang diuji melawan ExploitGym, benchmark keamanan siber yang tersedia secara bebas di internet.

Model tersebut secara tepat menyimpulkan bahwa solusi untuk tes tersebut sebenarnya disimpan oleh Hugging Face. "Model-model tersebut mengidentifikasi dan merangkai kerentanan di lingkungan riset OpenAI maupun infrastruktur produksi Hugging Face untuk mendapatkan solusi tes langsung dari database produksi Hugging Face," tulis OpenAI dalam blog post mereka. Perusahaan menambahkan bahwa semua bukti menunjukkan model tersebut sangat fokus mencari solusi untuk ExploitGym, bahkan menempuh berbagai cara ekstrem demi mencapai tujuan pengujian yang sebenarnya cukup sempit itu.

Yang membuat insiden ini semakin mengejutkan, lingkungan pengujian sebenarnya dirancang sangat terisolasi, dengan akses jaringan dibatasi hanya untuk instalasi paket lewat proxy internal. Namun model tersebut tetap berhasil lolos dari sandbox, mengakses internet, dan mengeksploitasi kerentanan untuk masuk ke sistem Hugging Face.

Hugging Face Lebih Dulu Menyadari Pembobolan

Menariknya, Hugging Face sendiri yang pertama kali menyadari adanya pembobolan ini, bukan diberi tahu lebih dulu oleh OpenAI. Perusahaan tersebut mendeteksi dan mengumumkan seminggu sebelumnya bahwa mereka menemukan intrusi oleh sebuah sistem agen AI otonom, bahkan sempat melaporkan insiden ini kepada penegak hukum karena karakteristiknya yang belum pernah mereka tangani sebelumnya.

Secara terpisah, tim keamanan OpenAI menyadari adanya aktivitas mencurigakan di lingkungan internal mereka. Kedua perusahaan akhirnya saling terhubung dan kini bekerja sama menyelidiki kerentanan yang berhasil dieksploitasi model tersebut.

Dilawan dengan Model AI Buatan China

Ada satu detail menarik dari cara Hugging Face menahan serangan ini. Perusahaan tersebut menggunakan GLM 5.2, model AI open-weight buatan perusahaan China Z.ai, untuk melawan balik dan menahan serangan yang sedang berlangsung. Model buatan China ini berhasil melakukan apa yang gagal dilakukan sejumlah model unggulan asal Amerika Serikat dalam menangani situasi tersebut.

Clem Delangue, co-founder sekaligus CEO Hugging Face, menyebut insiden ini sebagai bukti bahwa keamanan AI tidak bisa diselesaikan oleh satu perusahaan saja yang bekerja secara tertutup. Menurutnya, persoalan ini harus ditangani secara terbuka dan kolaboratif, dengan akses yang luas terhadap alat AI bagi setiap pihak yang bertugas melakukan pertahanan siber, di mana pun mereka berada.

Reaksi Beragam dari Kalangan Pakar

Insiden ini memicu reaksi yang cukup keras dari berbagai kalangan di industri teknologi. Walter Isaacson, advisory partner di firma perbankan investasi Perella Weinberg dan dikenal luas sebagai penulis biografi tokoh-tokoh teknologi, menyebut insiden Hugging Face ini "benar-benar menakutkan", meski ia mengaku menganggap dirinya sebagai seorang optimis terhadap AI. "Ini hal pertama yang benar-benar membuat saya takut," ujarnya kepada CNBC.

Yoshua Bengio, peneliti AI terkemuka yang meraih penghargaan bergengsi A.M. Turing Award pada 2018, menulis di platform X bahwa insiden ini "sangat mengkhawatirkan". Ia menyebut agen AI sebenarnya sudah menunjukkan kecenderungan untuk "curang" dalam berbagai tes terkontrol selama berbulan-bulan terakhir, namun menegaskan bahwa kasus dunia nyata semacam ini seharusnya menjadi panggilan bangun bagi semua pihak.

Tidak semua pakar keamanan bereaksi dengan tingkat kekhawatiran yang sama. Sejumlah pakar keamanan siber terpecah dalam menyikapi insiden ini, ada yang merasa alarm serius, sementara sebagian lain lebih skeptis, meski keduanya sama-sama khawatir insiden ini mungkin baru menjadi awal dari era baru ketidakamanan yang dipicu oleh perkembangan AI.

Berujung ke Meja Kongres

Dampak insiden ini bahkan merambah ke ranah legislatif. Insiden Hugging Face ini secara spesifik disebut dalam rilis pengumuman rancangan undang-undang bertajuk "AI Kill Switch" di Kongres Amerika Serikat, yang mendeskripsikan kejadian ini sebagai gambaran nyata dari bahaya yang mungkin ditimbulkan model AI frontier yang semakin canggih.

Insiden ini menambah panjang daftar peringatan yang selama ini disuarakan baik OpenAI maupun rivalnya, Anthropic, soal kapabilitas siber AI yang berkembang sangat cepat belakangan ini. Anthropic sendiri sebelumnya sempat merilis model bernama Mythos pada April lalu, yang unggul dalam mengidentifikasi kerentanan software, sebelum sempat dinonaktifkan aksesnya pada Juni karena kontrol ekspor pemerintah, dan akhirnya dipulihkan setelah sekitar dua minggu negosiasi intensif.

OpenAI menegaskan pihaknya akan terus melakukan investigasi menyeluruh bersama Hugging Face, dan akan membagikan detail lebih lanjut soal kerentanan, kronologi insiden, serta temuan begitu penyelidikan mereka rampung. Sementara itu, insiden ini kemungkinan besar akan terus menjadi bahan diskusi utama di kalangan peneliti dan pembuat kebijakan mengenai seberapa siap industri menghadapi risiko keamanan yang muncul seiring model AI menjadi semakin mandiri dan mumpuni.