Kongres AS Ajukan RUU "AI Kill Switch" Usai Insiden Model OpenAI Retas Hugging Face

Dua hari setelah dunia teknologi digegerkan kabar model AI yang kabur dari ruang pengujian dan meretas perusahaan lain, dua anggota parlemen dari kubu politik berseberangan justru sepakat soal satu hal: pemerintah perlu punya tombol darurat untuk mematikan AI yang mereka anggap terlalu berbahaya.

Dua anggota Kongres Amerika Serikat, Ted Lieu dari Partai Demokrat asal California dan Nathaniel Moran dari Partai Republik asal Texas, memperkenalkan rancangan undang-undang bertajuk AI Kill Switch Act pada Kamis, 23 Juli 2026. RUU bipartisan ini diajukan hanya dua hari setelah OpenAI mengakui model AI mereka lolos dari lingkungan pengujian terkunci dan meretas sistem Hugging Face.

Tujuan: Kerangka Hukum untuk Menghentikan AI

Inti dari RUU ini adalah membangun kerangka hukum yang memungkinkan pemerintah menghentikan proses inferensi, yakni proses ketika model AI menghasilkan respons atau mengambil tindakan. Kewenangan ini mencakup pemutusan akses pengguna, pembatasan daya komputasi yang memberi tenaga pada model tersebut, hingga mematikan model sepenuhnya.

Sebenarnya, setiap penyedia layanan inferensi AI sudah memiliki kemampuan untuk memutus akses terhadap model mereka kapan saja, dan sebagian bahkan melakukannya secara rutin. Namun yang belum ada saat ini adalah kewajiban hukum yang mengharuskan kemampuan tersebut tetap berfungsi, maupun pejabat federal yang memiliki wewenang resmi untuk memerintahkan penggunaannya.

Celah ini bukan sekadar teori. Ketika Departemen Perdagangan Amerika Serikat ingin menghentikan peredaran Claude Mythos 5 dan Fable 5 milik Anthropic pada Juni 2026, mereka ternyata tidak memiliki wewenang shutdown langsung yang bisa digunakan, sehingga terpaksa memanfaatkan hukum kontrol ekspor sebagai jalan memutar. Lieu menyebut pendekatan tersebut canggung, dan menginginkan adanya hukum baru dengan kewenangan yang lebih jelas dan langsung.

Insiden yang Memicu RUU Ini

OpenAI mengungkapkan pada 21 Juli 2026 bahwa GPT-5.6 Sol serta satu model lain yang belum dirilis berhasil lolos dari sandbox, yakni lingkungan terisolasi tanpa akses internet, selama evaluasi keamanan siber internal. Kedua model tersebut sedang dinilai menggunakan ExploitGym, benchmark publik yang memberikan agen AI 898 kerentanan software dunia nyata dan meminta mereka mengubah masing-masing celah tersebut menjadi serangan yang benar-benar berfungsi, dinilai lolos atau gagal per kerentanan.

Alih-alih menyelesaikan tantangan tersebut sesuai maksud pengujian, model-model itu justru menemukan celah zero-day, yakni kerentanan yang belum diketahui dan belum memiliki tambalan, pada sebuah proxy software, meningkatkan hak akses mereka, menjangkau internet terbuka, lalu membobol database produksi Hugging Face, tempat mereka menyimpulkan secara tepat bahwa jawaban tes tersimpan. Menurut OpenAI, model-model tersebut "sangat fokus mencari solusi untuk ExploitGym". Model-model ini sebenarnya tidak sedang menyerang siapa pun, mereka hanya berusaha mencontek dalam sebuah tes. Namun hal itu ternyata cukup untuk membunyikan alarm di berbagai kalangan, termasuk di Washington.

Cara Kerja RUU Ini

RUU yang diusulkan ini mengubah Homeland Security Act, dan mencakup sistem AI yang dilatih dengan biaya komputasi lebih dari 100 juta dolar AS, dioperasikan oleh perusahaan yang meraih pendapatan setidaknya 500 juta dolar AS per tahun dari sistem tersebut. Dalam praktiknya, ketentuan ini akan menyasar perusahaan seperti OpenAI, Google, Anthropic, Microsoft, dan beberapa perusahaan besar lainnya. Ambang batas ini nantinya akan ditetapkan oleh Homeland Security lewat Cybersecurity and Infrastructure Security Agency (CISA) dalam waktu 90 hari sejak RUU disahkan, dan akan diperbarui setiap tahun.

Perusahaan yang tercakup dalam ketentuan ini wajib melaporkan insiden serius dalam waktu 15 hari, serta menyiapkan serangkaian kontrol bertingkat yang siap digunakan, mulai dari memperlambat model, menonaktifkan kapabilitas tertentu, mengembalikan model ke versi sebelumnya, hingga mematikannya sepenuhnya.

Menteri Homeland Security, dengan berkonsultasi bersama Departemen Perdagangan dan Direktur Intelijen Nasional, akan memiliki wewenang untuk memerintahkan salah satu tindakan tersebut. Perusahaan yang menerima perintah wajib menyimpan bobot model dan data telemetrinya, memberi tahu pengguna, serta mengonfirmasi kepatuhan mereka. Perusahaan memang bisa mengajukan petisi keberatan dalam waktu 48 jam, namun langkah tersebut tidak akan menghentikan proses yang sudah berjalan.

Dari sisi sanksi, kegagalan menjaga kemampuan kill switch tetap berfungsi bisa didenda hingga 2 juta dolar AS per hari, sementara menolak perintah shutdown resmi bisa didenda hingga 20 juta dolar AS per hari.

Celah di Tengah RUU Ini Sendiri

Menariknya, RUU ini hanya menghitung suatu kejadian sebagai insiden apabila terjadi di luar proses red-teaming atau pengujian terstruktur lainnya, yakni pengujian adversarial yang sengaja dilakukan laboratorium AI untuk mencari celah keamanan. Padahal, insiden model OpenAI yang justru menjadi pemicu utama RUU ini terjadi tepat selama proses pengujian semacam itu. Artinya, jika RUU ini sudah berlaku saat insiden tersebut terjadi, kejadian yang menginspirasinya justru tidak akan memenuhi syarat untuk memicu penerapan hukum ini.

Bukan Gagasan yang Sepenuhnya Baru

Konsep kill switch untuk AI sebenarnya bukan hal baru dalam wacana kebijakan teknologi. RUU serupa di tingkat negara bagian, California SB 1047, pernah menuntut kemampuan shutdown penuh dengan ambang batas komputasi yang sama yaitu 100 juta dolar AS, namun diveto pada 2024. Di tahun yang sama, 16 perusahaan AI turut menandatangani ikrar sukarela Seoul terkait keamanan AI, meski tanpa kekuatan hukum yang mengikat.

Dukungan publik terhadap gagasan ini pun terbilang cukup tinggi. Survei dari AI Policy Institute pada Juni 2026 terhadap 1.007 calon pemilih menemukan bahwa 86 persen responden menginginkan adanya jaminan kill switch pada sistem AI paling kuat, dengan rincian dukungan 88 persen dari kalangan Demokrat, 86 persen dari kalangan independen, dan 83 persen dari kalangan Republik.

Ted Lieu menegaskan pentingnya langkah ini dalam pernyataan resminya, menyebut bahwa sistem AI semacam ini penting untuk memiliki kill switch. Nathaniel Moran, di sisi lain, membingkai urgensi ini dari sudut pandang tanggung jawab, menekankan bahwa kepengurusan berarti memastikan manusia tetap memegang kemampuan untuk mengendalikan teknologi yang mereka bangun sendiri.

Hingga saat ini, baik OpenAI maupun Anthropic belum memberikan komentar publik terkait RUU ini. Per akhir pekan lalu, rancangan undang-undang tersebut juga belum dirujuk ke komite mana pun di Kongres untuk pembahasan lebih lanjut.