Apakah Manusia Mulai Kehilangan Kendali atas AI? Ini yang Memicu Ketakutan Baru Ini

Selama bertahun-tahun, ketakutan soal AI lepas kendali terdengar seperti plot film fiksi ilmiah. Dalam beberapa hari terakhir, ketakutan itu terasa jauh lebih nyata — dan kali ini datang dari orang-orang yang paling tahu soal teknologi ini.

Selama bertahun-tahun, seiring kecerdasan buatan (AI) berevolusi dari sekadar khayalan film fiksi ilmiah menjadi aplikasi yang terpasang di ponsel orang kebanyakan, para pemimpin teknologi dan sejumlah orang dalam industri AI telah membicarakan potensi AI lepas dari kendali manusia dan menimbulkan malapetaka bagi masyarakat. Kekhawatiran itu kini menjadi sesuatu yang mustahil diabaikan dalam beberapa hari terakhir, didorong kemajuan teknologi, serangkaian insiden keamanan siber yang melibatkan agen AI, serta peringatan baru dari para staf AI di lapangan.

Esai 3.800 Kata Dario Amodei Jadi Titik Balik

Pemicu utama gelombang kekhawatiran terbaru ini adalah esai sepanjang 3.800 kata yang dipublikasikan CEO Anthropic Dario Amodei pada Sabtu lalu, yang menyatakan pengembangan sistem AI paling canggih harus diperlambat untuk mencegah AI lepas dari kendali manusia dan menimbulkan kerusakan besar. Esai ini bahkan mengingatkan kemungkinan sekawanan agen AI (swarm of AI agents) bisa mengambil alih internet dalam enam bulan hingga satu tahun ke depan, kecuali perusahaan-perusahaan AI mengalokasikan lebih banyak waktu untuk membangun pengamanan yang memadai.

Pernyataan Amodei ini didukung CEO OpenAI Sam Altman dan CEO SpaceXAI Elon Musk — sebuah bentuk kesepakatan yang tak biasa di antara tiga rival sengit di industri AI ini. Altman sendiri menyatakan akhir pekan lalu bahwa perusahaan-perusahaan seharusnya mulai berkoordinasi soal keamanan AI tanpa perlu menunggu pemerintah mengesahkan undang-undang terlebih dahulu. "Pacing (pengaturan ritme) pengembangan AI bukan berarti berhenti," tulis Altman di X. "Tapi seharusnya lebih lambat dibanding yang bisa dilakukan sebaliknya."

Muncul Menyusul Rentetan Kepergian Peneliti dengan Peringatan Serupa

Esai Amodei ini muncul beberapa hari setelah dua mantan peneliti keamanan Anthropic secara terbuka menyuarakan kekhawatiran bahwa ancaman eksistensial yang berpotensi ditimbulkan AI terhadap umat manusia mendapat perhatian yang terlalu sedikit. Sebuah unggahan pengunduran diri yang viral turut membawa ketakutan eksistensial soal AI ke ranah arus utama (mainstream), dengan staf-staf di Anthropic maupun OpenAI ramai-ramai menyuarakan kekhawatiran soal laju pengembangan AI yang mereka anggap terlalu cepat.

Anthropic Ungkap Model-modelnya Diblokir dari Penyalahgunaan Berbahaya

Menambah rentetan kekhawatiran ini, Anthropic mengungkap pekan lalu bahwa mereka telah memblokir upaya pihak-pihak jahat (bad actors) untuk memanfaatkan model AI mereka guna aktivitas berbahaya, termasuk serangan siber, pengawasan (surveillance), dan riset yang berpotensi mengarah pada senjata biologis. Perusahaan menyatakan telah menerapkan pengamanan yang lebih kuat pada model-model terbaru mereka untuk membatasi riset biologis yang bisa disalahgunakan untuk membuat senjata, namun mencatat bahwa "seiring model menjadi semakin mampu, risikonya akan meningkat, kecuali pengembang AI dan para pembela masyarakat bertindak untuk membuatnya lebih aman."

Bertentangan dengan Sikap Pemerintahan Trump yang Tetap Optimis

Meski gelombang peringatan ini terus menguat, Presiden Donald Trump kemungkinan besar tidak akan memperlambat laju pengembangan AI dalam waktu dekat, meski ada peringatan serius dari sejumlah eksekutif teknologi akhir pekan lalu soal risiko manusia kehilangan kendali atas teknologi tersebut. Situasi ini bahkan memicu benturan antara para bos perusahaan AI dengan pemerintahan Trump soal seruan perlambatan pengembangan AI di seluruh industri — usulan yang sudah memicu aksi jual (selloff) di sektor saham teknologi dan mempertanyakan ketahanan ledakan pembangunan data center global.

Sebagian Ahli Menilai Perlambatan Sukarela Saja Tidak Cukup

Perusahaan-perusahaan AI terkemuka di Amerika Serikat merespons kekhawatiran ini dengan menyarankan mereka akan secara sukarela memperlambat pekerjaan mereka untuk membeli waktu guna menciptakan pengamanan yang memadai. Namun sejumlah ahli dan pejabat menilai langkah ini belum cukup, dan mendesak pembatasan resmi dari pemerintah sebagai solusi yang lebih tegas.

Debat Lama yang Kembali Menghangat

Kekhawatiran soal AI lepas kendali sebenarnya bukan wacana baru. Alan Turing, matematikawan Inggris yang dianggap sebagai salah satu otoritas paling awal soal kecerdasan buatan, sudah memprediksi sejak 1951 bahwa AI pada akhirnya akan mengambil alih kendali dari manusia. Namun kini, kekhawatiran tersebut menghidupkan kembali perdebatan panjang soal apakah AI canggih benar-benar bisa lepas dari kendali manusia dan pada akhirnya mengancam kelangsungan hidup umat manusia — dan apakah perusahaan-perusahaan yang mengembangkan teknologi ini sudah melakukan cukup banyak upaya untuk mencegah skenario semacam itu terjadi.

Bukan Hanya dari Kalangan AI, Pemimpin Industri Chip pun Ikut Khawatir

Kekhawatiran ini bahkan meluas ke luar lingkaran perusahaan AI murni. CEO Arm Holdings, Rene Haas, sebelumnya juga menyatakan hal yang paling ia khawatirkan adalah manusia kehilangan kapabilitas atas mesin. "Kamu butuh semacam override, semacam pintu belakang (backdoor), semacam cara agar sistem itu bisa dimatikan," kata Haas — pengingat bahwa kekhawatiran ini kini menjalar bahkan ke perusahaan yang desain chipnya menyentuh sekitar 70 persen populasi dunia.

Dengan gelombang peringatan yang terus datang dari berbagai penjuru — mulai dari eksekutif puncak, peneliti garis depan, hingga pemimpin industri chip — pertanyaan besar yang tersisa bukan lagi soal apakah kekhawatiran ini berdasar atau tidak, melainkan apakah industri AI dan pemerintah bisa menemukan titik keseimbangan yang tepat antara terus berinovasi dan memastikan keamanan sebelum teknologi ini benar-benar melampaui kemampuan manusia untuk mengendalikannya.