Kepala Ilmuwan OpenAI: "Tidak Ada yang Siap Hadapi Konsekuensi Kemajuan AI yang Begitu Cepat"

Baru beberapa hari setelah perusahaannya sendiri merilis model paling canggih yang pernah dibuat, justru kepala ilmuwannya sendiri yang mengibarkan bendera peringatan.

Kepala Ilmuwan (Chief Scientist) OpenAI, Jakub Pachocki, menyerukan "kehati-hatian ekstrem" (extreme caution) terhadap laju kemajuan kecerdasan buatan (AI) yang menurutnya melaju tak terkendali. Dalam sebuah tulisan blog berjudul "An Alien Mind" yang dipublikasikan pekan ini, Pachocki memperingatkan bahwa mungkin diperlukan intervensi lebih jauh untuk memastikan "manusia tetap memegang kendali atas masa depan."

"Saya Khawatir Tidak Ada yang Siap"

"Saya khawatir tidak ada yang siap menghadapi konsekuensi dari kebangkitan pesat berkelanjutan kecerdasan mesin," tulis Pachocki dalam blog tersebut. "Kita tengah menghadapi transisi menuju dunia dengan mesin yang luar biasa cerdas, dan kita perlu memastikan transisi itu berjalan baik bagi umat manusia."

Menurutnya, jika perkembangan AI terus berjalan pada jalur saat ini, sistem-sistem yang akan muncul dalam beberapa tahun mendatang kemungkinan besar akan mewakili lompatan kemampuan yang setara atau bahkan lebih besar lagi, dan semakin mampu mendorong pengembangan dirinya sendiri secara mandiri. "Ini adalah masa yang menuntut kehati-hatian ekstrem," tegasnya.

AI Tak Perlu Melampaui Manusia di Semua Bidang untuk Jadi Berbahaya

Pachocki berargumen bahwa AI tidak perlu melampaui kemampuan manusia di setiap bidang untuk menjadi sangat berguna sekaligus sangat berbahaya. Seiring model AI mengungguli manusia di makin banyak bidang, memahami kemampuan sesungguhnya dari sistem tersebut justru berpotensi menjadi semakin sulit — sebuah kekhawatiran yang ia sebut sebagai inti dari alasan mengapa dunia perlu bersikap sangat hati-hati saat ini.

Kekhawatiran Utama: Recursive Self-Improvement

Salah satu kekhawatiran terbesar yang disoroti Pachocki adalah potensi recursive self-improvement — kondisi di mana sistem AI berpotensi ikut berkontribusi mempercepat pengembangan versi AI berikutnya secara mandiri. Ia menyatakan memiliki ekspektasi kuat bahwa laju kemajuan saat ini bisa terus merambah ke arah tersebut, menciptakan apa yang ia sebut sebagai "bahaya baru yang jelas".

Menyerukan Perlambatan Sukarela dan Koordinasi Internasional

Pachocki menyatakan berharap dan mengharapkan perlambatan sukarela (voluntary slowdowns) menjadi hal yang lumrah dilakukan industri AI, hingga standar keamanan bersama benar-benar berhasil ditetapkan. Ia juga menegaskan bahwa koordinasi internasional soal pengembangan AI ke depan perlu menjadi prioritas utama bagi pemerintah di seluruh dunia.

Menurutnya, prioritas utama OpenAI ke depan adalah membangun "peneliti AI otomatis" (automated AI researcher) guna mengimbangi laju kemajuan AI, sembari tetap memastikan peneliti manusia bisa terus menjadi bagian dari proses tersebut. OpenAI juga menyatakan akan terus membangun "sistem pertahanan" (defensive systems) dan mencari solusi teknis untuk masalah alignment — istilah yang merujuk pada upaya memastikan tindakan dan tujuan mesin benar-benar selaras dengan maksud dan batasan keamanan yang diinginkan manusia.

Muncul Tak Lama Setelah Peluncuran GPT-6 Astra

Peringatan ini muncul hanya beberapa hari setelah OpenAI merilis model terbarunya, GPT-6 Astra, yang disebut perusahaan sebagai produk paling canggih yang pernah mereka buat — dengan Presiden OpenAI Greg Brockman bahkan menyatakan industri kini telah memasuki "era AGI" (kecerdasan umum buatan). Pachocki menyatakan OpenAI meyakini Astra secara signifikan lebih selaras (aligned) dibanding model-model sebelumnya, meski tetap mengakui adanya keterbatasan pada pendekatan goal alignment dan value alignment yang mereka terapkan.

Kritik: Peringatan Tanpa Transparansi Berisiko Dianggap Sekadar Hype

Peringatan Pachocki ini turut menuai respons kritis dari sejumlah pengamat kebijakan AI. Nathan Calvin, general counsel dari organisasi advokasi Encode AI, menyatakan sepakat dengan Pachocki soal bahaya yang mengintai dalam pengembangan model AI canggih, namun menilai OpenAI enggan bersikap transparan — kondisi yang menurutnya membuat peringatan semacam ini berisiko dianggap sekadar "hype yang mementingkan diri sendiri".

"Jika Jakub dan pihak lain di OpenAI ingin pelaku industri AI yang relevan bertindak selaras dengan mereka demi memastikan segalanya berjalan baik, salah satu hal terpenting yang bisa mereka lakukan adalah membagikan jauh lebih banyak informasi soal apa yang mereka lihat yang membuat mereka menyerukan kehati-hatian ini," kata Calvin.

Profesor Gina Neff, kepala Minderoo Centre for Technology and Democracy di University of Cambridge, turut memberikan catatan kritis. Menurutnya, alih-alih mengusulkan pagar pengaman (guardrail) AI yang lebih baik, regulasi, atau jaminan keamanan bagi masyarakat luas, OpenAI justru mengusulkan pengembangan agen AI internal untuk meneliti masalah-masalah tersebut — pendekatan yang menurutnya masih menyisakan pertanyaan soal sejauh mana solusi itu benar-benar independen dari kepentingan komersial perusahaan sendiri.

Terlepas dari perdebatan soal ketulusan dan transparansi di balik peringatan ini, pernyataan Pachocki menegaskan bahwa bahkan di internal salah satu perusahaan AI terdepan dunia, kekhawatiran soal laju perkembangan teknologi yang mereka bangun sendiri kini semakin sulit diabaikan.