CEO ANZ Peringatkan Risiko AI Tak Terduga, Tak Jamin Bebas PHK Massal

Kekhawatiran soal AI yang lepas kendali kini bukan cuma milik peneliti dan CEO perusahaan AI, tapi mulai merambah ke bos-bos bank besar yang harus memutuskan seberapa jauh mereka mengandalkan teknologi ini.

Chief Executive Officer ANZ Group Holdings Ltd., Nuno Matos, memperingatkan soal risiko kecerdasan buatan (AI) yang meningkat dan sulit diprediksi, sekaligus tidak menampik kemungkinan pemutusan hubungan kerja (PHK) berskala besar di bank tersebut seiring adopsi teknologi yang berkembang pesat ini. Pernyataan ini disampaikan Matos dalam Australian Financial Review Asia Summit di Sydney, Selasa (15/9/2026).

"AI Menciptakan Risiko Jauh Lebih Cepat dari yang Diperkirakan Pembuatnya Sendiri"

"Pada titik ini, AI menciptakan risiko dengan laju yang jauh lebih tinggi dibanding yang dipikirkan oleh para pembuat dan pengembangnya sendiri," kata Matos. Pernyataan ini muncul tak lama setelah tiga tokoh besar industri AI — Dario Amodei, Sam Altman, dan Elon Musk — secara terbuka menyerukan perlambatan pengembangan AI generasi terdepan.

Berawal dari Esai Dario Amodei soal Ancaman "Botnet Swarm"

Peringatan Matos ini menyusul esai panjang CEO Anthropic Dario Amodei yang dipublikasikan Sabtu lalu, yang menyerukan perlambatan pengembangan sistem AI paling canggih guna mencegah teknologi tersebut lepas dari kendali manusia. Amodei bahkan memperingatkan potensi sekawanan botnet AI (AI botnet swarm) yang bisa mengambil alih seluruh internet dalam kurun waktu enam hingga 12 bulan ke depan, dengan potensi kerugian mencapai ratusan miliar dolar AS — dan skala kerusakan itu akan terus membesar jika AI menjadi semakin kuat tanpa pengamanan yang memadai.

Amodei mengusulkan agar perusahaan-perusahaan AI memberi akses kepada evaluator independen yang setara dengan akses karyawan, guna memverifikasi praktik keamanan dan melaporkan insiden yang terjadi. "Anthropic secara sepihak berkomitmen pada langkah ini sekarang," katanya, meski ia mengakui langkah-langkah lain memerlukan koordinasi luas di seluruh industri dan dengan pemerintah di seluruh dunia, termasuk negara-negara otoriter.

Musk dan Altman Kompak Mendukung: "Dario Benar"

Merespons esai Amodei di X, Elon Musk menulis singkat: "Dario benar." Musk sendiri telah lama menyuarakan kekhawatiran soal AI, bahkan sejak 2014 sempat menulis bahwa AI berpotensi "lebih berbahaya dari senjata nuklir". CEO OpenAI Sam Altman turut menyatakan sepakat dengan Amodei soal perlunya "mengatur ritme" (pace) pengembangan AI generasi terdepan, menyebut topik tersebut telah menjadi bahan diskusi utama internal OpenAI dalam beberapa pekan terakhir, sekaligus berkomitmen menerapkan langkah evaluasi independen serupa.

Trump Anggap Kekhawatiran Ini Berlebihan

Presiden Donald Trump menampik peringatan-peringatan ini sebagai sesuatu yang berlebihan, di tengah upaya Amerika Serikat mempertahankan keunggulannya dalam perlombaan teknologi melawan China. Sikap ini menciptakan ketegangan yang menarik: para bos perusahaan AI justru mendorong perlambatan, sementara pemerintahan yang berkuasa tetap optimistis mengejar kecepatan pengembangan penuh.

Anthropic Sendiri Menaikkan Level Risiko AI dari "Sangat Rendah" ke "Rendah"

Perdebatan ini muncul di saat yang krusial bagi Anthropic, yang tengah bersiap menghadapi potensi IPO, dan setelah OpenAI menunda rencana listing mereka sendiri. Anthropic bulan lalu menaikkan level penilaian risiko AI mereka dari "sangat rendah" menjadi "rendah" — perubahan kecil namun simbolis yang menegaskan keseriusan kekhawatiran ini bahkan di internal perusahaan yang justru menjadi sumber peringatan tersebut.

Bukan Kali Pertama Altman dan Musk Bersuara soal Risiko Eksistensial AI

Altman sebenarnya telah memperingatkan risiko AI jauh sebelum ledakan AI saat ini dimulai. Dalam esai 2015 berjudul "Machine Intelligence, part 1", ia menulis bahwa "pengembangan kecerdasan mesin yang melampaui manusia mungkin merupakan ancaman terbesar bagi kelangsungan eksistensi umat manusia." Musk sendiri turut menjadi salah satu pendukung dorongan Future of Life Institute pada 2023 untuk menghentikan pengembangan AI selama enam bulan guna memberi waktu membangun pengamanan keselamatan.

Kekhawatiran soal Pekerjaan Turut Membayangi

Selain risiko keamanan eksistensial, kekhawatiran soal dampak AI terhadap lapangan kerja turut menjadi sorotan. Amodei sendiri sebelumnya berulang kali memperingatkan AI berpotensi menghapus hingga 50 persen pekerjaan level pemula (entry-level) di kantor dalam lima tahun ke depan, berpotensi mendorong tingkat pengangguran ke kisaran 10-20 persen. Menurutnya, banyak CEO secara pribadi memandang AI sebagai cara memangkas biaya lewat pengurangan tenaga kerja, bukan sekadar meningkatkan produktivitas pekerja yang ada.

Pertanyaan Besar: Perlambatan Sukarela atau Regulasi Wajib?

Dengan pernyataan Matos ini menambah daftar suara dari kalangan eksekutif nonteknologi yang mulai secara terbuka mengakui risiko tak terduga dari AI, perdebatan besar yang tersisa adalah apakah komitmen sukarela dari perusahaan-perusahaan AI sudah cukup untuk mengelola risiko ini, atau apakah regulasi wajib dari pemerintah pada akhirnya tak terelakkan — terlebih di tengah sikap pemerintahan Trump yang masih menunjukkan keengganan untuk memperlambat laju inovasi demi mempertahankan keunggulan kompetitif global.