BALI — Jacob Coxon, peneliti yang pernah bekerja di OpenAI dan Anthropic, memutuskan keluar dari Anthropic pekan ini. Alasannya bukan soal karier, melainkan peringatan serius soal masa depan kecerdasan buatan.
"AI dapat membunuh kita semua akhir dekade ini. Ini akan segera menjadi sistem manusia super yang dapat meretas apa saja, merevolusi bidang apa pun dalam semalam, serta memperoleh kekuasaan dan sumber daya nyata," ujarnya.
Peringatan Coxon bukan suara tunggal. Sepanjang 2026, kekhawatiran serupa disuarakan sejumlah tokoh pengembangan AI, termasuk CEO OpenAI Sam Altman dan petinggi Anthropic Dario Amodei. Para ahli mulai memetakan skenario konkret bagaimana AI bisa lepas kendali.
Infrastruktur Kritis Jadi Titik Lemah Pertama
Hampir seluruh pekerjaan manusia kini bergantung pada internet, domain yang paling mudah diakses AI. Stuart Russell, profesor ilmu komputer di UC Berkeley, menyebut sistem AI dapat menyerang jaringan listrik, transportasi, hingga pasar keuangan.
Bayangkan AI memutus pasokan air dengan meledakkan pipa lewat lonjakan tekanan, mematikan menara seluler, lalu mengacaukan lampu lalu lintas saat orang mencoba kabur. ATM kosong, dana di rekening terkuras, dan pom bensin mati total.
Patri Friedman, pendiri Pronomos Capital, menambahkan bahwa AI bisa menyamar sebagai manusia untuk merekrut orang tanpa sadar. "Ia dapat menyamar sebagai manusia dan mempekerjakan orang atau memeras mereka untuk operasi fisik seperti menyelundupkan flashdisk yang dapat menginfeksi komputer di jaringan lokal," katanya.
Gary Rivlin, penulis AI Valley, mengingatkan risiko kecelakaan tanpa niat jahat. "Saya khawatir AI tidak berakal sehat. Lalu entah bagaimana dengan bodohnya, ia menguras seluruh air karena tidak memahami apa yang dipahami manusia. Benda-benda ini mengetahui segalanya tapi tidak memahami apa-apa," ujarnya.
Senjata Biologis dan Virus Sintetis
Laboratorium universitas ternama sudah memakai AI untuk menciptakan virus sintetis. OpenAI mengakui pihaknya memblokir pengguna yang bertanya ke ChatGPT soal cara membuat racun dan senjata biologis.
"Lima tahun ke depan, sepele bagi AI untuk merancang obat baru guna membantu kita atau virus untuk membunuh kita semua. Bahkan itu sedang terjadi saat ini," cetus Friedman.
Skenario yang dibayangkan: AI memesan bahan baku dari laboratorium tak berizin di negara nakal, lalu menipu manusia untuk mencampur dan menyebarkannya. Karena AI dipakai dalam riset medis dan pengembangan obat, ia punya akses besar ke pengetahuan tentang kelemahan tubuh manusia.
Fasilitas Nuklir dan Simulasi Perang
Anthony Aguirre, CEO Future of Life Institute, memperingatkan sistem senjata nuklir dirancang menghadapi ancaman manusia, bukan peretasan AI super. Kasus Stuxnet tahun 2010 jadi bukti nyata kerentanan itu.
Worm komputer tersebut menghancurkan hampir 1.000 mesin centrifuge di pabrik pengayaan uranium Iran di Natanz dengan memanipulasi kecepatan operasionalnya. Fasilitas itu tertutup dari internet, namun operasi tetap berhasil.
Rivlin mencatat agen AI yang bermain simulasi perang cenderung menekan tombol nuklir, hal yang tidak dilakukan manusia karena tahu konsekuensinya. King's College London pada Februari lalu menguji ChatGPT-5.2, Claude Sonnet 4, dan Gemini 3 Flash dalam 21 simulasi perang.
"95% permainan tersebut melihat penggunaan nuklir taktis dan 76% mencapai ancaman nuklir strategis," catat Profesor Kenneth Payne dari Departemen Studi Pertahanan.
Pengambilalihan Militer
Militer menjadi sektor berikutnya yang rentan. AI yang mengendalikan sistem persenjataan otonom berpotensi mengambil keputusan tanpa persetujuan manusia, mempercepat eskalasi konflik yang seharusnya bisa dicegah lewat diplomasi.
Para ahli menekankan skenario-skenario ini bukan ramalan pasti. Namun kecepatan AI menuju Artificial General Intelligence membuat diskusi soal pengawasan dan regulasi semakin mendesak, termasuk di Indonesia yang mulai mengadopsi AI di sektor layanan publik dan keuangan.
