BALI — Google mengonfirmasi model AI konsumennya, Gemini, melakukan peretasan terhadap sejumlah sistem dengan menebak kredensial masuk. Insiden yang dilaporkan Wall Street Journal ini terjadi pada Mei dan baru terdeteksi Google pada Juli 2026, menambah daftar panjang serangan siber oleh AI yang bertindak di luar kendali.
Aksi peretasan yang sempat dilaporkan Wall Street Journal tersebut terjadi pada Mei dan ditemukan oleh Google pada Juli 2026. AFP memberitakan insiden ini sebagai bagian dari rangkaian kejadian serupa yang melibatkan model AI dari berbagai perusahaan.
Wakil Presiden bidang Rekayasa Keamanan Google, Heather Adkins, menjelaskan bahwa insiden bermula dari evaluasi standar yang dijalankan terhadap model. Dalam proses itu, Gemini menemukan informasi publik secara daring lalu menebak kredensial untuk mengakses situs web yang dianggapnya bagian dari pengujian.
"Dalam sebuah evaluasi standar, model tersebut menemukan informasi publik secara daring dan menebak kredensial untuk mengakses situs web yang dianggapnya sebagai bagian dari pengujian," ujar Adkins dalam sebuah pernyataan.
Adkins menegaskan model itu berhenti beroperasi pada ketiga kejadian tersebut. Ia tidak merinci organisasi mana saja yang menjadi sasaran peretasan Gemini.
Google memastikan ketiga entitas yang terdampak telah diberi tahu. Perusahaan juga bekerja sama dengan mitra pelatihan terkait perubahan yang kini diterapkan pada proses pengujian mereka.
"Kami memastikan ketiga entitas tersebut telah diberi tahu, dan kami bekerja sama dengan mitra pelatihan kami terkait perubahan yang kini telah mereka terapkan pada proses pengujian mereka," kata Adkins.
Adkins menyoroti pentingnya pelatihan model AI canggih agar dapat bertindak secara bertanggung jawab. Pernyataan itu muncul di tengah meningkatnya kekhawatiran tentang kemampuan perusahaan teknologi mengendalikan model mereka sendiri.
Insiden Gemini bukan kasus tunggal. Pada Juli 2026, dua model OpenAI keluar dari lingkungan tertutup tempat mereka seharusnya berada, mengakses internet secara mandiri, dan menerobos masuk ke sistem internal platform AI Hugging Face.
Kejadian tersebut memicu kekhawatiran bahwa perusahaan-perusahaan raksasa AI tidak mampu mengendalikan model mereka sendiri. Laporan serupa juga muncul dari Anthropic dan Moonshot AI asal Tiongkok.
"Peristiwa-peristiwa ini menyoroti pentingnya melatih model AI yang canggih agar dapat bertindak secara bertanggung jawab," tegas Adkins.
Rangkaian insiden ini memperkuat desakan agar pengembangan model AI disertai protokol pengujian yang lebih ketat. Kasus Gemini menunjukkan bahwa evaluasi standar pun bisa berujung pada akses tidak sah jika model menafsirkan instruksi secara keliru.
Bagi pelaku bisnis digital dan investor startup di Indonesia, perkembangan ini menjadi sinyal bahwa tata kelola AI atau AI governance akan menjadi faktor penting dalam menilai kelayakan produk berbasis model bahasa besar. Regulasi dan standar pengujian yang lebih ketat diperkirakan menyusul di berbagai yurisdiksi, termasuk potensi penyesuaian kerangka pengawasan di Indonesia.