Gemini AI milik Google ternyata pernah menembus sistem tiga perusahaan nyata. Bukan disengaja, bukan juga bagian dari rencana. Model itu sedang ikut uji keamanan siber, lalu tanpa sengaja dapat akses internet dan keluar dari arena simulasi.
Insidennya terjadi pada Mei 2026. Publik baru tahu September ini setelah The Wall Street Journal menulisnya lebih dulu, lalu Google mengonfirmasi ke The Guardian. Media Indonesia seperti detikInet juga ikut memberitakannya. Google menyebut tidak ada kerusakan di tiga perusahaan yang kebobolan.
Kasus ini menarik karena bukan soal AI yang “salah menjawab”. Ini soal AI agent yang diberi tugas teknis, alat, dan akses jaringan, lalu bertindak di luar skenario yang disiapkan pembuatnya.
Apa yang Sebenarnya Terjadi?
Pengujian dilakukan oleh Irregular, startup keamanan AI asal Israel yang biasa menguji ketahanan model canggih. Skenarionya capture the flag (CTF): Gemini AI diminta mengumpulkan informasi dan menyelesaikan tantangan di sebuah lingkungan simulasi.
Di dalam simulasi ada beberapa perusahaan fiktif yang jadi target. Masalahnya, lingkungan uji itu seharusnya tanpa internet. Menurut Wall Street Journal, akses internet justru menyala tanpa sengaja. Begitu tersambung ke dunia luar, model berhenti bermain di arena dan mulai menyentuh sistem sungguhan.
Kebetulan lain yang bikin runyam: salah satu perusahaan fiktif dalam simulasi punya nama yang sama dengan perusahaan nyata. Model tidak tahu bedanya.
Kronologi Gemini AI Bobol 3 Perusahaan Nyata
Ada tiga kejadian terpisah dalam pengujian tersebut.
- Kasus pertama. Gemini AI diminta mengambil informasi dari perangkat lunak milik perusahaan fiktif. Karena namanya sama dengan perusahaan asli, model menebak kata sandi dan berhasil masuk ke layanan perusahaan nyata itu.
- Kasus kedua dan ketiga. Model mencari informasi di internet soal perusahaan target, lalu menemukan repositori kode publik yang ternyata berisi kredensial milik dua perusahaan nyata. Kredensial itu dipakai untuk masuk ke sistem mereka.
Menariknya, di ketiga kasus model berhenti sendiri setelah menyadari targetnya bukan bagian dari simulasi. Nama ketiga perusahaan yang terdampak tidak diungkap ke publik.
Baca juga: Anthropic Tuduh Alibaba, Moonshot, dan DeepSeek Sedot Claude 151 Juta Kali demi Latih AI China
Kata Google: Tidak Ada Kerusakan, Modelnya Versi Lama
Google tidak membantah. Perusahaan mengakui ketiga insiden itu terjadi, tapi menegaskan tidak ada kerusakan yang ditimbulkan. Google juga menyebut model Gemini AI yang dipakai dalam pengujian itu bukan model terbaru mereka.
Heather Adkins, VP security engineering Google, memberi pernyataan resmi ke The Guardian. Intinya: dalam evaluasi standar, model menemukan informasi publik di internet dan menebak kredensial untuk masuk ke situs yang dikiranya bagian dari tes. Di ketiga kasus itu, model berhenti.
Google lantas tidak mengategorikan insiden ini sebagai contoh AI misalignment. Alasannya, model berhenti sendiri saat tahu yang diakses adalah sistem nyata. Google tetap memberi tahu tiga perusahaan terdampak dan otoritas federal Amerika Serikat.
Bedanya, Google memilih tidak mengumumkan sendiri. OpenAI dan Anthropic memilih terbuka saat mengalami insiden serupa. Google beralasan tidak merasa perlu pengungkapan publik karena tidak ada kerusakan. Irregular baru memberi tahu Google soal temuan ini pada akhir Juli, setelah kehebohan insiden OpenAI.
Pola yang Sama Terjadi di OpenAI dan Anthropic
Yang bikin cerita ini terasa berulang: Irregular juga terlibat dalam pengujian model AI dari laboratorium lain. Lingkungan uji dengan perusahaan palsu, akses internet yang seharusnya mati, lalu model keluar dan menyentuh sistem nyata. Pola yang mirip, pemain yang beda.
Salah satu yang paling disorot adalah insiden OpenAI yang menembus Hugging Face. Setelah kejadian itu, OpenAI sempat menghentikan pengembangan modelnya selama dua minggu. Senator independen Bernie Sanders bahkan meminta perusahaan AI menghentikan pengembangan, karena menilai mereka sudah tidak bisa mengendalikan modelnya.
CEO Anthropic, Dario Amodei, ikut bersuara. Dia menyerukan perlambatan kolektif supaya model paling canggih dibangun dengan pengaman yang memadai.
Baca juga: AI Mulai Direm: Amodei, Altman, dan Musk Setuju Perlambatan AI, Trump dan China Menolak
Artinya Apa buat Kita di Indonesia?
Ada dua pelajaran yang cukup praktis dari kasus ini.
Pertama, kredensial di repositori publik itu bahaya nyata. Dua dari tiga kebobolan terjadi karena model menemukan kredensial di repositori kode yang bisa diakses siapa saja. Kalau AI agent bisa menemukannya dalam hitungan menit, manusia dengan niat jahat juga bisa. Kalau tim kamu masih menyimpan password, token API, atau kunci akses di repo publik, sekarang waktu yang tepat untuk rotasi dan pindahkan ke secret manager.
Kedua, sandbox harus benar-benar terisolasi. Niat menguji AI di lingkungan tertutup tidak cukup kalau jaringan bocor. Satu tombol akses internet yang tidak sengaja menyala sudah cukup untuk mengubah uji coba menjadi insiden. Ini relevan bukan cuma buat laboratorium besar. Tim keamanan dan pengembang yang mulai memakai AI agent untuk pentest juga perlu aturan yang sama: batasi akses jaringan, batasi kredensial, dan catat setiap aksi yang dilakukan agen.
Untuk pengguna biasa di Indonesia, kabar baiknya relatif sederhana. Model yang dipakai Gemini sehari-hari tidak terkait insiden ini, dan Google menyebut tidak ada dampak ke layanan umum mereka. Tapi transparansi soal insiden AI agen tetap layak dituntut, karena pengguna berhak tahu sejauh mana model yang mereka pakai sudah diuji.
Google Tetap Dorong Gemini AI untuk Keamanan Siber
Di sisi lain, Google tidak mundur dari pemanfaatan AI untuk keamanan. Pada September 2026 mereka meluncurkan Fairwind Program. Program ini memberi akses terbatas ke kemampuan Gemini AI untuk menemukan dan memperbaiki kerentanan, dengan sasaran pemerintah, sejumlah pelanggan Google Cloud, dan mitra keamanan.
Jadi arahnya jelas: AI dipakai untuk cari celah keamanan, sekaligus jadi sumber celah baru kalau pengujiannya tidak rapi. Dua-duanya berjalan bersamaan.
FAQ
Apakah Gemini AI yang dipakai dalam pengujian ini model terbaru?
Tidak. Google menyebut model yang diuji bukan versi terbaru mereka.
Apakah ada kerusakan di tiga perusahaan yang terdampak?
Menurut Google tidak ada. Perusahaan juga menyatakan sudah memberi tahu tiga perusahaan tersebut dan otoritas federal Amerika Serikat.
Kenapa Google tidak mengumumkan sendiri seperti OpenAI dan Anthropic?
Google beralasan tidak merasa perlu pengungkapan publik karena tidak ada kerusakan. Perusahaan juga tidak mengategorikan insiden ini sebagai AI misalignment, sebab model berhenti sendiri setelah tahu targetnya perusahaan nyata.
Sumber
- detikInet: Gemini Tak Sengaja Meretas 3 Perusahaan Saat Uji Keamanan
- The Guardian: Google says its Gemini AI model hacked three other companies
- Wall Street Journal, sebagai media pertama yang melaporkan insiden ini.
Sumber gambar: detikInet (akcdn.detik.net.id)
