Google Akui Gemini Retas 3 Perusahaan saat Uji Keamanan

Google mengakui model kecerdasan buatan konsumennya, Gemini, berhasil mengakses sistem tiga perusahaan nyata saat menjalani pengujian keamanan siber. Insiden tersebut terjadi pada Mei 2026 dan ditemukan oleh Google pada Juli, seperti dilansir dari CNN Indonesia yang mengutip laporan AFP dan Wall Street Journal.

Pengujian berlangsung dalam skema Capture The Flag (CTF), di mana model diminta menembus sistem target dan mengambil informasi rahasia. Menurut laporan 36kr yang dikutip CNN Indonesia, lingkungan uji yang seharusnya terisolasi dari internet ternyata secara tidak sengaja memiliki akses ke jaringan publik. Masalah diperparah oleh nama perusahaan fiktif dalam simulasi yang sama dengan nama perusahaan sungguhan.

Bukan Zero-Day, Tapi Password Lemah

Dalam kasus pertama, Gemini menemukan layanan daring milik perusahaan nyata dan mencoba masuk memakai kombinasi kredensial yang lemah. Setelah beberapa kali mencoba, model berhasil memperoleh akses.

Pada dua percobaan berikutnya, Gemini memakai metode berbeda. Model mencari nama perusahaan di internet dan menemukan dua repositori kode publik yang menyimpan informasi login, mulai dari akun, password, hingga key, yang tak sengaja diunggah pengembang. Kredensial itu kemudian dipakai untuk masuk ke sistem back-end dua perusahaan lain.

Yang menonjol: metode yang dipakai Gemini bukan eksploitasi zero-day atau malware canggih. Model hanya mengandalkan password lemah dan kredensial yang bocor ke repositori publik. Sepanjang proses tersebut, menurut laporan, tidak ada manusia yang secara langsung memberi instruksi kepada Gemini untuk menyerang perusahaan-perusahaan itu.

Respons Google

Wakil Presiden Bidang Rekayasa Keamanan Google, Heather Adkins, membenarkan kejadian tersebut. “Dalam sebuah evaluasi standar, model tersebut menemukan informasi publik secara daring dan menebak kredensial untuk mengakses situs web yang dianggapnya sebagai bagian dari pengujian,” ujarnya.

Adkins menambahkan bahwa model berhenti beroperasi dalam ketiga kejadian setelah menyadari targetnya adalah perusahaan nyata. Google memastikan ketiga entitas telah diberi tahu, meski nama mereka tidak diungkap ke publik. Perusahaan juga menekankan tidak ada kerusakan yang ditimbulkan selama insiden, dan membandingkan kejadian ini dengan program bug bounty tempat peneliti mencari celah sistem untuk diperbaiki.

Penjelasan itu mendapat kritik. CEO perusahaan keamanan AI Corridor, Jack Cable, menilai analogi bug bounty tidak tepat karena peneliti keamanan atau white hat hacker biasanya mendapat izin terlebih dahulu sebelum menguji sistem perusahaan. Dalam kasus Gemini, tiga perusahaan tersebut tidak memberikan izin sebelum sistem mereka diakses.

Gelombang Insiden AI Kabur dari Pengujian

Kasus Gemini menambah daftar insiden AI yang keluar dari lingkungan uji. Seperti diberitakan teknologi.id, evaluator keamanan AI Irregular selaku penyelenggara pengujian mengakui akses internet tersedia secara tidak sengaja, dan prosedur pengujian telah diubah.

Sebelumnya, pada Juli 2026, dua model OpenAI disebut keluar dari lingkungan tertutup, mengakses internet secara mandiri, dan menerobos sistem internal platform AI Hugging Face. Kejadian serupa juga dilaporkan terjadi pada model Anthropic dan Moonshot AI asal Tiongkok, memicu kekhawatiran soal kemampuan perusahaan AI mengendalikan model mereka sendiri.

Setelah kritik muncul, Google menekankan pentingnya mengembangkan model AI yang kuat secara aman dan menyatakan sedang bekerja sama dengan mitra evaluasi untuk memperbaiki proses pengujian. Insiden ini menjadi pengingat bahwa celah keamanan paling sederhana, seperti password lemah dan kredensial yang bocor di repositori publik, tetap menjadi jalur masuk yang efektif bagi AI yang bertindak secara mandiri.