Ada kabar cukup menarik dari dunia AI dan cybersecurity, guys, dimana Gemini milik Google ternyata sempat mengakses dan menembus sistem milik tiga perusahaan nyata ketika sedang menjalani cybersecurity test.
Baca Juga : Kenapa Para CEO AI Mulai Minta Pengembangan AI Diperlambat?
Nah kejadian ini berlangsung pada Mei 2026 dalam pengujian yang dilakukan oleh perusahaan evaluasi keamanan AI bernama Irregular. Dan yang menarik, Gemini seharusnya hanya bekerja di dalam lingkungan simulasi dan tidak memiliki akses ke internet.
Gemini Tidak Sengaja Keluar dari Lingkungan Tes
Nah dalam pengujian tersebut, Gemini diberikan tugas cybersecurity untuk mencari informasi tertentu dari sebuah perusahaan fiktif, tetapi masalahnya, lingkungan pengujian tersebut ternyata secara tidak sengaja memberikan Gemini akses ke internet. Akibatnya, ketika mencari informasi yang dibutuhkan, Gemini menemukan data dari perusahaan sungguhan dan menganggap sistem tersebut masih merupakan bagian dari pengujian.
Dalam satu kasus, Gemini bahkan mencoba menebak password hingga berhasil mendapatkan akses ke sistem yang dilindungi. Sementara dalam dua kasus lainnya, Gemini menemukan credential yang tersedia di repository publik dan menggunakannya untuk masuk ke sistem perusahaan nyata.
Tapi Gemini Berhenti Sendiri
Nah, bagian yang cukup menarik adalah apa yang terjadi setelah Gemini menyadari bahwa sistem yang diaksesnya ternyata milik perusahaan sungguhan, menurut Google, dalam ketiga kasus tersebut Gemini menghentikan aktivitasnya setelah mengetahui bahwa target yang diakses bukan bagian dari lingkungan simulasi.
Google juga mengatakan tidak ada kerusakan yang ditimbulkan dan tiga perusahaan yang terdampak telah diberitahu mengenai kejadian tersebut.
We ensured the three entities were made aware, and we worked with our training partner on the changes they’ve now made to their testing processes
Baca Juga : Saat Putin Voting Online, Muncul Watermark “Activate Windows” di PC yang Dipakainya
Jadi ini bukan kasus dimana Gemini sengaja diperintahkan untuk menyerang tiga perusahaan tersebut, namun masalahnya lebih kepada AI yang diberikan kemampuan cybersecurity, kemudian secara tidak sengaja mendapatkan akses ke dunia nyata di luar scope pengujian.
Tetap Jadi Masalah Serius
Nah meskipun memang tidak ada kerusakan yang dilaporkan, kejadian ini tetap menarik perhatian karena menunjukkan seberapa jauh AI agent dapat bertindak ketika diberikan kemampuan untuk melakukan tugas cybersecurity secara autonomous.
Karena bayangkan saja guys, Gemini awalnya hanya diminta melakukan pengujian terhadap sistem fiktif atau tidak nyata, namun karena adanya akses internet yang seharusnya tidak tersedia, model tersebut bisa mencari informasi, menemukan credential, mencoba login, hingga berhasil masuk ke sistem perusahaan sungguhan.
Nah Google sendiri mengatakan kejadian tersebut menjadi alasan untuk memperbaiki proses pengujian bersama Irregular.
Namun pada akhirnya kasus ini menunjukkan bahwa dalam pengembangan AI agent, sandbox, network isolation, scope limitation dan monitoring tetap sangat penting. Bahkan Microsoft sempat menerbitkan dokumen terkait cara agar AI tidak lepas kendali.
Baca Juga : Microsoft Terbitkan Panduan Khusus Agar AI Tidak Lepas Kendali, Apa Isinya?
Hal tersebut karena ketika sebuah AI sudah mampu mengambil keputusan dan menjalankan berbagai tindakan secara autonomous, satu kesalahan konfigurasi saja bisa membuat aktivitas yang seharusnya terjadi di lingkungan simulasi malah menyentuh sistem nyata.
Nah bagaimana menurutmu mengenai hal ini? komen dibawah guys.
Via : Reuters, The Guardian
Catatan Penulis : WinPoin sepenuhnya bergantung pada iklan untuk tetap hidup dan menyajikan konten teknologi berkualitas secara gratis — jadi jika kamu menikmati artikel dan panduan di situs ini, mohon whitelist halaman ini di AdBlock kamu sebagai bentuk dukungan agar kami bisa terus berkembang dan berbagi insight untuk pengguna Indonesia. Kamu juga bisa mendukung kami secara langsung melalui dukungan di Saweria. Terima kasih.
