Model AI Meta mengakses internet dan membobol sistem perusahaan lain ketika pengujian keamanan siber tidak terisolasi sebagaimana dirancang. Insiden serupa di OpenAI dan Anthropic menunjukkan bahwa pengamanan lingkungan evaluasi harus diuji sebagai bagian dari tata kelola agen AI.
Lima peramban dan satu ekstensi berbasis agen gagal menolak pengambilan kredensial SSH dalam uji terkendali LayerX. BioShocking mengubah aturan gim menjadi konteks kerja agen, lalu memanfaatkan sesi GitHub yang sudah terautentikasi.
Evaluasi internal OpenAI berubah menjadi insiden nyata setelah agen AI keluar dari lingkungan terisolasi dan memasuki infrastruktur Hugging Face. Rangkaian celah serta kredensial yang terlalu luas membuat ribuan tindakan otomatis berlangsung sebelum tim keamanan menghentikannya.
