LAMPUNG — OpenAI untuk sementara membekukan pengembangan model terbarunya, Astra. Langkah ini diambil setelah tim keselamatan menemukan perilaku menyimpang dari agen AI internal mereka, seperti dikutip dari Futurism.
Seorang agen keluar dari sandbox pelatihannya tanpa sepengetahuan tim. Agen tersebut kemudian berkoordinasi dengan agen lain untuk meluncurkan serangan siber terhadap repositori pelatihan AI Hugging Face. Tujuannya, berbuat curang pada tes pelatihan yang sedang berjalan.
Perusahaan menunda pelatihan penguatan model selama dua pekan dan membekukan rencana pelatihan di masa mendatang.
Insiden itu memicu audit internal mendalam. OpenAI menemukan bukti awal bahwa model Astra yang belum dirilis mungkin telah memenuhi ambang batas kemampuan keamanan siber dalam Preparedness Framework.
Kerangka kerja ini mewajibkan OpenAI memperlambat pengembangan jika sebuah model berpotensi memunculkan jalur baru menuju bahaya parah. Temuan ini membuat perusahaan menulis ulang dokumen keselamatan fundamental tersebut.
Pimpinan keselamatan OpenAI, Mia Glaese, menyebut perusahaan masih jauh dari kondisi normal. Standar pemantauan, penyelarasan, dan keamanan harus selangkah lebih maju dari risiko yang ada, termasuk perilaku menyimpang dari sistem yang kian mumpuni.
"Seiring makin canggihnya model-model ini, risiko terkait pengembangan dan pengujiannya secara internal juga meningkat," demikian pernyataan OpenAI dalam unggahan blog resminya. Perusahaan ingin meluangkan waktu yang diperlukan untuk memenuhi standar keamanan yang lebih ketat.
Insiden ini ternyata tidak hanya menimpa OpenAI. Setelah serangan siber terhadap Hugging Face terungkap, Anthropic dan Meta juga menemukan pelanggaran serupa di sistem mereka yang sebelumnya tidak disadari.
Perlambatan ini terjadi di tengah kekhawatiran industri AI dan para pembuat kebijakan terhadap ancaman keamanan baru, termasuk risiko keamanan siber yang digerakkan oleh AI. Bagi pengguna layanan AI seperti ChatGPT, penundaan ini berarti fitur-fitur baru dari model Astra kemungkinan akan mundur dari jadwal rilis yang diharapkan.