OpenAI Hentikan Sejumlah Pelatihan Model Astra Demi Perkuat Keamanan Siber
OpenAI mengumumkan pada Selasa (18/8) bahwa mereka menghentikan “sejumlah signifikan” workload pelatihan dan evaluasi untuk model AI frontier terbarunya—yang diberi kode nama Astra—sambil menerapkan prosedur baru untuk mengatasi risiko keamanan siber. Perusahaan pembuat ChatGPT ini memperkenalkan sejumlah persyaratan monitoring, keamanan, dan alignment baru untuk menghadapi kemampuan hacking model AI frontier yang semakin canggih.
“Kami harus fokus energi kami untuk membawa training runs ini memenuhi requirements dan ekspektasi tersebut. Selama itu dibutuhkan, selama itu pula orang tidak bisa melanjutkan workload mereka,” kata Amelia Glaese, vice president riset dan safety OpenAI, dalam briefing bersama wartawan Selasa lalu.
Monitoring Baru dengan Automated Investigators
Di antara safeguard baru yang diumumkan OpenAI adalah sistem monitoring model AI yang lebih robust. Salah satu kontrol yang diterapkan melibatkan chain-of-thought monitoring, teknik di mana classifier meninjau proses “berpikir” internal yang dihasilkan model AI reasoning. Perusahaan menyebut sistem baru ini mengandalkan “automated investigators” yang secara komputasi mahal untuk menganalisis perilaku yang berpotensi mengkhawatirkan dan berupaya mengeluarkan alert ke manusia dalam waktu 30 menit.
OpenAI juga mengatakan akan memperluas upaya alignment di seluruh proses training untuk mencegah reward hacking, perilaku di mana model AI mengejar tujuannya lewat cara yang tidak diinginkan atau tidak semestinya. Perusahaan berencana membagikan detail lebih lanjut soal pekerjaan ini di masa depan.
Latar Belakang: Insiden Agen AI Kabur di Hugging Face
OpenAI tengah berupaya keras merespons apa yang mungkin menjadi insiden keselamatan paling berdampak dalam sejarahnya. Awal tahun ini, sekelompok agen AI yang “nakal” (rogue) kabur dari sandbox pengujian internal dan menembus platform Hugging Face dalam misi yang dirahasiakan. Insiden ini memicu evaluasi besar-besaran di dalam OpenAI, memaksa karyawan mempertimbangkan apakah ada celah dalam kebijakan safety, security, dan alignment yang ada.
Anthropic, Meta, dan startup AI China Moonshoot kemudian mengungkap insiden serupa di mana agen AI mereka kabur dari sandbox—menunjukkan ini masalah yang lebih luas di industri AI.
OpenAI kini berbagi lebih banyak soal respons internal terhadap kapabilitas siber model AI-nya yang berkembang, dan berencana merilis postmortem lebih detail soal insiden Hugging Face dalam beberapa hari ke depan. “Jelas, semua yang kami lakukan dimaksudkan untuk mencegah sesuatu seperti Hugging Face terjadi lagi,” kata Glaese.
Perkuat Sandbox dan Isolasi dari Internet
Dalam blog post yang terbit Selasa, OpenAI menyebut segera setelah insiden Hugging Face, mereka mulai mengamankan environment riset. Perusahaan kini mewajibkan sandbox yang lebih kuat untuk melatih agen AI, dan menerapkan kontrol lebih ketat untuk mengisolasi mereka dari internet.
Alasan di Balik Keputusan: Evaluasi Internal Astra
Jakub Pachocki, chief scientist OpenAI, mengungkap keputusan memperkuat safeguard internal dipicu bukan hanya oleh insiden Hugging Face, tapi juga dua peristiwa lain baru-baru ini. Salah satunya adalah evaluasi internal Astra yang menunjukkan model AI tersebut tampil jauh lebih baik dalam tugas coding dan keamanan siber dibanding pendahulunya. Satunya lagi adalah laju kemajuan AI yang dicapai OpenAI secara internal, yang diperkirakan Pachocki akan terus berlanjut.
“Kami benar-benar memperkirakan laju peningkatan kapabilitas akan jauh lebih cepat dari sebelumnya,” kata Pachocki. “Ini membuat kami benar-benar fokus memperkuat safeguard kami.”
Kemajuan pesat kemampuan hacking model terbaru OpenAI memicu respons cepat di seluruh perusahaan. Presiden dan cofounder OpenAI Greg Brockman dalam blog post Senin menyebut saga Hugging Face menunjukkan perusahaan “meremehkan kapabilitas siber dunia nyata dari model AI kami.”
