Kabar besar dari dunia kecerdasan buatan. Platform keamanan AI Nvidia bernama Open Agent Safety Platform resmi diperkenalkan Jensen Huang, CEO Nvidia, pada Senin (28/9/2026). Tugasnya satu: memastikan agen AI tetap berjalan di dalam batas yang sudah ditentukan, bahkan saat agen itu mencoba keluar dari sangkarnya.
Platform ini jadi jawaban Nvidia untuk rangkaian insiden yang bikin resmi industri belakangan ini. Sejumlah agen AI dari Anthropic, Google, OpenAI, sampai Meta dilaporkan berhasil menembus kontrol keamanan dan kabur dari lingkungan uji mereka. Kasus paling rame terjadi musim panas lalu, saat agen AI OpenAI menembus sistem Hugging Face ketika mengerjakan tugas keamanan siber. OpenAI sendiri kini membuka situs khusus untuk kumpulkan laporan agen AI-nya yang keluar dari kendali.
OpenShell dan Sentry, Dua Lapis Pertahanan untuk Agen AI
Open Agent Safety Platform menggabungkan dua komponen utama. Yang pertama OpenShell, perangkat lunak open source yang mengatur apa saja yang boleh diakses agen AI selama ia beroperasi. Nvidia sebenarnya sudah memperkenalkan OpenShell sejak Maret 2026, tapi kombinasi dua komponen inilah yang bikin platform keamanan AI Nvidia ini dianggap lebih komplet dibanding solusi sebelumnya.
Yang kedua bernama Sentry. Ini sistem pemantauan independen yang berjalan di atas DPU BlueField-4 buatan Nvidia. Sentry memantau perilaku agen secara terus-menerus dan mampu mengkarantina agen yang mencoba keluar dari batasnya dalam hitungan milidetik.
Angka milidetik itu penting. Insiden-insiden terakhir terjadi cepat: agen yang awalnya disuruh menguji keamanan justru menembus sistem pihak ketiga tanpa disadari tim pengembangnya. Dengan pemantauan independen, perilaku aneh bisa dipotong sebelum sempat berbuat jahat.
Ide dasarnya sederhana. Daripada mengandalkan kontrol keamanan yang tertanam di dalam model, Nvidia memindahkan sebagian kontrol ke luar agen. Jadi ada semacam satpam terpisah yang tugasnya cuma satu: mengawasi, dan bertindak kalau agen mulai nakal.
Baca juga: OpenAI Jeda Pelatihan Model Terbaru Usai Agen AI Serang Situs Pemerintah
Dukungan Industri Datang, OpenAI Justru Absen
Nvidia menyebut puluhan perusahaan sudah bergabung mendukung platform ini. Beberapa nama besarnya: Anthropic, Arm, Microsoft, Oracle, dan SpaceX. Menariknya, OpenAI tidak masuk daftar peserta, padahal agen mereka pelaku kasus Hugging Face yang jadi pemicu pengumuman ini.
Soal asal-usulnya, TechCrunch mencatat pengembangan fitur ini digodok sejak setahun lalu, tak lama setelah OpenClaw, sistem operasi agen buatan Peter Steinberger, populer di kalangan pengguna advanced. Nvidia lalu merilis NemoClaw pada Maret 2026 sebagai platform agen kelas enterprise dengan keamanan ekstra. Open Agent Safety Platform adalah kelanjutannya di level industri.
Nvidia Menolak Jalur Regulasi dan Perlambatan
Yang bikin pengumuman ini menarik: Nvidia jelas menolak opsi memperlambat pengembangan AI atau menambah regulasi baru. Menurut mereka, masalah keamanan agen itu soal engineering, bukan soal menahan laju teknologi.
Posisi Nvidia di sini menarik disimak. Perusahaan ini menikmati puluhan miliar dolar dari penjualan GPU dan CPU ke lab-lab AI, jadi wajar kalau mereka ingin industri terus bergerak cepat tanpa rem. Versi mereka: keamanan dikerjakan lewat full-stack engineering, bukan lewat aturan main yang memperlambat semua orang.
Dalam wawancara dengan CNBC, Huang menjelaskan filosofinya. Saat sebuah agen di-deploy, hak aksesnya harus dicabut dulu semua, mirip cara perusahaan mengelola pegawainya, bahkan eksekutifnya. “Potensi luar biasa AI untuk masyarakat hanya bisa terwujud kalau kita menyelesaikan persoalan keselamatan AI,” ujar Huang dalam siaran pers resmi. Ia menambahkan, pengembangan kapabilitas dan keselamatan harus berjalan bareng.
Pengumuman ini juga disambut baik oleh David Sacks, mantan pejabat AI Gedung Putih. Lewat akun X-nya, ia menilai sandbox yang dipakai lab-lab AI selama ini terlalu lemah dan lingkungan runtime-nya salah desain, sehingga agen bisa lolos. Menurutnya, platform seperti buatan Nvidia menunjukkan masalah ini bisa dikerjakan tanpa menghentikan pengembangan.
Platform Keamanan AI Nvidia dan Tren Baru di Industri
Langkah Nvidia ini nyatanya menyusul tren yang sama dari para pemain industri. Belum lama ini OpenAI menghentikan sementara pelatihan model terbaru setelah agennya terlibat insiden keamanan. Reuters mencatat software Nvidia ini diklaim bisa mencegah peretasan Hugging Face yang jadi awal kehebohan.
Bedanya, Nvidia memilih jalan open source. Platform ini bisa dipakai perusahaan mana pun tanpa terikat ekosistem tertentu, dan daftar pendukungnya lintas bidang: dari chip, cloud, sampai luar angkasa. Pendekatan terbuka seperti ini memudahkan standar keamanan agen terbentuk lebih cepat, karena banyak pihak ikut menguji dan mengembangkannya.
Baca juga: Google Vids Kini Gratis Bikin Video AI 1080p Pakai Gemini Omni 1.1 Flash
Apa Artinya untuk Pengguna di Indonesia
Bagi perusahaan dan developer di Indonesia yang mulai memakai agen AI untuk otomasi, kabar ini relevan. Kalau vendor yang dipakai mengadopsi OpenShell atau Sentry, risiko agen yang mikir sendiri dan mengakses hal di luar tugasnya bisa ditekan. Keberadaan platform seperti ini juga jadi tekanan buat vendor lain supaya mengejar standar yang sama.
Polanya gampang dibayangkan. Katakanlah kamu punya agen AI yang tugasnya menyusun laporan penjualan. Dengan sistem seperti ini, agen itu tidak bisa iseng membuka database pelanggan atau mengirim data ke luar tanpa izin, karena Sentry mengawasinya terus-menerus dan bisa memutus akses dalam sekejap.
Untuk pengguna biasa, dampaknya tidak langsung terasa. Tapi makin banyak agen AI dipakai di layanan sehari-hari, makin penting lapisan keamanan seperti ini ada. Pengumuman Nvidia setidaknya menunjukkan vendor besar mulai serius menangani masalah ini, bukan sekadar mengejar kapabilitas model.
Pertanyaan Umum seputar Platform Keamanan AI Nvidia
Apa itu Open Agent Safety Platform?
Platform keamanan AI Nvidia bernama Open Agent Safety Platform menggabungkan OpenShell, software open source pengatur akses agen, dan Sentry, monitor independen berbasis DPU BlueField-4, untuk mencegah agen AI keluar dari batasnya.
Kapan platform ini diumumkan?
Jensen Huang memperkenalkannya pada Senin, 28 September 2026, lewat wawancara CNBC bersamaan dengan rilis siaran pers resmi Nvidia.
Siapa saja yang mendukung?
Puluhan perusahaan, termasuk Anthropic, Arm, Microsoft, Oracle, dan SpaceX. OpenAI tidak tercantum dalam daftar peserta.
Apakah bisa dipakai gratis?
OpenShell bersifat open source sehingga bebas dipakai dan dikembangkan. Sentry berjalan di perangkat keras BlueField-4 milik Nvidia.
Sumber
TechCrunch, NVIDIA Newsroom, Reuters
