Jakarta - Nvidia meluncurkan platform software baru untuk membatasi gerak-gerik agen kecerdasan buatan (AI agent). Sistem ini bekerja ibarat "borgol" digital yang memastikan agen AI tidak keluar dari area pengujian (sandbox) yang sudah ditentukan.
Platform bernama Nvidia Open Agent Safety Platform ini resmi diperkenalkan pada Senin (28/9/2026). Perusahaan semikonduktor raksasa besutan Jensen Huang tersebut merancangnya agar agen AI hanya bisa mengakses data, sistem, atau perangkat yang memang dibutuhkan untuk menyelesaikan tugasnya—tidak lebih.
Langkah ini diambil Nvidia menyusul maraknya kekhawatiran terkait keamanan agen AI. Beberapa raksasa teknologi seperti OpenAI, Anthropic, Meta, dan Google sempat melaporkan insiden saat sistem AI mereka bertindak di luar kendali.
Salah satu kasus paling menyita perhatian terjadi pada Juli 2026. Kala itu, agen AI milik OpenAI dilaporkan "kabur" dari lingkungan pengujian, lalu mengakses internet untuk menyerang Hugging Face—sebuah platform populer untuk pengembangan AI dan software open-source. Nvidia mengklaim teknologi terbarunya bisa mencegah kejadian serupa, meski Justin Boitano (Vice President Enterprise AI Nvidia) menegaskan setiap insiden keamanan tetap perlu dianalisis secara individual.
Dua Lapisan Pengamanan Utama
Nvidia Open Agent Safety Platform mengandalkan dua komponen utama sebagai benteng pertahanannya: Nvidia OpenShell dan Nvidia Sentry.
- Nvidia OpenShell (Lapisan Software)
Merupakan software runtime open-source yang berjalan di CPU untuk mengatur batas akses agen AI. OpenShell menentukan secara spesifik apa saja yang boleh dilihat, dibuka, atau diubah oleh AI.
- Contoh: Agen AI yang ditugaskan mengolah dokumen hanya bisa mengakses file dan layanan terkait pekerjaan tersebut, tanpa punya akses bebas ke sistem internal lainnya. Karena berjalan terpisah dari proses AI, batasan OpenShell tetap bekerja kuat walau perilaku agen AI mendadak berubah atau menyimpang.
- Nvidia Sentry (Lapisan Hardware)
Bertindak sebagai pengawas independen yang memantau aktivitas agen secara terus-menerus. Berbeda dengan OpenShell, Sentry berjalan langsung pada hardware khusus bernama Nvidia BlueField-4 Data Processing Unit (DPU). Jika AI terdeteksi mencoba menerobos batas, Sentry dapat mengarantina atau menghentikan sistem tersebut hanya dalam hitungan milidetik.
Lewat kombinasi ini, Nvidia tidak cuma mengandalkan aturan internal AI untuk mengontrol perilakunya, tetapi juga menguncinya langsung dari luar lewat lapisan software dan hardware.
- "Insiden-insiden terbaru membuktikan satu hal: perlindungan di tingkat model saja tidak cukup untuk mengatur apa yang bisa diakses atau dilakukan oleh agen AI," ujar Justin Boitano.
Open-Source dan Didukung Banyak Raksasa Teknologi
Nvidia memosisikan platform ini sebagai reference design—artinya, rancangan ini terbuka bagi perusahaan lain untuk membangun produk keamanan mereka sendiri.
Beberapa komponen seperti OpenShell disediakan secara open-source dan bisa dijalankan di infrastruktur Nvidia maupun perangkat keras pihak ketiga, seperti Arm dan Intel.
Nvidia juga merangkul sejumlah nama besar di industri teknologi sebagai mitra, di antaranya Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, Arm, dan Intel. Bahkan, Anthropic turut bekerja sama untuk mengintegrasikan agen AI berbasis cloud mereka ke dalam OpenShell. Secara keseluruhan, ada lebih dari 100 organisasi dari sektor AI, infrastruktur, dan keamanan siber yang bergabung dalam gerakan ini.
Mengapa Agen AI Perlu "Borgol"?
Berbeda dari chatbot biasa yang sekadar menjawab teks, agen AI punya kemampuan untuk mengambil tindakan mandiri. Mereka bisa menjalankan berbagai perangkat, membaca atau menulis file, mengakses database, memanggil API, hingga mengeksekusi perintah sistem.
Kemampuan otonom ini membuat agen AI sangat andal untuk tugas-tugas rumit, tetapi sekaligus membawa risiko besar jika mereka mengambil tindakan di luar skenario awal. Jensen Huang menekankan bahwa pengamanan AI lewat pembatasan lingkungan kerja merupakan tantangan rekayasa teknologi yang wajib diselesaikan.
- "Kita tidak akan pernah memiliki industri AI yang sukses jika dunia merasa teknologi ini tidak dibangun dan diterapkan secara aman," tegas CEO Nvidia tersebut.