NVIDIA memperkenalkan sistem keselamatan baharu yang direka untuk membantu organisasi mengawal ejen AI yang semakin mampu menjalankan tugasan secara autonomi.
Dikenali sebagai NVIDIA Open Agent Safety Platform, sistem ini diumumkan pada 28 September 2026 dan menggabungkan perisian serta perkakasan untuk menetapkan sempadan terhadap tindakan ejen AI.
Antara komponen utamanya ialah OpenShell, iaitu perisian sumber terbuka yang menyediakan sempadan keselamatan ketika ejen AI menjalankan tugasan.
Menurut NVIDIA, OpenShell membantu mengawal perkara yang boleh dilihat, dilakukan dan diakses oleh sesuatu ejen.
Platform itu turut mempunyai NVIDIA Sentry, iaitu lapisan pemantauan yang berjalan secara berasingan pada perkakasan dan boleh mengesan aktiviti ejen yang keluar daripada sempadan keselamatan yang ditetapkan.
Jika ejen cuba bergerak di luar batas yang ditetapkan, Sentry direka untuk mengasingkan atau menghentikannya dalam tempoh milisaat, menurut NVIDIA.
Pendekatan ini penting kerana ejen AI kini semakin banyak digunakan untuk melakukan tugasan yang memerlukan akses kepada fail, rangkaian, aplikasi, API dan sistem lain.
Semakin banyak akses diberikan kepada AI, semakin besar juga keperluan untuk memastikan ejen tidak melakukan perkara yang tidak dikehendaki.
NVIDIA berkata OpenShell boleh digunakan dengan model AI terbuka dan tertutup, manakala perisian tersebut juga direka supaya boleh diperluas kepada platform perkakasan daripada syarikat lain seperti Arm dan Intel.
Lebih 100 organisasi dilaporkan menyertai usaha keselamatan AI ini ketika pelancaran, termasuk Anthropic, Microsoft, Perplexity, Accenture dan JPMorgan Chase.
Perkembangan ini menunjukkan bahawa apabila AI berubah daripada sekadar chatbot kepada ejen yang boleh melakukan tugasan sendiri, aspek keselamatan perlu dibangunkan bersama keupayaan tersebut.
Ejen AI mungkin semakin pintar dan bebas melakukan kerja, tetapi organisasi masih memerlukan mekanisme untuk menentukan apa yang boleh dilakukan, apa yang tidak boleh dilakukan dan bila sesuatu ejen perlu dihentikan.
Ulasan
Catat Ulasan