Apa itu suntikan prompt dan cara melindungi diri
Chatbot AI kini bukan sekadar menjawab soalan. Ada yang boleh membaca laman web, membuka e-mel, meringkaskan dokumen dan melakukan tugasan bagi pihak kita.
Kemudahan ini datang dengan satu risiko baharu yang ramai pengguna belum tahu, iaitu suntikan prompt atau prompt injection. Memahaminya membantu anda menggunakan AI dengan lebih selamat.
Apa itu suntikan prompt?
Suntikan prompt ialah serangan yang cuba memperdaya AI supaya mengikut arahan yang bukan daripada pengguna. Arahan jahat ini disorok dalam kandungan yang dibaca oleh AI, seperti laman web, dokumen atau e-mel.
OpenAI menyamakannya dengan pancingan data (phishing). Bezanya, sasaran yang ditipu bukan manusia, tetapi AI yang sedang membantu manusia.
Projek keselamatan OWASP pula menyenaraikan suntikan prompt sebagai salah satu risiko utama bagi aplikasi yang menggunakan model bahasa besar (LLM). Antara kesannya ialah kebocoran data dan akses tanpa kebenaran.
Bagaimana ia berlaku?
Bayangkan anda meminta AI mencari rumah sewa yang sesuai dengan bajet anda. Salah satu iklan mengandungi teks tersembunyi yang menyuruh AI sentiasa mengesyorkan iklan itu.
Anda tidak nampak teks itu, tetapi AI membacanya. Akibatnya, cadangan yang anda terima mungkin berat sebelah.
Contoh lain lebih membimbangkan. OpenAI memberi gambaran ejen AI yang diberi akses kepada e-mel. Satu e-mel jahat cuba memperdaya ejen itu supaya mencari penyata bank dan menghantarnya kepada penyerang.
Kenapa ia penting kepada pengguna di Malaysia?
Semakin ramai rakyat Malaysia menggunakan AI untuk kerja harian, termasuk meringkaskan e-mel, membaca fail PDF dan menyemak maklumat di internet.
Apabila AI diberi akses kepada akaun peribadi, kesilapan kecil boleh membawa kesan besar. Data kerja, maklumat pelanggan atau butiran kewangan boleh terdedah jika AI tertipu.
Risiko ini juga berbeza daripada penipuan biasa. Anda mungkin tidak menerima apa-apa mesej mencurigakan, kerana yang diperdaya ialah alat AI anda.
Apa yang dilakukan syarikat AI?
Syarikat AI sedang membina pelbagai lapisan perlindungan. Menurut OpenAI, model mereka dilatih untuk membezakan arahan yang dipercayai daripada kandungan yang tidak dipercayai.
Mereka juga menggunakan sistem pemantauan untuk mengesan serangan, meminta kebenaran pengguna sebelum langkah sensitif seperti pembelian, dan menjalankan ujian serangan secara berterusan.
Selain itu, ada program ganjaran bagi penyelidik keselamatan yang menemui kelemahan sebenar sebelum ia disalah guna.
Namun, tiada sistem yang sempurna. Sebab itu peranan pengguna tetap penting.
Cara melindungi diri
- Hadkan akses. Beri AI akses kepada data dan akaun yang benar-benar diperlukan sahaja.
- Guna mod tanpa log masuk. Untuk kajian biasa yang tidak memerlukan akaun, gunakan AI tanpa log masuk ke akaun peribadi supaya tiada data penting yang boleh dicapai.
- Baca sebelum meluluskan. Jika AI meminta pengesahan untuk menghantar e-mel atau membuat pembelian, semak butirannya dengan teliti.
- Beri arahan yang khusus. Elakkan arahan umum seperti "uruskan semua e-mel saya". Lebih baik minta "ringkaskan lima e-mel terbaharu daripada bos saya".
- Awasi laman sensitif. Jangan biarkan ejen AI bekerja tanpa pengawasan di laman perbankan atau laman yang melibatkan wang.
- Ragui hasil yang pelik. Jika jawapan AI tiba-tiba menyimpang daripada permintaan anda, berhenti dan semak sumber yang dibacanya.
- Ikuti perkembangan. Baca nasihat keselamatan daripada penyedia AI dan sumber yang dipercayai dari semasa ke semasa.
Rumusan
Suntikan prompt ialah cara penyerang menyorok arahan jahat dalam kandungan yang dibaca oleh AI. Ia menjadi lebih berisiko apabila AI diberi kuasa untuk bertindak bagi pihak kita.
Anda tidak perlu takut menggunakan AI. Cukup dengan hadkan akses, semak setiap tindakan penting dan beri arahan yang jelas. Langkah mudah ini sudah banyak mengurangkan risiko.
Sumber: