Apa itu halusinasi AI dan cara mengesannya
Pernahkah chatbot AI memberi jawapan yang kedengaran yakin, tetapi rupa-rupanya salah? Fenomena ini dipanggil halusinasi AI.
Semakin ramai rakyat Malaysia menggunakan AI untuk belajar, bekerja dan mencari maklumat.
Oleh itu, memahami halusinasi AI membantu kita mengelak daripada mempercayai atau menyebarkan maklumat palsu.
Apa itu halusinasi AI
Halusinasi AI ialah jawapan yang nampak munasabah tetapi sebenarnya salah, tidak berkaitan atau direka.
Menurut IBM, ia boleh berlaku dalam bentuk kes mahkamah palsu, statistik rekaan atau pautan laman web yang tidak wujud.
Yang membimbangkan, AI menyampaikan maklumat salah ini dengan nada yang sama yakin seperti maklumat betul. Pengguna biasa sukar membezakannya.
Kenapa AI berhalusinasi
Model bahasa besar menghasilkan teks dengan meramal perkataan seterusnya berdasarkan corak. Ia tidak semak sama ada sesuatu itu benar seperti manusia menyemak fakta.
IBM dan Google Cloud menyenaraikan beberapa punca utama:
- Data latihan yang tidak lengkap atau bercelaru. Jika data mengandungi kesilapan atau jurang, AI mempelajari corak yang salah.
- Kurang asas pada fakta sebenar. AI tidak benar-benar memahami dunia nyata, jadi ia boleh menghasilkan jawapan yang kedengaran logik tetapi tidak tepat.
- Fakta yang jarang muncul. Maklumat khusus yang jarang ditemui dalam data latihan lebih mudah tersilap.
AI digalakkan meneka
Pada September 2025, OpenAI menerbitkan kajian yang menerangkan satu lagi punca. Cara AI diuji selama ini lebih memberi ganjaran kepada tekaan berbanding mengaku tidak tahu.
Bayangkan ujian aneka pilihan. Jika anda biarkan soalan kosong, markahnya sifar. Jika anda meneka, ada peluang betul. OpenAI memberi contoh soalan tarikh lahir seseorang: tekaan rawak ada peluang kira-kira 1 dalam 365 untuk betul, manakala jawapan "saya tidak tahu" pasti dapat sifar.
Kajian itu mencadangkan supaya ujian AI menghukum jawapan salah yang yakin lebih berat daripada jawapan yang mengaku tidak pasti.
Contoh yang pernah berlaku
IBM mencatatkan kes pada tahun 2023 apabila seorang peguam di Amerika Syarikat menggunakan ChatGPT untuk menyediakan dokumen mahkamah. Beberapa kes undang-undang yang dirujuk ternyata tidak wujud.
IBM juga menyebut satu jawapan AI Overview Google yang pernah mencadangkan "gam tidak toksik" dimasukkan ke dalam sos piza. Cadangan itu berasal daripada gurauan lama di Reddit.
Kenapa ia penting untuk pengguna di Malaysia
Ramai pelajar menggunakan chatbot untuk tugasan, manakala pekerja menggunakannya untuk laporan dan e-mel. Jika fakta rekaan dimasukkan tanpa disemak, markah, reputasi atau keputusan kerja boleh terjejas.
Risiko lebih besar apabila maklumat salah dikongsi di media sosial atau kumpulan WhatsApp. Sekali tersebar, ia sukar diperbetulkan.
Cara mengesan dan mengurangkan risiko
- Semak dengan sumber dipercayai. Untuk fakta penting seperti kesihatan, undang-undang dan kewangan, rujuk laman rasmi kerajaan, institusi atau media utama.
- Klik setiap pautan. Pastikan pautan yang diberi AI benar-benar wujud dan menyokong dakwaan tersebut.
- Minta sumber. Tanya AI dari mana maklumat itu datang, kemudian semak sendiri.
- Benarkan AI mengaku tidak tahu. Tambah arahan seperti "Jika anda tidak pasti, katakan tidak pasti" dalam prompt anda. IBM menyenaraikan cara ini sebagai salah satu langkah mengurangkan halusinasi.
- Berikan dokumen sendiri. Teknik seperti RAG membolehkan AI menjawab berdasarkan dokumen atau sumber yang dipercayai, bukan ingatan semata-mata.
- Berwaspada dengan angka. Statistik, tarikh, nama dan petikan perlu disemak dengan paling teliti kerana kesilapan kecil boleh mengubah maksud.
Rumusan
Halusinasi AI bukan bermakna AI tidak berguna. Ia mengingatkan kita bahawa AI meramal jawapan, bukan menjamin kebenaran.
Gunakan AI sebagai titik mula, kemudian sahkan fakta penting sendiri. Tabiat kecil ini melindungi anda daripada membuat keputusan berdasarkan maklumat yang salah.
Sumber: