Pernahkah anda bertanya sesuatu kepada chatbot AI dan menerima jawapan yang kedengaran yakin tetapi rupa-rupanya salah?
Situasi ini dikenali sebagai halusinasi AI.
Memahami halusinasi AI penting kerana semakin ramai rakyat Malaysia menggunakan AI untuk belajar, bekerja dan mencari maklumat.
Jika kita tidak berhati-hati, maklumat palsu boleh tersebar dengan mudah.
Apa itu halusinasi AI?
Halusinasi AI berlaku apabila sistem AI menghasilkan jawapan yang kelihatan munasabah tetapi sebenarnya tidak tepat atau direka.
Menurut IBM, ia boleh muncul dalam bentuk fakta palsu, kajian yang tidak wujud, pautan web palsu atau butiran salah tentang orang dan organisasi sebenar.
Perkataan "halusinasi" dipinjam daripada bidang psikologi. AI sebenarnya tidak melihat atau mendengar apa-apa.
Ia cuma menghasilkan teks yang salah dengan nada yakin.
Kenapa ia berlaku?
Model bahasa besar seperti yang digunakan dalam ChatGPT dilatih untuk meramal perkataan seterusnya berdasarkan corak dalam teks yang sangat banyak.
OpenAI menjelaskan dalam kajian yang diterbitkan pada September 2025 bahawa corak tetap seperti ejaan mudah dipelajari.
Namun, fakta yang jarang muncul, seperti tarikh lahir seseorang yang tidak terkenal, sukar diramal dengan tepat.
Kajian itu juga menyebut satu lagi punca. Banyak ujian penilaian AI hanya mengira jawapan betul.
Ini seperti peperiksaan objektif, di mana meneka lebih menguntungkan daripada membiarkan soalan kosong.
Akibatnya, model terdorong untuk meneka berbanding mengaku "saya tidak pasti".
IBM pula menyenaraikan punca lain seperti data latihan yang tidak lengkap atau mengandungi kesilapan, serta reka bentuk model yang memilih jawapan paling berkemungkinan, bukan semestinya paling benar.
Contoh sebenar
Pada tahun 2023, seorang peguam di Amerika Syarikat menggunakan ChatGPT untuk menyediakan dokumen mahkamah. Beberapa kes rujukan yang diberikan AI kelihatan sahih tetapi sebenarnya tidak wujud.
Contoh ini menunjukkan bahawa jawapan AI yang kelihatan profesional pun masih perlu disemak.
Kaitan dengan pengguna di Malaysia
Ramai pelajar menggunakan AI untuk tugasan. Pekerja pula menggunakannya untuk laporan dan e-mel. Usahawan mungkin bertanya tentang peraturan perniagaan atau cukai.
Dalam semua situasi ini, jawapan yang salah boleh membawa masalah. Contohnya, markah tugasan terjejas, laporan mengandungi data palsu atau keputusan perniagaan dibuat berdasarkan maklumat tidak tepat.
Isu ini lebih ketara untuk maklumat tempatan.
Data tentang Malaysia, peraturan terkini atau nama tempat kecil mungkin kurang terdapat dalam data latihan AI.
Cara mengurangkan risiko
- Semak dengan sumber rasmi. Untuk maklumat kerajaan, rujuk laman web rasmi agensi berkaitan.
- Minta sumber. Minta AI menyenaraikan rujukan, kemudian buka dan semak sendiri setiap pautan.
- Benarkan AI mengaku tidak tahu. Tambah arahan seperti "Jika tidak pasti, nyatakan bahawa anda tidak pasti." IBM menyebut prompt berstruktur seperti ini boleh membantu.
- Beri bahan rujukan sendiri. Tampal teks atau dokumen yang sahih dan minta AI menjawab berdasarkan bahan itu sahaja.
- Berhati-hati dengan perkara penting. Untuk isu kesihatan, undang-undang dan kewangan, rujuk pakar bertauliah.
Adakah masalah ini akan hilang?
IBM menyatakan halusinasi boleh dikurangkan tetapi tidak dapat dihapuskan sepenuhnya. OpenAI pula mencadangkan cara penilaian AI diubah supaya kesilapan yakin dihukum lebih berat berbanding mengaku tidak pasti.
Ini bermakna syarikat AI sedang berusaha, tetapi pengguna tetap perlu bijak.
Rumusan
Halusinasi AI ialah jawapan salah yang disampaikan dengan yakin. Ia berlaku kerana cara model dilatih dan dinilai.
Gunakan AI sebagai pembantu, bukan sumber kebenaran mutlak. Semak semula fakta penting sebelum anda berkongsi atau bertindak.
Sumber:
Ulasan
Catat Ulasan