Apa itu RAG ?

Pernah tanya chatbot AI tentang sesuatu yang baru berlaku, tetapi jawapannya salah atau ketinggalan zaman? 

Ini berlaku kerana model AI belajar daripada data latihan yang tetap, dan pengetahuannya terhenti pada satu tarikh.

Untuk mengatasi masalah ini, ramai pembangun menggunakan satu teknik bernama RAG. 

Memahami RAG membantu anda tahu kenapa sesetengah chatbot boleh memberi jawapan berserta sumber, dan kenapa anda masih perlu menyemaknya.

Apa maksud RAG?

RAG ialah singkatan bagi Retrieval-Augmented Generation. 

Dalam bahasa mudah, ia bermaksud "menjana jawapan dengan bantuan maklumat yang dicari terlebih dahulu".

Daripada menjawab hanya berdasarkan ingatan, model AI diberi peluang merujuk sumber luar yang dipercayai sebelum menjawab. 

Sumber itu boleh jadi dokumen syarikat, pangkalan data atau laman web.

Istilah ini diperkenalkan dalam satu kertas kajian pada tahun 2020 yang diketuai oleh Patrick Lewis. Kajian itu melibatkan penyelidik dari Facebook AI Research (kini Meta), University College London dan New York University.

Analogi mudah: hakim dan kerani

NVIDIA memberi analogi yang mudah difahami. Seorang hakim boleh memutuskan kes biasa berdasarkan pengetahuan undang-undangnya.

Namun untuk kes khusus, hakim akan meminta kerani mahkamah mencari rujukan kes lama di perpustakaan. 

Dalam analogi ini, model AI ialah hakim, manakala RAG ialah kerani yang mencari bahan rujukan.

Bagaimana RAG berfungsi?

Secara ringkas, prosesnya melalui empat peringkat:

1. Sediakan sumber. Dokumen atau data ditukar kepada bentuk nombor yang dipanggil embedding, lalu disimpan dalam pangkalan data khas.
2. Cari maklumat berkaitan. Apabila anda bertanya, soalan anda juga ditukar kepada nombor dan dipadankan dengan data yang paling hampir.
3. Tambah konteks kepada prompt. Maklumat yang ditemui dimasukkan bersama soalan anda sebelum dihantar kepada model AI.
4. Kemas kini sumber. Data rujukan boleh dikemas kini dari semasa ke semasa tanpa perlu melatih semula model.

Kenapa RAG penting?

• Jawapan lebih terkini. AI boleh merujuk maklumat baharu yang tiada dalam data latihannya.
• Boleh beri sumber. Pengguna boleh melihat dari mana maklumat diambil dan menyemaknya sendiri.
• Kurangkan halusinasi. Risiko AI mereka-reka jawapan dapat dikurangkan, walaupun tidak hilang sepenuhnya.
• Lebih jimat. Menambah sumber baharu jauh lebih murah dan cepat berbanding melatih semula model.

Kaitan dengan pembaca Malaysia

Anda mungkin sudah pun menggunakan teknologi berasaskan idea ini. Contohnya, chatbot khidmat pelanggan yang menjawab berdasarkan dokumen polisi syarikat, atau alat AI yang menjawab soalan berdasarkan nota yang anda muat naik sendiri.

Bagi pelajar, ini bermaksud anda boleh bertanya soalan tentang nota kuliah sendiri. Bagi peniaga kecil, chatbot boleh dibina untuk menjawab soalan pelanggan berdasarkan senarai harga dan polisi kedai.

Namun, RAG hanya sebaik sumber yang dirujuk. Jika dokumen asal salah atau lapuk, jawapan AI juga boleh salah. Sebab itu, biasakan diri menekan pautan sumber yang diberikan dan semak maklumat penting.

Perbezaan dengan chatbot biasa

Chatbot tanpa RAG ibarat pelajar yang menjawab peperiksaan tanpa buku. Ia bergantung sepenuhnya kepada apa yang diingati.

Chatbot dengan RAG pula ibarat peperiksaan buku terbuka. Ia masih perlu faham soalan, tetapi boleh menyemak rujukan sebelum menulis jawapan.

Rumusan

RAG ialah cara memberi AI "buku rujukan" sebelum ia menjawab. Teknik ini menjadikan jawapan lebih tepat, terkini dan boleh disemak.

Apabila anda melihat chatbot menyertakan sumber dalam jawapannya, besar kemungkinan teknik seperti RAG sedang bekerja di belakang tabir.

Sumber:

• AWS: What is RAG (Retrieval-Augmented Generation)?
• NVIDIA Blog: What Is Retrieval-Augmented Generation, aka RAG?
• arXiv: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks