Keselamatan AI kini jadi isu global

Perkembangan kecerdasan buatan (AI) kebelakangan ini menunjukkan satu perkara yang semakin jelas: persoalan tentang keselamatan dan kawalan AI kini bukan lagi sekadar perbincangan dalam kalangan penyelidik teknologi.

Ia sudah menjadi isu besar yang melibatkan kerajaan, syarikat teknologi, pasaran kewangan, dan masyarakat.

Pada 14 September, Microsoft mendedahkan draf kod tatakelakuan untuk sistem AI dalaman mereka.

Antara prinsip yang dicadangkan ialah AI perlu kekal di bawah kawalan manusia, tidak menolak arahan untuk diperbetulkan atau dihentikan, dan perlu berkomunikasi dengan cara yang boleh difahami manusia.

Ketua Microsoft AI, Mustafa Suleyman, menyifatkan kod itu sebagai seakan-akan “perlembagaan” untuk model AI masa depan.

Perkembangan itu berlaku ketika beberapa tokoh industri AI sendiri mula memberi amaran bahawa pembangunan teknologi ini perlu dilakukan dengan lebih berhati-hati.

Anthropic sebelum ini menyeru industri dan kerajaan supaya menyelaraskan usaha untuk memperlahankan pembangunan AI berkuasa tinggi, manakala OpenAI dan Elon Musk turut menyokong sebahagian usaha mendapatkan penilaian keselamatan yang lebih bebas.

Di United Kingdom pula, jawatankuasa rentas parti yang terdiri daripada Ahli Parlimen dan anggota House of Lords menggesa undang-undang baharu bagi menangani risiko AI terhadap hak asasi manusia.

Antara kebimbangan yang diketengahkan ialah teknologi pengecaman wajah, deepfake, dan penggunaan AI yang boleh memberi kesan kepada pekerja tanpa alasan munasabah.

Jawatankuasa itu turut mencadangkan sebuah badan pengawasan AI yang bebas dan mempunyai kuasa penguat kuasa.

Menariknya, perdebatan itu kini turut masuk ke dalam politik.

Presiden Amerika Syarikat, Donald Trump, menolak kebimbangan mengenai AI yang tidak terkawal dan menyifatkan sebahagian amaran tersebut sebagai tidak berasas.

Pada masa sama, tokoh politik daripada spektrum berbeza seperti Bernie Sanders dan Steve Bannon dijadualkan tampil bersama untuk menyuarakan kebimbangan terhadap kesan AI kepada manusia.

Bukan itu sahaja, Bank for International Settlements (BIS) memberi amaran bahawa momentum pasaran yang didorong oleh pelaburan AI juga menunjukkan tanda-tanda semakin rapuh.

Menurut BIS, pelabur semakin berhati-hati terhadap keuntungan jangka panjang pelaburan AI, sementara hutang dan leverage syarikat teknologi besar semakin meningkat.

AI masih berkembang dengan sangat pantas, tetapi persoalan utama kini bukan lagi “Sejauh mana AI boleh pergi?”.

Persoalannya semakin berubah kepada “Sejauh mana kita sanggup membiarkan AI pergi?”.

Syarikat teknologi mahu terus membangunkan AI kerana potensinya besar untuk produktiviti, ekonomi, dan penyelidikan.

Pada masa sama, kerajaan dan sebahagian pemimpin industri semakin bimbang tentang penyalahgunaan, keselamatan model, dan kemungkinan manusia kehilangan kawalan terhadap sistem yang semakin berkuasa.

Apa yang berlaku sekarang mungkin menjadi fasa baharu dalam industri AI: daripada perlumbaan membina model paling hebat kepada perlumbaan membina AI yang cukup berkuasa tetapi masih boleh dikawal manusia.