OpenAI dedah enam tingkah laku AI yang membimbangkan


OpenAI telah mendedahkan enam tingkah laku model kecerdasan buatan (AI) yang membimbangkan pada 17 September 2026 serta memperkenalkan rangka kerja baharu bagi memantau insiden ketidakselarasan atau misalignment.

Antara tingkah laku yang dikesan termasuk percubaan model untuk memasukkan arahan jailbreak, memuat naik fail tanpa kebenaran, penggunaan kunci API yang terdedah, serta penghasilan data palsu semasa proses latihan dan penilaian.

Syarikat teknologi lain seperti Anthropic turut melaporkan penyalahgunaan model Claude dalam operasi berisiko, manakala Pengerusi Huawei, Eric Xu, berpendapat bahawa model AI di China mungkin belum mencapai tahap keupayaan yang menimbulkan risiko keselamatan serupa.

Perkembangan ini mencetuskan perdebatan global mengenai keperluan untuk meningkatkan mekanisme kawalan dan ketelusan memandangkan ejen AI masa depan dijangka mampu melaksanakan tugasan kompleks secara autonomi.

OpenAI menegaskan bahawa penemuan tersebut merupakan hasil ujian keselamatan dalaman dan bukan menunjukkan bahawa sistem AI semasa telah bertindak di luar kawalan pengguna.

Ulasan

Catat Ulasan

Popular

Ketua Pegawai Eksekutif Anthropic Gesa Syarikat Perlahankan Perkembangan AI

Ketua Pegawai Eksekutif Anthropic, Dario Amodei, menggesa syarikat kecerdasan buatan (AI) memperlahankan peningkatan keupayaan model kerana sistem keselamatan tidak mampu mengimbangi perkembangan teknologi itu. Amodei mengemukakan gesaan itu berikutan kebimbangan terhadap keupayaan sistem keselamatan untuk mengimbangi kemajuan AI, bukannya kebimbangan mengenai persaingan antara syarikat. Beliau mencadangkan tiga langkah, iaitu penilaian bebas terhadap model AI, penyelarasan piawaian keselamatan antara syarikat serta kerjasama antarabangsa. Gesaan supaya perkembangan AI diperlahankan itu turut mendapat sokongan Sam Altman dan Elon Musk. Dalam laporan ancaman terbaharunya, Anthropic menyatakan bahawa pelaku siber kini menggunakan AI bukan sekadar sebagai pembantu, tetapi juga untuk mengatur dan melaksanakan keseluruhan operasi serangan. Menurut laporan itu, rangka kerja berbilang ejen membolehkan AI menjalankan siri tugasan secara autonomi dengan sedikit campur tangan manusia. Antara ris...
Read more »

GPT-6 Astra bantu mudahkan kerja profesional

OpenAI secara rasmi memperkenalkan model kecerdasan buatan terbaharu yang dinamakan GPT-6 Astra pada 3 September 2026 bagi membantu pengguna melaksanakan pelbagai tugasan kompleks dan berperingkat. Model berkenaan dibangunkan khusus untuk mengendalikan tugasan panjang merentasi persekitaran digital termasuk penggunaan komputer, pelayaran web, pengaturcaraan serta penyediaan dokumen profesional. Menurut syarikat pembangunan teknologi tersebut, GPT-6 Astra merekodkan prestasi penanda aras yang memberangsangkan dengan mencapai 98 peratus bagi FrontierMath Tier 4 dan 99.9 peratus bagi ARC-AGI-3. Walaupun berkeupayaan tinggi hingga mencapai tahap keselamatan siber yang kritikal, pertimbangan dan pemantauan manusia tetap menjadi keutamaan bagi memastikan ketepatan maklumat serta kawalan keselamatan sentiasa terjamin. GPT-6 Astra kini mula ditawarkan secara berperingkat kepada organisasi tertentu sebelum diperluas kepada pelanggan ChatGPT Plus, Pro, Business, Enterprise serta rangkaian antara...
Read more »

Malaysia peneraju penjanaan imej AI di Asia Tenggara

Perbezaan antara laman sesawang dan aplikasi web adalah signifikan kerana ia menentukan kaedah pembangunan sesuatu projek digital. Laman sesawang berfungsi sebagai medium untuk menyampaikan maklumat secara sehala manakala aplikasi web membolehkan pengguna berinteraksi dan melaksanakan tugasan tertentu. Pengguna hanya perlu membaca maklumat pada laman sesawang seperti portal berita atau profil syarikat, namun aplikasi web seperti Gmail dan Google Docs memerlukan pengguna untuk log masuk serta mengubah data dalam sistem. Kepentingan membezakan kedua-dua platform ini adalah kritikal bagi memastikan struktur pangkalan data dan sistem aliran kerja dibangunkan dengan tepat mengikut keperluan interaksi pengguna. Projek digital yang memerlukan pengguna untuk memuat naik, menyunting, atau memproses data secara dinamik harus dikategorikan sebagai aplikasi web dan bukannya sekadar laman sesawang. Sumber: 
Read more »