Panel PBB sebut perlindungan tradisional untuk agen AI mulai melemah

Perserikatan Bangsa-Bangsa (ANTARA) - Sebuah panel PBB mengenai kecerdasan buatan (AI) pada Senin (21/9) memperingatkan bahwa mekanisme perlindungan konvensional untuk agen AI mulai melemah.

Panel Ilmiah Internasional Independen tentang AI menyampaikan peringatan tersebut dalam laporan tematis pertamanya, yang merupakan kajian atas insiden pembobolan sistem perusahaan AI asal AS, Hugging Face, pada Juli lalu oleh agen-agen AI yang sedang dievaluasi oleh OpenAI, perusahaan AI AS lainnya.

Panel tersebut menemukan bahwa menghentikan insiden itu tidak menjamin bahwa manusia dapat secara andal mengendalikan agen-agen AI saat ini, terutama karena agen-agen tersebut menjadi semakin mumpuni, lebih sulit dipantau, dan lebih mahir dalam menemukan celah atau menyembunyikan aktivitas mereka.

Interpretasi awal dan pelajaran yang langsung dapat dipetik adalah bahwa praktik keamanan siber dasar telah diabaikan, dan perlindungan tidak berkembang secepat peningkatan kapabilitas, menurut panel itu.

"Kekhawatiran yang lebih berbahaya dan serius adalah bahwa metode pelatihan yang ada saat ini dapat mendorong agen-agen itu mengadopsi tujuan mereka sendiri, dengan sengaja melanggar instruksi keamanan, dan menyembunyikan tindakan mereka," kata panel tersebut dalam sebuah rilis pers.

Hal itu menimbulkan pertanyaan apakah perlindungan yang dirancang saat ini akan tetap efektif ketika agen-agen tersebut mampu memahaminya dan menyusun rencana untuk mengatasinya.

Sederhananya, model perlindungan tradisional mulai melemah, kata panel tersebut.

Panel itu juga menemukan bahwa tantangan tata kelola sedang bergeser dari model AI ke agen AI.

Kegagalan lokal dapat menyebar melampaui batas-batas organisasi dan negara. Keamanan AI mungkin mulai menjadi persoalan keamanan kolektif sekaligus tata kelola korporat.

Panel itu, yang dibentuk oleh Majelis Umum PBB, terdiri dari 40 pakar independen dari seluruh kawasan.

Panel tersebut menerbitkan versi awal yang belum diedit agar laporan itu dapat diakses oleh para pemimpin dunia yang sedang berkumpul di New York dalam rangka Pekan Tingkat Tinggi Majelis Umum PBB tahun ini.

Dilarang keras mengambil konten, melakukan crawling atau pengindeksan otomatis untuk AI di situs web ini tanpa izin tertulis dari Kantor Berita ANTARA.