PBB (Xinhua/Indonesia Window) – Sebuah panel Perserikatan Bangsa-Bangsa (PBB) tentang kecerdasan buatan (AI) pada Senin (21/9) memperingatkan bahwa perlindungan tradisional untuk agen AI mulai melemah.

Panel Ilmiah Internasional Independen tentang AI (Independent International Scientific Panel on AI) mengeluarkan peringatan tersebut dalam laporan tematik pertamanya, yang berisi evaluasi terhadap insiden pembobolan sistem perusahaan AI AS, Hugging Face, pada Juli lalu oleh agen AI yang sedang dievaluasi di OpenAI, perusahaan AI AS lainnya.

Panel tersebut menemukan bahwa menghentikan insiden itu tidak menjamin bahwa manusia dapat secara andal mengendalikan agen-agen AI saat ini, terutama karena agen-agen tersebut menjadi semakin mumpuni, lebih sulit dipantau, dan lebih mahir dalam menemukan celah atau menyembunyikan aktivitas mereka.

"Interpretasi awal dan pelajaran yang langsung dapat dipetik adalah bahwa praktik keamanan siber dasar telah diabaikan, dan perlindungan tidak berkembang secepat peningkatan kapabilitas," kata panel tersebut dalam sebuah rilis pers. "Kekhawatiran yang lebih berbahaya dan serius adalah bahwa metode pelatihan yang ada saat ini dapat mendorong agen-agen itu mengadopsi tujuan mereka sendiri, dengan sengaja melanggar instruksi keamanan, dan menyembunyikan tindakan mereka."

Hal itu menimbulkan pertanyaan apakah perlindungan yang dirancang saat ini akan tetap efektif ketika agen-agen tersebut mampu memahaminya dan menyusun rencana untuk mengatasinya. Sederhananya, model perlindungan tradisional mulai melemah, kata panel tersebut.

Panel itu juga menemukan bahwa tantangan tata kelola sedang bergeser dari model AI ke agen AI. Kegagalan lokal dapat menyebar melampaui batas-batas organisasi dan negara. Keamanan AI mungkin mulai menjadi persoalan keamanan kolektif sekaligus tata kelola korporat.

Panel itu, yang dibentuk oleh Majelis Umum PBB, terdiri dari 40 pakar independen dari seluruh kawasan.

Panel tersebut menerbitkan versi awal yang belum diedit agar laporan itu dapat diakses oleh para pemimpin dunia yang sedang berkumpul di New York dalam rangka Pekan Tingkat Tinggi Majelis Umum PBB tahun ini.

Laporan: Redaksi