PBB (Xinhua/Indonesia Window) – Sekretaris Jenderal (Sekjen) PBB Antonio Guterres pada Selasa (22/9) menyerukan langkah-langkah untuk mengelola risiko kecerdasan buatan (AI), termasuk pembentukan Kerangka Kerja Manajemen Risiko AI multilateral.

"Selama berabad-abad, kekuatan berasal dari wilayah. Kemudian industri. Lalu keuangan. Kini, kekuatan semakin bersumber dari data, kapasitas komputasi, dan algoritma. Kekuatan baru ini sangat terkonsentrasi. Perkembangannya sangat cepat, serta melaju mendahului kemampuan kita untuk memahami seluruh dampaknya," ujar Guterres dalam pidato pembukaan Debat Umum Sidang Majelis Umum PBB ke-81.

Bahayanya bukanlah teknologi itu sendiri, melainkan teknologi tanpa akuntabilitas, kemampuan tanpa pengawasan, serta pengambilan keputusan tanpa transparansi. Bahaya tersebut tidak dapat diremehkan. Para pengembang yang membangun sistem-sistem inilah yang kini justru membunyikan alarm, ujar Guterres.

Tugas utama pemerintah adalah melindungi rakyatnya. Pemerintah harus memikul tanggung jawabnya. Dan pemerintah dengan kemampuan AI terbesar memiliki tanggung jawab terbesar terhadap umat manusia, untuk membangun saluran bagi dialog, transparansi, kepercayaan, dan kerja sama, ujarnya.

Pada momen krusial selama Perang Dingin, para rival strategis menyadari perlunya mengelola risiko eksistensial bersama. Mereka membangun mekanisme untuk mengurangi kesalahpahaman, mengelola eskalasi, dan mencegah bencana. Kala itu, fokusnya adalah persenjataan nuklir. Kini, AI menuntut kejelasan tujuan dan urgensi serupa, ungkap sekjen PBB itu.

"Negara-negara yang memimpin revolusi teknologi ini harus berbagi informasi mengenai risiko keselamatan yang muncul, bekerja sama dalam pengujian dan evaluasi, serta mengupayakan langkah pengamanan bersama untuk melindungi kita semua," ujar Guterres. "Namun, karena hal ini berdampak pada kita semua, koordinasi global sangatlah penting. Dan hanya ada satu tempat di mana setiap negara memiliki suara dalam menentukan masa depan kita bersama, dan tempat itu adalah PBB."

Melalui Global Digital Compact, negara-negara anggota PBB untuk pertama kalinya menyepakati prinsip-prinsip universal bagi tata kelola AI. Lewat Dialog Tata Kelola AI Global (Global Dialogue on AI Governance), sebuah platform dibentuk agar pemerintah, ilmuwan, pemimpin industri, dan masyarakat sipil dapat bekerja sama.

Selain itu, melalui Panel Ilmiah Internasional Independen tentang AI, PBB telah menghimpun keahlian global untuk memastikan kebijakan dipandu oleh bukti, ujarnya.

Melanjutkan upaya-upaya tersebut, negara-negara anggota PBB harus mengambil langkah selanjutnya; pertama, mendorong terciptanya kondisi bagi pengaturan laju pengembangan AI secara bertanggung jawab serta langkah-langkah pengamanan tambahan yang diperlukan untuk mengatasi berbagai risiko; dan kedua, mengupayakan pembentukan Kerangka Kerja Manajemen Risiko AI multilateral yang didukung oleh pengawasan yang kredibel dan independen, ujar Guterres.

AI harus dibentuk oleh umat manusia, bersama umat manusia, dan demi kepentingan seluruh umat manusia. Anak-anak tidak boleh dijadikan objek uji coba bagi sistem yang berjalan tanpa aturan. Keputusan hidup-mati tidak boleh diserahkan kepada mesin. Robot-robot pembunuh tidak boleh memiliki tempat dalam masa depan kita, imbuh Guterres.

Laporan: Redaksi