Bidang kecerdasan buatan membutuhkan pengawas internasional untuk mengatur superintelligence di masa depan, menurut pendiri OpenAI.

Dalam posting blog dari CEO Sam Altman dan pemimpin perusahaan Greg Brockman dan Ilya Sutskever, grup tersebut mengatakan – mengingat potensi risiko eksistensial – dunia “tidak bisa hanya reaktif”, membandingkan teknologi dengan energi nuklir.

Untuk itu, mereka menyarankan koordinasi di antara upaya pembangunan terkemuka, menyoroti bahwa “ada banyak cara untuk menerapkannya,” termasuk proyek yang dibuat oleh pemerintah besar atau membatasi tingkat pertumbuhan tahunan.

“Kedua, kita mungkin pada akhirnya membutuhkan sesuatu seperti IAEA untuk upaya superintelligence; setiap upaya di atas ambang batas kemampuan (atau sumber daya seperti komputasi) tertentu harus tunduk pada otoritas internasional yang dapat memeriksa sistem, memerlukan audit, menguji kepatuhan dengan standar keselamatan, tempatkan batasan pada tingkat penyebaran dan tingkat keamanan, dll.” mereka menegaskan.

AI BISA TUMBUH SANGAT KUAT MENGGANTIKAN PROFESIONAL BERPENGALAMAN DALAM WAKTU 10 TAHUN, PERINGATAN SAM ALTMAN

Sam Altman, chief executive officer OpenAI, selama obrolan api unggun di University College London, Inggris Raya, pada Rabu, 24 Mei 2023. (Chris J. Ratcliffe/Bloomberg melalui Getty Images)

Badan Energi Atom Internasional adalah pusat kerjasama internasional di bidang nuklir, di mana AS adalah salah satu negara anggotanya.

Para penulis mengatakan pelacakan komputasi dan penggunaan energi bisa sangat membantu.

“Sebagai langkah pertama, perusahaan dapat secara sukarela setuju untuk mulai mengimplementasikan elemen-elemen dari apa yang suatu hari nanti diperlukan oleh agensi semacam itu, dan sebagai langkah kedua, masing-masing negara dapat menerapkannya. Penting bahwa agensi semacam itu berfokus pada pengurangan risiko eksistensial dan bukan masalah yang harus diserahkan kepada masing-masing negara, seperti menentukan apa yang boleh dikatakan oleh AI,” lanjut blog tersebut.

Ketiga, mereka mengatakan bahwa mereka membutuhkan kemampuan teknis untuk membuat “superintelligence aman”.

Logo OpenAI pada smartphone di Brooklyn pada 12 Januari 2023. (Gabby Jones/Bloomberg melalui Getty Images)

VERSI TERBARU CHATGPT LULUS UJIAN RADIOLOGI BOARD-STYLE, MENYOROT ‘POTENSI TUMBUH’ AI, TEMUAN STUDI

Meskipun ada beberapa aspek yang “tidak dalam ruang lingkup” – termasuk memungkinkan pengembangan model di bawah ambang batas kemampuan yang signifikan “tanpa jenis regulasi” yang mereka gambarkan dan bahwa sistem yang “dikhawatirkan” tidak boleh dipermudah dengan “menerapkan yang serupa standar teknologi jauh di bawah standar ini” – mereka mengatakan tata kelola sistem yang paling kuat harus memiliki pengawasan publik yang kuat.

Sam Altman berbicara dalam sidang Subkomite Kehakiman Senat di Washington, DC, pada Selasa, 16 Mei 2023. (Eric Lee/Bloomberg melalui Getty Images)

“Kami percaya orang-orang di seluruh dunia harus secara demokratis memutuskan batasan dan default untuk sistem AI. Kami belum tahu bagaimana merancang mekanisme seperti itu, tetapi kami berencana untuk bereksperimen dengan pengembangannya. Kami terus berpikir demikian, dalam lingkup yang luas ini batas, pengguna individu harus memiliki banyak kontrol atas perilaku AI yang mereka gunakan,” kata mereka.

Ketiganya percaya bahwa sistem AI akan melebihi tingkat keahlian ahli di sebagian besar domain dalam dekade berikutnya.

Jadi, mengapa membangun teknologi AI mengingat risiko dan kesulitan yang ditimbulkannya?

KLIK DI SINI UNTUK MENDAPATKAN APLIKASI FOX NEWS

Mereka mengklaim AI akan mengarah ke “dunia yang jauh lebih baik daripada yang dapat kita bayangkan hari ini,” dan bahwa itu akan “berisiko dan sulit untuk menghentikan penciptaan superintelligence.”

“Karena keuntungannya sangat luar biasa, biaya untuk membangunnya menurun setiap tahun, jumlah aktor yang membangunnya meningkat pesat, dan ini merupakan bagian dari jalur teknologi yang kita jalani, menghentikannya akan membutuhkan sesuatu seperti rezim pengawasan global, dan bahkan itu tidak dijamin berhasil. Jadi kita harus melakukannya dengan benar,” kata mereka.