Perlombaan senjata kecerdasan buatan antara negara dan perusahaan untuk melihat siapa yang dapat mengembangkan mesin AI paling kuat dapat menciptakan ancaman eksistensial bagi umat manusia, salah satu pendiri organisasi nirlaba keamanan AI mengatakan kepada Fox News.

“AI dapat menimbulkan risiko kepunahan, dan sebagian alasannya adalah karena kita saat ini terkunci dalam perlombaan senjata AI,” kata Direktur Eksekutif Pusat Keamanan AI Dan Hendrycks. “Kami sedang membangun teknologi yang semakin kuat, dan kami tidak tahu bagaimana mengendalikan atau memahaminya sepenuhnya.”

Sam Altman, CEO OpenAI, menandatangani pernyataan Center for AI Safety yang mengatakan bahwa AI merupakan ancaman eksistensial bagi umat manusia. (Bill Clark/CQ-Roll Call, Inc melalui Getty Images)

“Kami melakukan hal yang sama dengan senjata nuklir,” lanjutnya. “Kita semua berada di perahu yang sama sehubungan dengan risiko eksistensial dan risiko kepunahan.”

AI ARMS RACE BISA MENYEBABKAN KEPUNAHAN–ACARA TINGKAT KEMANUSIAAN: DIREKTUR KESELAMATAN AI

TONTON LEBIH BANYAK FOX NEWS DIGITAL ASLI DI SINI

Firma Hendrycks merilis pernyataan pada hari Selasa yang memperingatkan bahwa “[m]mengurangi risiko kepunahan dari AI harus menjadi prioritas global di samping risiko skala sosial lainnya seperti pandemi dan perang nuklir.” Banyak peneliti, pengembang, dan eksekutif AI terkemuka seperti CEO OpenAI Sam Altman dan “The Godfather of AI,” Geoffrey Hinton , menandatangani pernyataan itu.

Altman baru-baru ini menganjurkan pemerintah untuk mengatur AI dalam kesaksian di depan Kongres “untuk mengurangi” risiko yang ditimbulkan oleh teknologi tersebut.

“Saya khawatir pengembangan AI menjadi proses yang relatif tidak terkendali, dan AI akhirnya mendapatkan lebih banyak pengaruh di masyarakat karena mereka sangat pandai dalam mengotomatiskan berbagai hal,” kata Hendrycks, yang juga menandatangani pernyataan organisasinya, kepada Fox News. “Mereka bersaing satu sama lain dan ada ekosistem agen yang menjalankan banyak operasi, dan kita mungkin kehilangan kendali atas proses itu.”

“Itu bisa membuat kita seperti spesies kelas dua atau mengikuti cara Neanderthal,” lanjutnya.

JUTAAN PEKERJA FAST FOOD BISA KEHILANGAN PEKERJAANNYA DALAM WAKTU 5 TAHUN. INILAH MENGAPA

CEO Tesla Elon Musk telah blak-blakan tentang potensi ancaman AI, dengan mengatakan bahwa teknologi tersebut dapat menyebabkan “kehancuran peradaban” atau gangguan pemilu. Musk juga menandatangani surat pada bulan Maret yang mengadvokasi jeda eksperimen AI besar.

Elon Musk telah memperingatkan bahwa AI dapat menyebabkan “kehancuran peradaban”. (Justin Sullivan/Getty Images)

Namun, surat tersebut gagal mendorong pengembang AI besar seperti OpenAI, Microsoft, dan Google untuk menunda eksperimen.

“Kita sedang mengalami perlombaan senjata AI yang berpotensi membawa kita ke jurang bencana seperti yang terjadi pada perlombaan senjata nuklir,” kata Hendrycks. “Jadi itu berarti kita membutuhkan prioritas global untuk masalah ini.”

KLIK DI SINI UNTUK MENDAPATKAN APLIKASI FOX NEWS

Tetapi organisasi yang menciptakan sistem AI paling kuat di dunia tidak memiliki insentif untuk memperlambat atau menjeda pengembangan, Hendrycks memperingatkan. Pusat Keamanan AI berharap pernyataannya akan memberi tahu orang-orang bahwa AI menimbulkan risiko yang kredibel dan penting.

“Sekarang mudah-mudahan kita bisa memulai pembicaraan sehingga bisa ditangani seperti prioritas global lainnya, seperti perjanjian atau regulasi internasional,” kata Hendrycks kepada Fox News. “Kita perlu memperlakukan ini sebagai prioritas yang lebih besar, prioritas sosial dan prioritas teknis, untuk mengurangi risiko ini.”

Untuk menyaksikan wawancara lengkap dengan Hendrycks, klik di sini.