CEO OpenAI Sam Altman bersaksi di depan Kongres di Washington, DC, minggu ini tentang mengatur kecerdasan buatan serta ketakutan pribadinya terhadap teknologi dan apa arti sistem AI yang “menakutkan” baginya.

Fox News Digital meminta chatbot OpenAI yang sangat populer, ChatGPT, untuk juga mempertimbangkan contoh sistem kecerdasan buatan yang “menakutkan”, dan melaporkan enam contoh hipotetis tentang bagaimana AI dapat dipersenjatai atau memiliki dampak yang berpotensi membahayakan masyarakat.

Ketika ditanya oleh Fox News Digital pada hari Selasa setelah kesaksiannya di hadapan subkomite Kehakiman Senat, Altman memberikan contoh “AI yang menakutkan” yang mencakup sistem yang dapat merancang “patogen biologis baru”.

“Sebuah AI yang bisa meretas sistem komputer,” lanjutnya. “Saya pikir ini semua menakutkan. Sistem ini bisa menjadi sangat kuat, itulah mengapa saya senang berada di sini hari ini dan mengapa menurut saya ini sangat penting.”

CEO OPENAI SAM ALTMAN MENGUNGKAPKAN APA YANG DIANGGAPNYA ‘MENAKUTKAN’ TENTANG AI

CEO OpenAI Sam Altman berbicara kepada pers setelah kesaksiannya di hadapan subkomite Kehakiman Senat pada 16 Mei 2023. (Berita Rubah)

Ketakutan telah menyebar di antara beberapa pakar dan pemimpin teknologi, serta anggota masyarakat, bahwa kecerdasan buatan dapat tumbuh begitu luas dan kuat sehingga dapat melenyapkan masyarakat.

“Bapak baptis kecerdasan buatan”, ilmuwan komputer Geoffrey Hinton, misalnya, memperingatkan bulan lalu bahwa “tidak terbayangkan” AI dapat menghapus “kemanusiaan”. Ucapannya muncul setelah dia berhenti dari pekerjaannya di Google, mengatakan dia menyesali pekerjaan seumur hidupnya karena bagaimana AI dapat disalahgunakan.

Sistem senjata otonom canggih

Saat ditanyai contoh “AI yang menakutkan”, ChatGPT menjawab, “Ini [autonomous weapon systems]sering disebut sebagai ‘robot pembunuh’ atau ‘senjata otonom yang mematikan’, menimbulkan masalah etika dan potensi penyalahgunaan atau konsekuensi yang tidak diinginkan.” (Costfoto / Penerbitan Masa Depan melalui Getty Images)

Mengikuti komentar Altman tentang AI yang menakutkan dan para pemimpin teknologi lainnya membunyikan alarm tentang AI yang disalahgunakan, Fox News Digital meminta ChatGPT pada hari Rabu untuk memberikan contoh “AI yang menakutkan”.

“Contoh ‘AI menakutkan’ adalah sistem senjata otonom canggih yang dapat mengidentifikasi dan menyerang target secara mandiri tanpa campur tangan manusia,” jawab chatbot. “Sistem ini, sering disebut sebagai ‘robot pembunuh’ atau ‘senjata otonom yang mematikan’, menimbulkan masalah etika dan potensi penyalahgunaan atau konsekuensi yang tidak diinginkan.”

ChatGPT mengatakan untuk “membayangkan skenario di mana sistem senjata bertenaga AI semacam itu diprogram dengan serangkaian kriteria untuk mengidentifikasi dan menghilangkan potensi ancaman.” Jika sistem seperti itu tidak berfungsi atau berakhir di tangan aktor jahat, “itu dapat menyebabkan penargetan sembarangan, menyebabkan kehancuran yang meluas dan hilangnya nyawa.”

Chatbot menambahkan bahwa ini hanyalah salah satu contoh “bagaimana AI, jika tidak dikontrol atau dipandu dengan baik oleh nilai-nilai manusia, dapat menimbulkan implikasi yang berpotensi mengkhawatirkan.”

Deepfake

Ketakutan telah menyebar di antara beberapa pakar dan pemimpin teknologi, serta anggota masyarakat, bahwa kecerdasan buatan dapat tumbuh begitu luas dan kuat sehingga dapat melenyapkan masyarakat. (Reuters / Dado Ruvic / Ilustrasi)

Fox News Digital meminta chatbot untuk memberikan contoh tambahan “AI yang menakutkan”, dan contoh kedua yang diberikan adalah “deepfakes”, yang sering melibatkan pengeditan video atau foto orang agar terlihat seperti orang lain dengan menggunakan AI pembelajaran mendalam.

“Teknologi ini dapat disalahgunakan untuk menyebarkan disinformasi, pemerasan, atau memanipulasi opini publik. Deepfake berpotensi merusak kepercayaan, menciptakan keresahan sosial, dan merusak reputasi,” kata ChatGPT.

Deepfakes menghantam radar publik pada tahun 2017 setelah pengguna Reddit memposting pornografi selebriti yang tampak realistis ke platform. Deepfakes sejak itu menjadi lebih banyak digunakan dan meyakinkan, dan mereka telah menyebabkan video palsu, seperti komedian Jerry Seinfeld yang membintangi drama kejahatan klasik tahun 1994 “Pulp Fiction” atau rapper Snoop Dogg yang muncul dalam infomersial palsu yang mempromosikan pembacaan kartu tarot.

KRITIK MENGATAKAN AI DAPAT MENGANCAM KEMANUSIAAN, TETAPI CHATGPT MEMILIKI PREDIKSI HARI KIAMAT SENDIRI

pengawasan bertenaga AI

ChatGPT juga mencantumkan sistem “pengawasan bertenaga AI” yang digunakan oleh aktor jahat, seperti “rezim otoriter”, sebagai contoh “AI yang menakutkan”. (Koleksi Smith / Gado / Getty Images / File)

Chatbot selanjutnya mencantumkan sistem “pengawasan bertenaga AI” yang digunakan oleh aktor jahat, seperti “rezim otoriter”, sebagai contoh “AI yang menakutkan”.

“Penggunaan AI dalam sistem pengawasan dapat menimbulkan kekhawatiran tentang privasi dan kebebasan sipil,” kata chatbot tersebut. “Algoritme pengenalan wajah canggih yang dikombinasikan dengan kamera pengintai dapat memungkinkan pelacakan massal dan identifikasi individu, yang mengarah ke potensi pelanggaran oleh rezim otoriter atau pemantauan warga yang invasif.”

Di AS, beberapa departemen kepolisian dan bisnis swasta telah menggunakan sistem pengenalan wajah bertenaga AI dalam upaya mengekang kejahatan. Penggunaan teknologi ini memiliki beberapa kegagalan penting, termasuk beberapa tuntutan hukum dari orang-orang yang mengatakan bahwa mereka ditangkap secara curang ketika sistem salah mengidentifikasi tersangka dalam kasus kejahatan.

Bot rekayasa sosial

Kecerdasan Buatan sedang menghadapi perdebatan tentang regulasi. (iStock)

ChatGPT mengatakan chatbot sendiri menimbulkan ancaman bagi masyarakat dan individu, dengan alasan bahwa “chatbot dan algoritma rekayasa sosial” dapat dilatih untuk “memanipulasi perilaku manusia dan mengeksploitasi kerentanan.”

“Bot ini dapat digunakan untuk serangan phishing, menyebarkan propaganda, atau memengaruhi opini publik melalui platform media sosial, memperbesar potensi misinformasi dan perpecahan sosial,” kata chatbot.

Ketika diminta untuk menguraikan ancaman yang dapat ditimbulkan oleh chatbot, ChatGPT mengatakan bahwa teknologi semacam itu memiliki kemampuan untuk meniru percakapan manusia dan “berinteraksi secara meyakinkan dengan individu”. Chatbots kemudian dapat “mengeksploitasi kerentanan psikologis” manusia dengan menganalisis respons mereka, berpotensi menyebabkan manusia membocorkan informasi pribadi yang sensitif atau membeli informasi palsu dari bot, atau sistem dapat memanipulasi “emosi manusia untuk tujuan jahat”.

CEO OPENAI SAM ALTMAN MENGUNDANG PERATURAN FEDERAL TENTANG KECERDASAN BUATAN

Pengangguran dan kesenjangan ekonomi

Pria pengangguran mengantre untuk minum kopi dan roti di dapur umum di New York City sekitar tahun 1930. (FPG / Arsip Hulton / Getty Images)

ChatGPT berpendapat bahwa ketika sistem kecerdasan buatan menjadi lebih kuat, mereka dapat mengambil alih pekerjaan yang biasanya ditempati manusia, yang dapat memperlebar “ketidaksetaraan ekonomi”.

“Ada kekhawatiran tentang pemindahan pekerjaan dan melebarnya ketimpangan ekonomi,” kata ChatGPT. “Sistem dan robot berbasis AI yang menggantikan pekerja manusia di berbagai industri dapat menyebabkan hilangnya pekerjaan yang signifikan dan gangguan sosial jika tidak dikelola dengan baik atau disertai dengan langkah-langkah untuk melatih dan melatih kembali tenaga kerja.”

Sebuah laporan dari Goldman Sachs awal tahun ini menemukan bahwa AI generatif dapat menggantikan dan memengaruhi 300 juta pekerjaan di seluruh dunia. Studi lain dari outplacement dan firma pembinaan eksekutif Challenger, Gray & Christmas menemukan bahwa ChatGPT dapat menggantikan setidaknya 4,8 juta pekerjaan di Amerika.

Laporan tersebut telah menimbulkan kecemasan di kalangan pekerja, termasuk di bidang yang kemungkinan besar terpengaruh oleh teknologi, seperti perwakilan layanan pelanggan, tetapi para pendukung teknologi tersebut mengatakan proliferasi AI dapat mengarah pada pengembangan pekerjaan baru dan penguatan ekonomi.

CEO OPENAI SAM ALTMAN MENGAKUI KETAKUTAN TERBESARNYA TERHADAP AI: ‘ITU BISA SALAH SAJA’

Bias dan diskriminasi AI

ChatGPT mengatakan sistem AI dapat melanggengkan bias dan diskriminasi berdasarkan cara pelatihannya, yang dapat memperkuat “kesenjangan sosial yang ada.”

“Sistem AI dapat secara tidak sengaja mengabadikan bias yang ada dalam data yang mereka latih, yang mengarah ke hasil diskriminatif,” kata ChatGPT. “Misalnya, algoritme yang bias dalam proses perekrutan atau sistem kepolisian prediktif dapat melanggengkan bias sistemik dan perlakuan tidak adil terhadap kelompok tertentu, memperkuat ketidaksetaraan sosial yang ada.”

ChatGPT terkadang dapat “berhalusinasi”, artinya dapat menanggapi pertanyaan dengan jawaban yang kedengarannya benar tetapi sebenarnya dibuat-buat. Kekhawatiran atas halusinasi dan bias politik dalam sistem AI telah meningkat dalam beberapa bulan terakhir, dengan raksasa teknologi Elon Musk mengatakan kepada Fox News bulan lalu bahwa pemrogram Silicon Valley “melatih AI untuk berbohong.”

SIAPA SAM ALTMAN? PEMIMPIN TEKNOLOGI DI BALIK LAB KECERDASAN BUATAN OPENAI

ChatGPT terkadang dapat “berhalusinasi”, artinya dapat menanggapi pertanyaan dengan jawaban yang kedengarannya benar tetapi sebenarnya dibuat-buat. (Getty Images / File)

ChatGPT menyoroti dalam tanggapannya tentang “AI yang menakutkan” bahwa meskipun contohnya menyoroti “potensi implikasi negatif dari AI, mereka juga mencerminkan pentingnya pengembangan yang bertanggung jawab, regulasi, dan pertimbangan etis untuk mengurangi risiko tersebut dan memastikan penggunaan yang bermanfaat dan aman. teknologi AI.”

CEO OPENAI SAM ALTMAN MENGHADAPI PANEL SENAT SAAT TEKANAN MEMBANGUN UNTUK MENGATUR AI

Altman mengatakan selama sidang Senat Selasa bahwa ketakutan terbesarnya saat OpenAI mengembangkan kecerdasan buatan adalah menyebabkan gangguan besar yang berbahaya bagi orang-orang.

CEO OpenAI Sam Altman duduk sebelum dimulainya sidang subkomite Kehakiman Senat tentang AI, Selasa, 16 Mei 2023. (Bill Clark / CQ-Roll Call Inc. melalui Getty Images)

“Ketakutan terburuk saya adalah bahwa kami menyebabkan signifikan – kami, lapangan, industri teknologi – menyebabkan kerugian yang signifikan bagi dunia,” kata Altman. “Saya pikir itu bisa terjadi dalam banyak cara berbeda. Itu sebabnya kami memulai perusahaan.”

“Saya pikir jika teknologi ini salah, bisa sangat salah, dan kami ingin bersuara tentang itu,” tambahnya. “Kami ingin bekerja sama dengan pemerintah untuk mencegah hal itu terjadi.”

KLIK DI SINI UNTUK MENDAPATKAN APLIKASI FOX NEWS

Altman mengatakan selama persidangan bahwa dia mengundang kesempatan untuk bekerja dengan anggota parlemen AS dalam menyusun peraturan untuk AI yang akan membantu mencegah hasil yang tidak diinginkan dengan teknologi tersebut.