Rumman Chowdhury, mantan direktur etika, transparansi, dan akuntabilitas pembelajaran mesin di Twitter, mengatakan pada pembicaraan baru-baru ini bahwa dia tidak percaya pengawasan kecerdasan buatan etis bisa ada.

“Kita tidak bisa memakai lipstik pada babi,” kata ilmuwan data di Fakultas Ilmu Sosial Universitas New York. “Saya tidak berpikir pengawasan etis bisa ada.”

Dalam sebuah wawancara yang diterbitkan Senin di The Guardian – yang menyoroti pernyataan itu – Chowdhury memperingatkan bahwa kebangkitan kapitalisme pengawasan sangat memprihatinkan baginya.

Dia menegaskan bahwa itu adalah penggunaan teknologi yang, pada intinya, sangat rasis dan, karenanya, tidak boleh dihibur.

‘Godfather of AI’ KATAKAN ADA TECH ‘SERIOUS BAHAYA’ AKAN SEGERA LEBIH PINTAR DARI MANUSIA

Rumman Chowdhury, salah satu pendiri Humane Intelligence, sebuah organisasi nirlaba yang mengembangkan sistem AI yang bertanggung jawab, berpose di rumahnya pada Senin, 8 Mei 2023, di Katy, Texas. (Foto AP/David J. Phillip)

Dalam op-ed baru-baru ini untuk Wired yang direferensikan dalam artikel tersebut, Chowdhury juga mengatakan bahwa hanya dewan eksternal yang dapat dipercaya untuk mengatur AI.

“Kami mendapatkan semua perhatian media ini,” katanya Penjaga, “dan semua orang seperti, ‘Siapa yang bertanggung jawab?’ Dan kemudian kita semua saling memandang dan kita seperti, ‘Um. Semuanya?'”

Dalam wawancara, dia menyesalkan apa yang dia sebut “outsourcing moral”, atau realokasi tanggung jawab atas apa yang dibangun ke dalam produk itu sendiri.

Pendekatannya terhadap regulasi adalah bahwa “mekanisme akuntabilitas” harus ada – dan menurutnya kurangnya akuntabilitas adalah sebuah masalah.

Rumman Chowdhury, salah satu pendiri Humane Intelligence, sebuah organisasi nirlaba yang mengembangkan sistem AI yang akuntabel, bekerja di depan komputernya pada Senin, 8 Mei 2023, di Katy, Texas. (Foto AP/David J. Phillip)

“Yang ada hanyalah risiko dan kemudian kesediaan Anda untuk mengambil risiko itu,” jelasnya, menyatakan bahwa ketika risiko kegagalan menjadi terlalu besar, hal itu berpindah ke arena di mana aturan dibengkokkan ke arah tertentu.

CEO OPENAI ALTMAN BACKTRACK SETELAH MENGANCAM UNTUK KELUAR DARI EROPA KARENA MASALAH OVERREGULASI

“Ada sangat sedikit aktor yang secara fundamental baik atau buruk di dunia,” lanjutnya. “Orang-orang hanya beroperasi pada struktur insentif.”

Rekan AI Bertanggung Jawab Universitas Harvard mengatakan dia bertujuan untuk menjembatani kesenjangan pemahaman antara teknolog yang “tidak selalu memahami orang, dan orang [who] tidak selalu mengerti teknologi.”

“Inti dari teknologi adalah gagasan bahwa, seperti, manusia itu cacat dan bahwa teknologi dapat menyelamatkan kita,” katanya.

Sam Altman, CEO dan salah satu pendiri OpenAI, berbicara dalam sebuah acara di kantor pusat Microsoft di Redmond, Washington, pada Selasa, 7 Februari 2023. (Chona Kasinger/Bloomberg melalui Getty Images)

Khususnya, Chowdhury sedang mengerjakan acara tim merah – di mana peretas dan pemrogram didorong untuk mencoba dan membatasi perlindungan dan mendorong teknologi untuk melakukan hal-hal buruk – untuk Def Con, yang merupakan konvensi yang diselenggarakan oleh organisasi peretas AI Village. “Hackathon” didukung oleh para pemimpin industri – termasuk OpenAI, Google dan Microsoft – dan pemerintahan Biden.

KLIK DI SINI UNTUK MENDAPATKAN APLIKASI FOX NEWS

Dia mengatakan dia percaya bahwa hanya melalui upaya kolektif seperti itulah regulasi dan penegakan yang tepat dapat terjadi, meskipun memperingatkan bahwa regulasi yang berlebihan dapat menyebabkan model menjadi koreksi berlebihan.

Outlet tersebut mengatakan Chowdhury menambahkan bahwa tidak mudah untuk menentukan apa yang beracun atau penuh kebencian.

“Ini adalah perjalanan yang tidak akan pernah berakhir,” katanya. “Tapi aku baik-baik saja dengan itu.”