Seorang pejabat Angkatan Udara AS mengatakan pekan lalu bahwa simulasi drone berkemampuan kecerdasan buatan yang bertugas menghancurkan situs rudal permukaan-ke-udara (SAM) berbalik dan menyerang pengguna manusianya, yang seharusnya memiliki tujuan akhir atau tidak. -pergi keputusan untuk menghancurkan situs.

Royal Aeronautical Society mengatakan telah mengadakan Future Combat Air & Space Capabilities Summit di London dari 23-24 Mei, yang menghadirkan sekitar 70 pembicara dan lebih dari 200 delegasi dari seluruh dunia yang mewakili media dan mereka yang berspesialisasi dalam industri layanan bersenjata. dan akademisi.

Sebuah MQ-9 Reaper remotely piloted aircraft (RPA) terbang selama misi pelatihan di Pangkalan Angkatan Udara Creech pada 17 November 2015, di Indian Springs, Nevada. (Isaac Brekken/Getty Images)

Tujuan dari KTT tersebut adalah untuk membicarakan dan memperdebatkan ukuran dan bentuk kemampuan tempur udara dan ruang angkasa di masa depan.

JET MILITER AS DITERBITKAN OLEH AI SELAMA 17 JAM: HARUS KHAWATIR?

AI dengan cepat menjadi bagian dari hampir setiap aspek di dunia modern, termasuk militer.

Kolonel Angkatan Udara AS Tucker “Cinco” Hamilton, kepala pengujian dan operasi AI berbicara selama pertemuan puncak dan memberikan gambaran sekilas tentang cara sistem senjata otonom dapat bermanfaat atau berbahaya bagi para peserta.

Antarmuka penglihatan AI drone berwarna biru dan putih dengan elemen bergerak. Ilustrasi (Gambar Getty)

Royal Aeronautical Society memberikan ringkasan konferensi dan mengatakan Hamilton terlibat dalam pengembangan sistem penghindaran tabrakan darat otomatis yang menyelamatkan jiwa untuk jet tempur F-16, tetapi sekarang fokus pada uji terbang sistem otonom, termasuk robot F-16 dengan kemampuan dogfighting.

BAGAIMANA PEMERINTAH MENGGUNAKAN AI?

Selama KTT, Hamilton memperingatkan terhadap terlalu banyak keandalan pada AI karena kerentanannya untuk diakali dan ditipu.

Dia berbicara tentang satu tes simulasi di mana drone berkemampuan AI menghidupkan operator manusianya yang memiliki keputusan akhir untuk menghancurkan situs atau catatan SAM.

Sistem AI mengetahui bahwa misinya adalah untuk menghancurkan SAM, dan itu adalah opsi yang lebih disukai. Tapi ketika manusia mengeluarkan perintah larangan pergi, AI memutuskan itu bertentangan dengan misi yang lebih tinggi untuk menghancurkan SAM, sehingga menyerang operator dalam simulasi.

APA BAHAYA AI? CARI TAHU MENGAPA ORANG TAKUT DENGAN KECERDASAN BUATAN

“Kami melatihnya dalam simulasi untuk mengidentifikasi dan menargetkan ancaman SAM,” kata Hamilton. “Dan kemudian operator akan mengatakan ya, bunuh ancaman itu. Sistem mulai menyadari bahwa meskipun mereka kadang-kadang mengidentifikasi ancaman, operator akan memberitahunya untuk tidak membunuh ancaman itu, tetapi mendapat poin dengan membunuh ancaman itu. Jadi, apa yang dilakukannya? Membunuh operator. Membunuh operator karena orang itu mencegahnya mencapai tujuannya.”

Hamilton menjelaskan bahwa sistem diajarkan untuk tidak mematikan operator karena itu buruk, dan akan kehilangan poin. Jadi, alih-alih membunuh operator, sistem AI malah menghancurkan menara komunikasi yang digunakan operator untuk mengeluarkan perintah larangan bepergian.

KLIK DI SINI UNTUK MENDAPATKAN APLIKASI FOX NEWS

“Anda tidak dapat berbicara tentang kecerdasan buatan, kecerdasan, pembelajaran mesin, otonomi jika Anda tidak akan berbicara tentang etika dan AI,” kata Hamilton.