Kecerdasan buatan membuka pintu bagi tren mengganggu orang yang menciptakan gambar realistis anak-anak dalam pengaturan seksual, yang dapat meningkatkan jumlah kasus kejahatan seks terhadap anak-anak dalam kehidupan nyata, para ahli memperingatkan.

Platform AI yang dapat meniru percakapan manusia atau membuat gambar realistis meledak popularitasnya akhir tahun lalu hingga 2023 setelah peluncuran chatbot ChatGPT, yang berfungsi sebagai momen penting untuk penggunaan kecerdasan buatan. Karena keingintahuan orang-orang di seluruh dunia dipicu oleh teknologi untuk pekerjaan atau tugas sekolah, yang lain menggunakan platform untuk tujuan yang lebih jahat.

National Crime Agency, yang merupakan badan utama Inggris yang memerangi kejahatan terorganisir, memperingatkan minggu ini bahwa proliferasi gambar eksplisit anak-anak yang dihasilkan mesin memiliki efek “radikalisasi” “menormalkan” pedofilia dan mengganggu perilaku terhadap anak-anak.

“Kami menilai bahwa melihat gambar-gambar ini – baik nyata atau buatan AI – secara material meningkatkan risiko pelaku beralih ke pelecehan seksual terhadap anak-anak itu sendiri,” kata direktur jenderal NCA, Graeme Biggar, dalam sebuah laporan baru-baru ini.

AI ‘DEEPFAKES’ GAMBAR TIDAK BERSALAH FUEL SPIKE DALAM PENIPUAN SEXTORTION, FBI MEMPERINGATKAN

Graeme Biggar, Direktur Jenderal Badan Kejahatan Nasional (NCA), selama rapat Dewan Kepolisian Irlandia Utara di James House, Belfast. Tanggal pengambilan gambar: Kamis 1 Juni 2023. (Foto oleh Liam McBurney/PA Images via Getty Images) (Gambar Getty)

Badan tersebut memperkirakan ada hingga 830.000 orang dewasa, atau 1,6% dari populasi orang dewasa di Inggris yang menimbulkan beberapa jenis bahaya seksual terhadap anak-anak. Angka yang diperkirakan sepuluh kali lebih besar dari populasi penjara Inggris, menurut Biggar.

Sebagian besar kasus pelecehan seksual anak melibatkan melihat gambar eksplisit, menurut Biggar, dan dengan bantuan AI, membuat dan melihat gambar seksual dapat “menormalkan” pelecehan anak di dunia nyata.

KECERDASAN BUATAN DAPAT MENDETEKSI ‘SEXTORTION’ SEBELUM TERJADI DAN MEMBANTU FBI: EXPERT

“[The estimated figures] sebagian mencerminkan pemahaman yang lebih baik tentang ancaman yang secara historis diremehkan, dan sebagian peningkatan nyata yang disebabkan oleh efek radikalisasi internet, di mana ketersediaan video dan gambar anak-anak yang dilecehkan dan diperkosa secara luas, dan kelompok berbagi dan mendiskusikan gambar, telah menormalkan perilaku seperti itu, “kata Biggar.

Ilustrasi kecerdasan buatan terlihat di laptop dengan latar belakang buku di foto ilustrasi ini pada 18 Juli 2023. (Foto oleh Jaap Arriens/NurPhoto via Getty Images) (Gambar Getty)

Di Amerika Serikat, ledakan serupa menggunakan AI untuk membuat gambar seksual anak-anak sedang berlangsung.

“Gambar anak-anak, termasuk konten korban yang diketahui, sedang digunakan kembali untuk keluaran yang sangat jahat ini,” Rebecca Portnoff, direktur ilmu data di sebuah organisasi nirlaba yang bekerja untuk melindungi anak-anak, Thorn, mengatakan kepada Washington Post bulan lalu.

PRIA KANADA DIJUKUR PENJARA AKIBAT PORNOGRAFI ANAK YANG DIHASILKAN AI: LAPORAN

“Identifikasi korban sudah menjadi masalah jarum di tumpukan jerami, di mana penegak hukum berusaha menemukan seorang anak dalam bahaya,” katanya. “Kemudahan menggunakan alat-alat ini merupakan perubahan yang signifikan, begitu juga realismenya. Itu hanya membuat segalanya lebih menantang.”

Situs AI populer yang dapat membuat gambar berdasarkan petunjuk sederhana sering kali memiliki pedoman komunitas yang mencegah pembuatan foto yang mengganggu.

Gadis remaja di kamar gelap. (Gambar Getty)

Platform semacam itu dilatih pada jutaan gambar dari seluruh internet yang berfungsi sebagai blok bangunan bagi AI untuk membuat penggambaran orang atau lokasi yang meyakinkan yang sebenarnya tidak ada.

PENGACARA MENDUKUNG POTENSI AI UNTUK MEMPERBAIKI KASUS PENGADILAN DENGAN BUKTI PHONY

Midjourney, misalnya, menyerukan konten PG-13 yang menghindari “ketelanjangan, organ seksual, fiksasi pada payudara telanjang, orang di kamar mandi atau toilet, citra seksual, fetish.” Sementara DALL-E, platform pembuat gambar OpenAI, hanya mengizinkan konten dengan peringkat G, melarang gambar yang menampilkan “ketelanjangan, tindakan seksual, layanan seksual, atau konten yang dimaksudkan untuk membangkitkan gairah seksual”. Forum web gelap orang-orang dengan niat buruk mendiskusikan solusi untuk membuat gambar yang mengganggu, menurut berbagai laporan tentang AI dan kejahatan seks.

Mobil polisi dengan tanda 911. (Gambar Getty)

Biggar mencatat bahwa gambar anak-anak yang dihasilkan oleh AI juga melemparkan polisi dan penegak hukum ke dalam labirin untuk mengartikan gambar palsu dari korban nyata yang membutuhkan bantuan.

“Penggunaan AI untuk pelecehan seksual anak akan mempersulit kami untuk mengidentifikasi anak-anak nyata yang membutuhkan perlindungan, dan lebih lanjut menormalkan pelecehan,” kata direktur jenderal NCA.

Gambar yang dihasilkan AI juga dapat digunakan dalam penipuan sextortion, dengan FBI mengeluarkan peringatan tentang kejahatan tersebut bulan lalu.

Deepfake sering melibatkan pengeditan video atau foto orang agar terlihat seperti orang lain dengan menggunakan AI pembelajaran mendalam, dan telah digunakan untuk melecehkan korban atau mengumpulkan uang, termasuk anak-anak.

FBI PERINGATAN DEEPFAKE AI DIGUNAKAN UNTUK MEMBUAT SKEMA ‘SEXTORTION’

“Aktor jahat menggunakan teknologi dan layanan manipulasi konten untuk mengeksploitasi foto dan video—biasanya diambil dari akun media sosial seseorang, membuka internet, atau diminta dari korban—menjadi gambar bertema seksual yang tampak nyata seperti korban, lalu mengedarkannya di media sosial, forum publik, atau situs web porno,” kata FBI pada bulan Juni.

KLIK DI SINI UNTUK MENDAPATKAN APLIKASI FOX NEWS

“Banyak korban, termasuk anak di bawah umur, tidak menyadari gambar mereka telah disalin, dimanipulasi, dan diedarkan sampai diketahui oleh orang lain.”