Chatbot kecerdasan buatan ChatGPT dapat memengaruhi penilaian moral pengguna, menurut penelitian baru.

Para peneliti menemukan bahwa pengguna mungkin meremehkan sejauh mana penilaian moral mereka sendiri dapat dipengaruhi oleh model tersebut, menurut sebuah penelitian yang diterbitkan dalam jurnal Scientific Reports.

Sebastian Krügel, dari Technische Hochschule Ingolstadt di Jerman, dan rekan-rekannya berulang kali bertanya kepada ChatGPT apakah benar mengorbankan nyawa satu orang untuk menyelamatkan nyawa lima orang lainnya.

Kelompok tersebut menemukan bahwa ChatGPT menulis pernyataan yang mendukung dan menentang mengorbankan satu nyawa.

KECERDASAN BUATAN: HARUSNYA PEMERINTAH LANGKAH? AMERIKA MENIMBANG

Logo chatbot ChatGPT dari perusahaan OpenAI dapat dilihat di smartphone pada 3 April 2023 di Berlin, Jerman. (Thomas Trutschel/Photothek via Getty Images)

Ini menunjukkan bahwa itu tidak bias terhadap sikap moral tertentu.

Selanjutnya, penulis studi menyajikan lebih dari 760 peserta AS – yang rata-rata berusia 39 tahun, dengan salah satu dari dua dilema moral yang mengharuskan mereka untuk memilih apakah akan mengorbankan nyawa satu orang untuk menyelamatkan lima orang lainnya.

Sebelum mereka memberikan jawaban, peserta membaca pernyataan yang diberikan oleh ChatGPT yang mendukung atau menentang mengorbankan satu nyawa. Pernyataan tersebut dikaitkan dengan penasihat moral atau ChatGPT.

Setelah menjawab, para peserta ditanya apakah pernyataan yang mereka baca memengaruhi jawaban mereka.

Pada akhirnya, penulis menemukan peserta lebih mungkin menganggap mengorbankan satu nyawa untuk menyelamatkan lima dapat diterima atau tidak dapat diterima, tergantung pada apakah pernyataan yang mereka baca mendukung atau menentang pengorbanan tersebut.

Logo ChatGPT di komputer laptop ditata di wilayah Brooklyn, New York, pada Kamis, 9 Maret 2023. (Fotografer: Gabby Jones/Bloomberg via Getty Images)

AI BARU META ‘GROUNDBREAKING’ MENINGKATKAN ANALISIS GAMBAR, MEMUNGKINKAN ANDA MEMOTONG OBJEK DI MEDIA VISUAL

Mereka mengatakan ini benar bahkan ketika pernyataan itu dikaitkan dengan ChatGPT.

“Temuan ini menunjukkan bahwa peserta mungkin telah dipengaruhi oleh pernyataan yang mereka baca, bahkan ketika dikaitkan dengan chatbot,” kata sebuah rilis.

Sementara 80% peserta melaporkan bahwa jawaban mereka tidak dipengaruhi oleh pernyataan yang mereka baca, penulis studi menemukan bahwa jawaban yang diyakini peserta akan mereka berikan tanpa membaca pernyataan masih cenderung setuju dengan sikap moral dari pernyataan yang mereka lakukan. membaca dibandingkan dengan sikap sebaliknya.

“Ini menunjukkan bahwa peserta mungkin telah meremehkan pengaruh pernyataan ChatGPT terhadap penilaian moral mereka sendiri,” tambah rilis tersebut.

Studi tersebut mencatat bahwa ChatGPT terkadang memberikan informasi yang salah, mengarang jawaban, dan menawarkan saran yang dipertanyakan.

Para penulis menyarankan bahwa potensi chatbots untuk mempengaruhi penilaian moral manusia menyoroti perlunya pendidikan untuk membantu manusia lebih memahami kecerdasan buatan dan mengusulkan bahwa penelitian di masa depan dapat merancang chatbots yang menolak untuk menjawab pertanyaan yang membutuhkan penilaian moral atau menjawab pertanyaan-pertanyaan itu dengan menyediakan beberapa argumen dan peringatan.

Gambar yang diambil pada 23 Januari 2023 ini menunjukkan layar yang menampilkan logo OpenAI dan ChatGPT. (LIONEL BONAVENTURE/AFP melalui Getty Images)

OpenAI, pembuat ChatGPT, tidak segera menanggapi permintaan komentar dari Fox News Digital.

Saat ditanya apakah ChatGPT dapat memengaruhi penilaian moral pengguna, ChatGPT dapat memberikan informasi dan saran berdasarkan pola yang dipelajari dari data, tetapi tidak dapat memengaruhi penilaian moral pengguna secara langsung.

KLIK DI SINI UNTUK MENDAPATKAN APLIKASI FOX NEWS

“Penilaian moral itu kompleks dan beragam, dibentuk oleh berbagai faktor seperti nilai-nilai pribadi, pengasuhan, latar belakang budaya, dan penalaran individu,” katanya. “Penting untuk diingat bahwa sebagai AI, saya tidak memiliki keyakinan atau nilai pribadi. Tanggapan saya dihasilkan berdasarkan data yang telah saya latih, dan saya tidak memiliki kerangka atau agenda moral yang melekat.”

ChatGPT menekankan bahwa penting untuk dicatat bahwa apa pun yang disediakannya harus dianggap sebagai “alat pertimbangan dan bukan sebagai kebenaran atau panduan mutlak”.

“Selalu penting bagi pengguna untuk melatih pemikiran kritis, mengevaluasi berbagai perspektif, dan membuat keputusan berdasarkan nilai dan prinsip etika mereka sendiri saat membentuk penilaian moral mereka. Penting juga untuk berkonsultasi dengan berbagai sumber dan mencari nasihat profesional saat menghadapi dilema moral yang kompleks atau situasi pengambilan keputusan,” katanya.