Studi Ungkap ChatGPT Bakal Bohong dan Curang saat Didesak Cari Duit

Italia memblok ChatGPT karena masalah data pribadi. OpenAI selaku pencipta platform tersebut pun tak tinggal diam.


Jakarta, CNN Indonesia

Studi baru menunjukkan artificial Intelligence atau AI seperti ChatGPT akan berbuat curang dan menipu saat pengguna menyuruhnya untuk mencari uang. Simak hasil penelitian berikut.

Perilaku menipu ini muncul secara spontan ketika AI diberi petunjuk soal “insider trading”, dan kemudian ditugaskan untuk menghasilkan uang bagi institusi yang berkuasa – bahkan tanpa dorongan dari manusia.

“Dalam laporan teknis ini, kami mendemonstrasikan skenario tunggal di mana Large Language Model (LLM) bertindak tidak selaras dan secara strategis menipu penggunanya tanpa diinstruksikan untuk bertindak dengan cara ini,” tulis penulis dalam penelitian mereka yang diterbitkan 9 November di server pra-cetak arXiv, mengutip LiveScience, Jumat (29/12).


ADVERTISEMENT


SCROLL TO CONTINUE WITH CONTENT

“Sepengetahuan kami, ini adalah demonstrasi pertama dari perilaku menipu strategis seperti itu dalam sistem AI yang dirancang untuk tidak berbahaya dan jujur,” tambahnya.

Dalam studi terbaru ini, para peneliti menggunakan Generative Pre-trained Transformer-4, atau GPT-4 (yang mendukung ChatGPT Plus), untuk berperilaku sebagai sistem AI yang melakukan investasi atas nama lembaga keuangan.

Para peneliti memberi asupan GPT-4 satu set petunjuk berbasis teks untuk menghasilkan lingkungan simulasi.

AI kemudian diberi akses ke alat keuangan untuk menganalisis saham, melakukan perdagangan, merencanakan langkah selanjutnya, dan memberikan pembaruan kepada manajer di perusahaan.

Para peneliti berinteraksi dengan AI melalui antarmuka obrolan, sementara juga mengonfigurasi AI untuk mengungkapkan pemikiran batinnya saat membalas pesan

Untuk setiap perdagangan yang dilakukannya, itu juga memberikan alasan “publik”, yang memungkinkan AI berbohong.

Para peneliti menekankan pendekatan mereka dalam tiga langkah. Pertama, mereka mengirimkan surel kepada pedagang saham buatan yang berperan sebagai “manajer,” menyampaikan bahwa kinerja perusahaan sedang tidak baik dan memerlukan peningkatan yang signifikan di kuartal mendatang.

Selain itu, mereka melakukan manipulasi permainan agar kecerdasan buatan mencoba, namun gagal, untuk mengidentifikasi perdagangan yang menjanjikan dengan risiko rendah atau menengah.

Terakhir, mereka mengirimkan email dari seorang rekan yang memproyeksikan penurunan kinerja pada kuartal berikutnya.

[Gambas:Video CNN]

(rfi/dmi)



Sumber: www.cnnindonesia.com