AI Diduga Rasis, Gambar Warga Kulit Putih Lebih Manusiawi

Inggris diberikan akses awal oleh Open AI dan Google untuk mempelajari bahaya kecerdasan buatan (AI).


Jakarta, CNN Indonesia

Studi terbaru yang dipimpin para ahli di Australian National University (ANU) menemukan wajah orang berkulit putih yang dihasilkan teknologi kecerdasan buatan (AI) terlihat lebih riil ketimbang orang kulit berwarna.

Amy Dawel, salah satu peneliti studi tersebut menjelaskan perbedaan ini disebabkan algoritma AI dilatih secara tidak proporsional pada wajah-wajah berkulit putih.

“Jika wajah AI berkulit putih secara konsisten dianggap lebih realistis, teknologi ini dapat memiliki implikasi serius bagi orang kulit berwarna dengan memperkuat bias rasial secara online,” kata Dawel, mengutip Science Daily, Kamis (7/12).


ADVERTISEMENT


SCROLL TO CONTINUE WITH CONTENT

“Masalah ini sudah terlihat dalam teknologi AI saat ini yang digunakan untuk membuat foto wajah yang terlihat profesional. Ketika digunakan untuk orang kulit berwarna, AI mengubah warna kulit dan mata mereka menjadi warna kulit orang kulit putih.”

Para peneliti menemukan salah satu masalah dengan ‘hiper-realisme’ AI adalah bahwa orang sering tidak menyadari bahwa mereka sedang dibodohi.

“Yang memprihatinkan, orang-orang yang paling sering berpikir bahwa wajah AI itu nyata adalah mereka yang paling percaya diri bahwa penilaian mereka benar,” kata Elizabeth Miller, penulis lainnya dalam studi tersebut.

“Ini berarti orang-orang yang salah mengira peniru AI sebagai orang sungguhan tidak tahu bahwa mereka sedang ditipu.”

Para peneliti juga dapat menemukan mengapa wajah AI menipu orang.

“Ternyata masih ada perbedaan fisik antara wajah AI dan wajah manusia, tetapi orang cenderung salah mengartikannya. Sebagai contoh, wajah AI yang berwarna kulit putih cenderung lebih proporsional dan orang-orang salah mengartikannya sebagai tanda kemanusiaan,” kata Dawel.

“Namun, kita tidak bisa mengandalkan isyarat fisik ini untuk waktu yang lama. Teknologi AI berkembang sangat cepat sehingga perbedaan antara AI dan wajah manusia mungkin akan segera hilang.”

Para peneliti berpendapat bahwa tren ini dapat berimplikasi serius terhadap penyebaran informasi yang salah dan pencurian identitas, dan tindakan harus dilakukan.

“Teknologi AI tidak dapat dipisahkan sehingga hanya perusahaan teknologi yang tahu apa yang terjadi di balik layar. Perlu ada transparansi yang lebih besar di sekitar AI sehingga para peneliti dan masyarakat sipil dapat mengidentifikasi masalah sebelum menjadi masalah besar,” kata Dawel.

Meningkatkan kesadaran masyarakat juga dapat memainkan peran penting dalam mengurangi risiko yang ditimbulkan oleh teknologi ini, menurut para peneliti.

“Mengingat bahwa manusia tidak lagi dapat mendeteksi wajah AI, masyarakat membutuhkan alat yang dapat secara akurat mengidentifikasi penipu AI,” ujar Dawel.

“Mengedukasi masyarakat tentang realisme yang dirasakan dari wajah AI dapat membantu membuat masyarakat lebih skeptis terhadap gambar yang mereka lihat secara online.”

(tim/dmi)



Sumber: www.cnnindonesia.com