Sebuah sistem kepintaran buatan (AI) yang diintegrasikan ke dalam platform media sosial X menjadi tumpuan antarabangsa selepas didakwa menghasilkan kandungan imej seksual palsu dalam skala besar, termasuk melibatkan wanita dan kanak-kanak, menurut laporan terbaharu sebuah badan pemantau keselamatan digital.
Badan pemerhati berpangkalan di Britain, Center for Countering Digital Hate (CCDH), mendakwa chatbot AI dikenali sebagai Grok telah menjana kira-kira tiga juta imej seksual fotorealistik dalam tempoh kurang dua minggu selepas fungsi penyuntingan imejnya dilancarkan.
Menurut laporan itu, ciri berkenaan membolehkan pengguna mengubah suai imej individu sebenar menggunakan arahan teks ringkas, sekali gus memudahkan penghasilan imej ‘deepfake’ berunsur lucah tanpa keizinan subjek yang digambarkan.
CCDH memaklumkan bahawa sepanjang tempoh 11 hari pemantauan, Grok dianggarkan menghasilkan purata 190 imej seminit, termasuk sekitar 23,000 imej yang melibatkan kanak-kanak, sekali gus mencetuskan kebimbangan serius terhadap keselamatan dan etika penggunaan teknologi AI.
“Penghasilan kandungan bersifat seksual secara automatik pada skala ini menunjukkan kegagalan kawalan keselamatan yang ketara,” menurut laporan tersebut, sambil menegaskan risiko penyalahgunaan teknologi berkenaan terhadap individu awam dan tokoh terkenal.
Antara personaliti yang didakwa dikenal pasti dalam imej palsu itu termasuk selebriti hiburan Amerika Syarikat seperti Selena Gomez, Taylor Swift dan Nicki Minaj, selain tokoh politik antarabangsa termasuk Timbalan Perdana Menteri Sweden Ebba Busch dan bekas Naib Presiden Amerika Syarikat Kamala Harris.
Penyebaran imej berkenaan dilaporkan mencetuskan reaksi keras daripada pihak berkuasa kawal selia di beberapa negara, termasuk aduan daripada mangsa yang mendakwa reputasi dan keselamatan mereka terjejas.
Susulan itu, beberapa negara mengambil langkah drastik dengan menyekat penggunaan Grok. Filipina minggu lalu menyertai Malaysia dan Indonesia dalam mengharamkan perkhidmatan tersebut di Asia Tenggara, manakala kerajaan Britain dan Perancis dilaporkan sedang mempertimbangkan tindakan lanjut terhadap syarikat pembangunan AI terbabit.
-THE MALAYSIA VOICE
