Microsoft Terseret Kasus Foto Porno AI Taylor Swift
Microsoft ikut terseret dalam kontroversi foto mesum palsu Taylor Swift yang dibuat menggunakan kecerdasan buatan (AI) generatif. Pasalnya layanan AI generatif Microsoft Designer diduga dipakai untuk menciptakan gambar yang viral tersebut.
Laporan 404Media mengindikasikan gambar tidak senonoh itu berasal dari komunitas pembuat gambar porno dengan wajah selebriti di Telegram dan 4chan. Komunitas itu menyarankan anggotanya untuk membuat gambar mesum menggunakan Microsoft Designer.
Designer sebenarnya memiliki aturan yang mencegah pengguna membuat gambar orang terkenal. Tapi pengguna di channel Telegram dan 4chan menemukan jalan pintas dengan sedikit salah mengeja nama selebriti, dan mendeskripsikan gambar yang tidak menggunakan istilah seksual tapi menghasilkan gambar yang menjurus ke arah seksual.
404Media mengonfirmasi bahwa celah tersebut bisa digunakan untuk menciptakan gambar mesum. Tapi kini Microsoft sudah menambal celah tersebut sejak akhir pekan lalu.
"Kami sedang menyelidiki laporan-laporan ini dan mengambil tindakan yang tepat untuk mengatasinya," kata juru bicara Microsoft kepada 404Media, seperti dikutip detikINET, Selasa (30/1/2024).
"Kode Etik kami melarang penggunaan alat kami untuk membuat konten intim dewasa atau non-konsensual, dan percobaan berulang kali untuk menciptakan konten yang melanggar kebijakan kami dapat mengakibatkan hilangnya akses ke layanan," sambungnya.
Microsoft menambahkan investigasi mereka yang masih berjalan tidak bisa memverifikasi bahwa gambar Swift yang viral di Twitter/X dibuat menggunakan Designer. Namun mereka tetap memperkuat sistem filter prompt dan mengatasi penyalahgunaan layanannya.
Perubahan yang dilakukan Microsoft sepertinya berhasil. Sejumlah pengguna di channel Telegram dan 4chan mengatakan Designer tidak bisa lagi menciptakan wajah selebriti dengan akurat.
"Bahkan Chloe Moretz hanya menampilkan gadis pirang generik. Saya berpindah server dan akun beberapa kali dan sekarang hanya mendapatkan hal generik yang sama," kata seorang pengguna 4chan.
"Saya pikir itu sudah bermasalah. Ariana, Kylie Jenner, Lisa, Zendaya, dan lain-lain hanya menampilkan perempuan generik dengan penampilan/etnis yang sama," kata pengguna lainnya.
