X Blokir Penelusuran Kata Kunci Taylor Swift Usai Foto Deepfake AI Beredar

REPUBLIKA.CO.ID, JAKARTA -- X telah mengonfirmasi bahwa mereka memblokir pengguna dalam pencarian nama Taylor Swift, setelah deepfake pornografi pelantun “Blank Space” itu mulai beredar di X pekan ini. Sejak Sabtu, (27/1/2024), pengunjung X akan mendapat peringatan kesalahan jika menelusuri nama Taylor Swift.

Dalam sebuah pernyataan kepada Wall Street Journal, Kepala Operasi Bisnis X, Joe Benarroch mengatakan, hal itu merupakan tindakan sementara dan dilakukan dengan sangat hati-hati. “Kami memprioritaskan keselamatan dalam masalah ini,” ujar dia.

Langkah tersebut dilakukan beberapa hari setelah kasus ini viral pertama kalinya. Penanganan X terhadap masalah ini sejak awal telah menuai kritik, karena X dianggap lamban dalam mengekang penyebaran gambar-gambar seksual eksplisit yang non-konsensual.

Setelah gambar-gambar tersebut menjadi viral pada Rabu (24/1/2024), para penggemar Swift mengambil tindakan sendiri dengan membatasi visibilitas foto-foto tersebut dan menghapusnya. Mereka juga melaporkan secara massal akun-akun yang membagikan gambar-gambar tersebut, dan membanjiri tagar yang berkaitan dengan penyanyi tersebut dengan konten positif.

Banyak akun yang melanggar kemudian ditangguhkan, namun sebelumnya unggahan dari akun tersebut telah terlihat jutaan kali. The Verge melaporkan pada Kamis (25/1/2024), bahwa satu unggahan telah dilihat lebih dari 45 juta kali.

Dalam sebuah pernyataan yang diunggah di platform-nya pada hari itu juga, X mengatakan, bahwa memposting gambar Ketelanjangan Non-Konsensual (NCN) dilarang keras di X dan pihaknya tidak memiliki kebijakan toleransi terhadap konten tersebut.

“Tim kami secara aktif menghapus semua gambar yang teridentifikasi dan mengambil tindakan yang sesuai terhadap akun yang bertanggung jawab mempostingnya. Kami memantau situasi dengan cermat untuk memastikan bahwa pelanggaran lebih lanjut segera ditangani, dan konten tersebut telah dihapus. Kami berkomitmen untuk menjaga lingkungan yang aman dan menghormati semua pengguna,” tulis X.

Namun gambar-gambar itu masih....

Namun gambar tersebut masih dapat ditemukan beberapa hari setelahnya. 404Media menelusuri kemungkinan asal usul gambar-gambar tersebut ke grup Telegram yang terkenal membuat gambar-gambar perempuan yang dihasilkan oleh AI tanpa persetujuan menggunakan alat gratis termasuk Microsoft Designer.

Dalam sebuah wawancara dengan Lester Holt dari NBC News, Jumat (26/1/2024), CEO Microsoft Satya Nadella mengatakan bahwa masalah ini menyoroti apa yang menjadi tanggung jawab perusahaan, dan memasang semua pagar pembatas yang perlu ditempatkan di sekitar teknologi sehingga ada lebih banyak konten aman yang diproduksi.

“Ada banyak hal yang harus dilakukan di sana, dan banyak hal yang sedang dilakukan di sana, tapi perusahaan perlu bergerak cepat,” ucap Nadella.