Kemajuan alat AI generatif telah menciptakan masalah baru bagi internet: maraknya gambar telanjang sintetis yang menyerupai orang sungguhan. Pada hari Kamis, Microsoft mengambil langkah besar untuk memberi korban revenge porn sebuah alat untuk menghentikan mesin pencari Bing-nya menampilkan gambar-gambar ini.
Microsoft mengumumkan kemitraan dengan StopNCII, sebuah organisasi yang memungkinkan para korban revenge porn untuk membuat sidik jari digital dari gambar-gambar eksplisit ini, nyata atau tidak, di perangkat mereka. Mitra StopNCII kemudian menggunakan sidik jari digital tersebut, atau “hash” sebagaimana secara teknis dikenal, untuk menghapus gambar dari platform mereka. Bing milik Microsoft bergabung dengan Facebook, Instagram, Threads, TikTok, Snapchat, Reddit, PornHub, dan OnlyFans dalam bermitra dengan StopNCII, dan menggunakan sidik jari digitalnya untuk menghentikan penyebaran revenge porn.
Dalam sebuah posting blog, Microsoft mengatakan telah mengambil tindakan terhadap 268.000 gambar eksplisit yang dikembalikan melalui pencarian gambar Bing dalam uji coba hingga akhir Agustus dengan basis data StopNCII. Sebelumnya, Microsoft menawarkan alat pelaporan langsung, tetapi perusahaan mengatakan hal itu terbukti tidak cukup.
“Kami telah mendengar kekhawatiran dari para korban, pakar, dan pemangku kepentingan lainnya bahwa pelaporan pengguna saja mungkin tidak dapat memberikan dampak yang efektif atau mengatasi risiko akses citra melalui pencarian secara memadai,” kata Microsoft dalam posting blognya pada hari Kamis.
Anda dapat bayangkan betapa buruknya masalah itu jika mesin pencari tersebut jauh lebih populer: Google.
Google Search menawarkan alatnya sendiri untuk melaporkan dan menghapus gambar eksplisit dari hasil pencariannya, tetapi telah menghadapi kritik dari mantan karyawan dan korban karena tidak bermitra dengan StopNCII, menurut investigasi Wired. Sejak 2020, pengguna Google di Korea Selatan telah melaporkan 170.000 tautan pencarian dan YouTube untuk konten seksual yang tidak diinginkan, Wired melaporkan.
Masalah AI deepfake nude sudah tersebar luas. Alat StopNCII hanya berfungsi untuk orang yang berusia di atas 18 tahun, tetapi situs “melepas pakaian” sudah menimbulkan masalah bagi siswa sekolah menengah di seluruh negeri. Sayangnya, Amerika Serikat tidak memiliki undang-undang AI deepfake porn untuk meminta pertanggungjawaban siapa pun, jadi negara tersebut mengandalkan pendekatan tambal sulam dari undang-undang negara bagian dan lokal untuk mengatasi masalah tersebut.
Jaksa San Francisco mengumumkan gugatan hukum pada bulan Agustus untuk menutup 16 situs yang paling “mengekspos”. Menurut pelacak hukum pornografi deepfake yang dibuat oleh Wired, 23 negara bagian Amerika telah mengesahkan undang-undang untuk mengatasi deepfake nonkonsensual, sementara sembilan negara bagian telah menolak proposal.