Uni Eropa memiliki reputasi lama atas undang-undang privasi yang kuat. Namun rencana legislatif untuk memerangi pelecehan anak – yang secara resmi diajukan oleh blok tersebut pada bulan Mei 2022 – mengancam akan menurunkan tingkat privasi dan keamanan ratusan juta pengguna aplikasi perpesanan regional.
Komisi Eropa, badan legislatif Uni Eropa yang merancang proposal tersebut, membingkainya sebagai rencana untuk melindungi hak-hak anak secara online dengan memerangi penyalahgunaan alat-alat teknologi arus utama oleh pelaku kekerasan terhadap anak yang menurut mereka semakin banyak menggunakan aplikasi perpesanan untuk mendistribusikan materi pelecehan seksual terhadap anak. (CSAM) dan bahkan mendapatkan akses ke korban baru.
Mungkin karena lobi dari sektor teknologi keselamatan anak, pendekatan yang diadopsi UE adalah pendekatan yang bersifat techno-solutionist. Inisiatif Komisi ini berfokus pada pengaturan layanan digital – terutama aplikasi perpesanan – dengan memberikan kewajiban hukum kepada mereka untuk menggunakan alat teknologi untuk memindai komunikasi pengguna guna mendeteksi dan melaporkan aktivitas ilegal.
Selama beberapa tahun, aplikasi-aplikasi perpesanan arus utama mengalami pengurangan sementara terhadap aturan ePrivasi blok tersebut, yang berkaitan dengan kerahasiaan komunikasi digital — pengurangan ini berlaku hingga Mei 2025, sesuai perpanjangan terakhirnya — sehingga aplikasi-aplikasi tersebut dapat secara sukarela memindai komunikasi orang-orang untuk mendeteksi CSAM pada tingkat tertentu. skenario.
Namun, peraturan pelecehan anak akan menciptakan peraturan permanen yang pada dasarnya mewajibkan pemindaian konten berbasis AI di seluruh UE.
Kritik terhadap proposal tersebut berpendapat bahwa hal ini akan mengarah pada situasi di mana platform perpesanan terpaksa menggunakan teknologi yang tidak sempurna untuk memindai korespondensi pribadi pengguna secara default – dengan konsekuensi yang mengerikan bagi privasi orang-orang. Mereka juga memperingatkan bahwa hal ini menempatkan UE pada jalur yang bertentangan dengan enkripsi yang kuat karena undang-undang tersebut akan memaksa aplikasi terenkripsi ujung ke ujung (E2EE) untuk menurunkan keamanannya guna memenuhi tuntutan penyaringan konten.
Kekhawatiran terhadap usulan tersebut begitu akut sehingga pengawas perlindungan data di blok tersebut memperingatkan tahun lalu bahwa hal ini merupakan titik kritis bagi hak-hak demokrasi. Layanan nasihat hukum untuk Dewan Eropa juga berpendapat bahwa hal tersebut tidak sesuai dengan hukum UE, berdasarkan bocoran penilaiannya. Undang-undang UE memang melarang penerapan kewajiban pemantauan secara umum, sehingga jika undang-undang tersebut disahkan, hampir pasti akan ada tantangan hukum.
Sejauh ini, para legislator UE belum dapat menyepakati langkah selanjutnya dalam penyelesaian masalah tersebut. Namun rancangan undang-undang tersebut masih tetap berjalan – begitu pula dengan semua risiko yang ditimbulkannya.
Perintah deteksi CSAM yang luas
Proposal awal Komisi berisi persyaratan bahwa platform, setelah menerima perintah deteksi, harus memindai pesan orang, tidak hanya untuk CSAM yang diketahui (yaitu, gambar pelecehan anak yang telah diidentifikasi sebelumnya dan di-hash untuk dideteksi) tetapi juga untuk CSAM yang tidak diketahui ( yaitu, gambaran baru tentang pelecehan). Hal ini akan semakin meningkatkan tantangan teknis dalam mendeteksi konten ilegal dengan tingkat akurasi yang tinggi dan kesalahan positif yang rendah.
Komponen lebih lanjut dalam usulan Komisi memerlukan platform untuk mengidentifikasi aktivitas perawatan secara real-time. Artinya, selain memindai unggahan gambar untuk mencari CSAM, aplikasi juga harus mampu menguraikan konten komunikasi pengguna untuk mencoba memahami kapan pengguna dewasa mungkin mencoba memikat anak di bawah umur untuk melakukan aktivitas seksual.
Penggunaan alat otomatis untuk mendeteksi tanda-tanda perilaku yang mungkin menjadi pertanda penyalahgunaan di masa depan dalam interaksi umum antara pengguna aplikasi menunjukkan peluang besar untuk salah menafsirkan obrolan yang tidak bersalah. Secara keseluruhan, persyaratan deteksi CSAM Komisi yang luas akan mengubah platform pesan arus utama menjadi alat pengawasan massal, menurut para penentang proposal tersebut.
“Kontrol obrolan” adalah istilah utama yang mereka kemukakan untuk mencakup kekhawatiran mengenai UE yang mengeluarkan undang-undang yang menuntut pemindaian menyeluruh terhadap pesan digital warga negara – hingga dan termasuk penyaringan pertukaran teks yang dikirim oleh orang-orang.
Bagaimana dengan enkripsi ujung ke ujung?
Usulan awal Komisi untuk peraturan memerangi pelecehan seksual terhadap anak tidak mengecualikan platform E2EE dari persyaratan deteksi CSAM.
Dan jelas bahwa, karena penggunaan E2EE berarti platform tersebut tidak memiliki kemampuan untuk mengakses versi komunikasi pengguna yang dapat dibaca — karena mereka tidak memiliki kunci enkripsi — layanan pesan yang aman akan menghadapi masalah kepatuhan tertentu jika mereka diizinkan secara hukum. diharuskan untuk memahami konten yang tidak dapat mereka lihat.
Oleh karena itu, para kritikus terhadap rencana UE memperingatkan bahwa undang-undang tersebut akan memaksa platform pengiriman pesan E2EE untuk menurunkan tingkat perlindungan keamanan andalan yang mereka tawarkan dengan menerapkan teknologi berisiko seperti pemindaian sisi klien sebagai tindakan kepatuhan.
Proposal Komisi tidak menyebutkan teknologi spesifik yang harus diterapkan oleh platform untuk mendeteksi CSAM. Keputusan diserahkan ke pusat UE untuk melawan pelecehan seksual terhadap anak yang akan ditetapkan oleh undang-undang. Namun para ahli memperkirakan kemungkinan besar hal itu akan digunakan untuk memaksa penerapan pemindaian sisi klien.
Kemungkinan lainnya adalah bahwa platform yang telah menerapkan enkripsi yang kuat dapat memilih untuk menarik layanan mereka sepenuhnya dari wilayah tersebut; Signal Messenger, misalnya, sebelumnya telah memperingatkan bahwa mereka akan meninggalkan pasar daripada dipaksa oleh hukum untuk membahayakan keamanan pengguna. Prospek ini dapat membuat masyarakat di UE tidak memiliki akses ke aplikasi-aplikasi mainstream yang menggunakan protokol keamanan E2EE standar emas untuk melindungi komunikasi digital, seperti Signal, atau WhatsApp milik Meta, atau iMessage milik Apple, dan masih banyak lagi.
Tidak satu pun dari langkah-langkah yang dirancang oleh UE akan mempunyai dampak yang diharapkan dalam mencegah pelecehan anak, menurut para penentang proposal tersebut. Sebaliknya, dampak yang mereka perkirakan adalah konsekuensi yang sangat buruk bagi pengguna aplikasi karena komunikasi pribadi jutaan orang Eropa terpapar pada algoritma pemindaian yang tidak sempurna.
Hal ini pada gilirannya berisiko memicu sejumlah positif palsu, menurut mereka; jutaan orang yang tidak bersalah dapat terlibat secara keliru dalam aktivitas mencurigakan, sehingga membebani penegak hukum dengan banyaknya laporan palsu.
Sistem yang diusulkan dalam proposal Uni Eropa ini perlu secara rutin memaparkan pesan-pesan pribadi warga negara kepada pihak ketiga yang akan terlibat dalam pemeriksaan laporan konten mencurigakan yang dikirimkan kepada mereka melalui sistem deteksi platform. Jadi, bahkan jika bagian tertentu dari konten yang ditandai tidak diteruskan ke penegak hukum untuk diselidiki, karena telah diidentifikasi sebagai konten yang tidak mencurigakan pada titik awal dalam rantai pelaporan, konten tersebut tetap saja akan diperiksa oleh orang lain. daripada pengirim dan penerima yang dituju. Jadi RIP, privasi komunikasi.
Mengamankan komunikasi pribadi yang telah disusupi dari platform lain juga akan menimbulkan tantangan keamanan yang berkelanjutan dengan risiko bahwa konten yang dilaporkan dapat terekspos lebih lanjut jika terdapat praktik keamanan buruk yang diterapkan oleh pihak ketiga mana pun yang terlibat dalam pemrosesan laporan konten.
Orang-orang menggunakan E2EE karena suatu alasan, dan tidak ada banyak perantara yang menyentuh data Anda.
Di mana rencana yang sangat menakutkan ini sekarang?
Biasanya, pembuatan undang-undang Uni Eropa merupakan urusan tiga arah, dimana Komisi mengusulkan undang-undang dan para legislatornya, di Parlemen dan Dewan Eropa, bekerja sama dengan eksekutif blok tersebut untuk mencoba mencapai kompromi yang dapat mereka sepakati bersama.
Namun dalam kasus peraturan pelecehan anak, lembaga-lembaga Uni Eropa sejauh ini memiliki pandangan yang sangat berbeda mengenai proposal tersebut.
Setahun yang lalu, anggota parlemen di Parlemen Eropa menyetujui posisi negosiasi mereka dengan menyarankan revisi besar terhadap usulan Komisi. Anggota parlemen dari berbagai spektrum politik mendukung amandemen substansial yang bertujuan untuk mengurangi risiko hak asasi manusia – termasuk mendukung pembatasan total pada platform E2EE dari persyaratan pemindaian.
Mereka juga mengusulkan untuk membatasi pemindaian agar lebih tepat sasaran: Menambahkan ketentuan bahwa penyaringan hanya boleh dilakukan pada pesan-pesan individu atau kelompok yang dicurigai melakukan pelecehan seksual terhadap anak-anak – yaitu, daripada undang-undang yang memberlakukan pemindaian menyeluruh terhadap semua pesannya. pengguna setelah platform dilayani dengan perintah deteksi.
Perubahan lebih lanjut yang didukung oleh Parlemen Eropa akan membatasi deteksi terhadap CSAM yang diketahui dan tidak diketahui, sehingga menghilangkan persyaratan bahwa platform juga mengambil aktivitas perawatan dengan menyaring pertukaran berbasis teks.
Proposal versi parlemen juga mendorong dimasukkannya jenis tindakan lain, seperti persyaratan pada platform untuk meningkatkan perlindungan privasi pengguna dengan menetapkan profil ke non-publik untuk mengurangi risiko anak di bawah umur dapat ditemukan oleh orang dewasa yang predator.
Secara keseluruhan, pendekatan yang diambil oleh Parlemen Eropa terlihat jauh lebih seimbang dibandingkan dengan usulan awal Komisi. Namun, sejak itu, pemilu UE telah merevisi susunan parlemen. Pandangan mengenai anggota baru Parlemen Eropa kurang jelas.
Masih ada pertanyaan tentang apa yang akan dilakukan Dewan Eropa, badan yang terdiri dari perwakilan pemerintah negara-negara anggota. Pemerintah belum menyetujui mandat negosiasi mengenai berkas tersebut, itulah sebabnya diskusi dengan parlemen belum dapat dimulai.
Siapa pun yang memilih privasi akan diturunkan ke kumpulan fitur dasar gaya telepon bodoh yang hanya berisi teks dan audio. Ya, itulah yang sebenarnya sedang dipertimbangkan oleh para anggota parlemen regional.
Dewan mengabaikan permohonan dari anggota Parlemen Eropa tahun lalu untuk menyelaraskan dengan kompromi mereka. Sebaliknya, negara-negara anggota tampaknya lebih menyukai posisi yang lebih mirip dengan prinsip “pindai segalanya” yang diusung Komisi. Namun ada juga perpecahan di antara negara-negara anggota tentang bagaimana melanjutkannya. Dan sejauh ini, cukup banyak negara yang menolak kompromi terhadap teks yang diajukan oleh presiden Dewan untuk menyetujui suatu mandat.
Proposal yang bocor selama diskusi Dewan menunjukkan bahwa pemerintah negara-negara anggota masih berusaha mempertahankan kemampuan untuk memindai konten secara menyeluruh. Namun teks kompromi pada bulan Mei 2024 mencoba mengubah cara penyajiannya – dengan secara halus menggambarkan persyaratan hukum pada platform perpesanan sebagai “moderasi unggahan”.
Hal ini memicu intervensi publik dari presiden Signal Meredith Whittaker, yang menuduh anggota parlemen UE terlibat dalam “permainan retoris” dalam upaya untuk mendapatkan dukungan bagi pemindaian massal komunikasi warga. Ini adalah sesuatu yang dia peringatkan dengan nada yang sungguh-sungguh akan “secara fundamental merusak enkripsi.”
Teks yang bocor ke pers pada saat itu juga dilaporkan mengusulkan agar pengguna aplikasi perpesanan dimintai persetujuannya agar konten mereka dipindai. Namun, pengguna yang tidak menyetujui penyaringan tersebut akan menonaktifkan fitur utama aplikasinya, yang berarti mereka tidak akan dapat mengirim gambar atau URL.
Dalam skenario ini, pengguna aplikasi perpesanan di UE pada dasarnya akan dipaksa untuk memilih antara melindungi privasi mereka atau menikmati pengalaman aplikasi perpesanan modern. Siapa pun yang memilih privasi akan diturunkan ke kumpulan fitur dasar teks dan audio bergaya dumbphone saja. Ya, itulah yang sebenarnya sedang dipertimbangkan oleh para anggota parlemen regional.
Baru-baru ini terdapat tanda-tanda berkurangnya dukungan di dalam Dewan untuk mendorong pengawasan massal terhadap pesan-pesan warga. Awal bulan ini Netzpolitik meliput pengumuman pemerintah Belanda yang mengatakan mereka akan abstain pada kompromi lain yang diubah, dengan alasan kekhawatiran tentang implikasinya terhadap E2EE, serta risiko keamanan yang ditimbulkan oleh pemindaian sisi klien.
Awal bulan ini, pembahasan peraturan tersebut juga ditarik dari agenda Dewan lainnya, tampaknya karena kurangnya mayoritas yang memenuhi syarat.
Namun ada sejumlah besar negara Uni Eropa yang terus mendukung dorongan Komisi untuk melakukan pemindaian pesan secara menyeluruh. Dan kepresidenan Dewan Hongaria saat ini tampaknya berkomitmen untuk terus berusaha menemukan kompromi. Jadi risikonya belum hilang.
Negara-negara anggota masih dapat mencapai versi proposal yang cukup memuaskan pemerintah mereka untuk membuka pintu perundingan dengan anggota parlemen, yang akan mempertaruhkan segalanya dalam proses diskusi trilog tertutup UE. Oleh karena itu, pertaruhan terhadap hak-hak warga negara Eropa – dan reputasi blok tersebut sebagai pembela privasi – tetap tinggi.