Regulator keamanan on-line Inggris: Kami tidak akan mengawasi konten

LONDON — Untuk seseorang yang bertugas mengawasi aturan konten on-line baru Inggris Raya, Melanie Dawes ingin membuat sesuatu yang sangat jelas: ini bukan tentang konten kepolisian.

Duduk di ruang konferensi berdinding kaca di tepi sungai Thames, kepala eksekutif Workplace of Communications — lebih dikenal sebagai Ofcom — mengoceh tentang apa yang diharapkan dapat dicapai oleh RUU Keamanan On-line negara tersebut. Ini akan menahan orang-orang seperti Fb dan YouTube ke akun. Ini akan menghentikan anak-anak melihat materi grafis atau berbahaya di umpan media sosial mereka. Ini akan memberi regulator Inggris kekuatan untuk memaksa Large Tech mengubah algoritme kompleks mereka atas nama keamanan on-line.

Tapi apa yang tidak akan dilakukan oleh aturan yang akan datang, menurut Dawes, adalah membuat keputusan tentang apa yang dapat diposting orang secara on-line.

“Ini sebenarnya bukan rezim tentang konten,” kata pejabat Inggris yang sudah lama menjabat itu kepada POLITICO. “Ini tentang sistem dan proses. Ini tentang desain layanan (media sosial) yang menyertakan hal-hal seperti algoritme pemberi rekomendasi dan cara kerjanya.”

Pendekatan itu – lebih banyak peraturan yang tidak menguntungkan daripada penggerebekan fajar di kantor perusahaan teknologi – mungkin mengejutkan banyak orang di Westminster yang melihat aturan konten on-line Inggris, yang kemungkinan akan menjadi undang-undang pada bulan September, sebagai upaya terbaik London untuk membuat Large Tech pincang sambil mempertahankan orang aman on-line.

Serangkaian kasus terkenal, termasuk bunuh diri Molly Russell yang berusia 14 tahun pada tahun 2017 setelah dia dibombardir dengan postingan yang menyakiti diri sendiri di Instagram, telah mendorong pemerintah Inggris untuk mengklaim RUU Keamanan Daring akan menjadikan negara itu negara yang paling aman. tempat di seluruh dunia untuk on-line.

Namun Dawes dengan cepat mengecilkan pilihan biner antara melindungi orang dari penyakit web dan membatasi kebebasan berbicara.

Ini adalah debat yang telah melihat berturut-turut pemerintah Partai Konservatif melakukan ping-pong antara pembatasan yang lebih berat pada apa yang dapat diposting di media sosial dan memberikan hak kepada orang untuk mengatakan apa pun yang mereka inginkan, selama tidak mengarah ke ujaran kebencian. Saat peraturan mulai berlaku, Ofcom akan memiliki kekuatan untuk mendenda perusahaan hingga 10 persen dari pendapatan international tahunan mereka dan, berpotensi, memungkinkan mereka memenjarakan eksekutif teknologi karena kesalahan.

“Saya tidak menganggap kebebasan berekspresi sebagai perhatian utama dalam mengimplementasikan RUU Keamanan On-line seperti yang dikhawatirkan beberapa orang,” kata Dawes ketika ditanya tentang bagaimana agensinya akan menyeimbangkan prinsip-prinsip yang sering bertentangan tersebut. Undang-undang tersebut “meninggalkan sejumlah besar kebebasan berbicara selama periode apa pun, pemilihan umum atau lainnya, tetapi juga dengan kapasitas untuk mendorong akuntabilitas yang lebih besar.”

Untuk bos Ofcom, aturan baru lebih tentang memaksa media sosial dan raksasa pencarian untuk menilai di mana masalah potensial dapat muncul, termasuk bagaimana algoritme perusahaan diarahkan untuk menyebarkan konten viral yang seringkali berbahaya atau ilegal. Itu akan melibatkan penilaian risiko biasa, audit luar pada perilaku perusahaan, dan penelitian panjang untuk memahami bagaimana raksasa teknologi menegakkan persyaratan layanan mereka sendiri.

Ini bukan, tambah Dawes, tentang menentukan apakah setiap kiriman telah melanggar aturan Inggris yang baru atau jika akun pengguna media sosial tertentu telah disajikan dengan terlalu banyak materi berbahaya.

“Bukan tugas regulator untuk mengatakan kebijakan apa yang harus mereka miliki tentang disinformasi atau konten lain yang mungkin berbahaya tetapi pada akhirnya juga authorized,” kata pejabat Inggris, yang telah menghabiskan lebih dari 30 tahun di kantor sipil negara itu. layanan — pertama di Departemen Transportasi Inggris, kemudian Departemen Keuangan, layanan pajak, Kantor Kabinet dan, akhirnya, sebagai pegawai negeri tertinggi di Departemen Masyarakat dan Pemerintah Daerah sebelum mengambil alih Ofcom pada tahun 2020.

Mari bersiap-siap untuk mengatur

Lebih banyak pertempuran politik terbentang di depan saat RUU Keamanan Daring menuju Home of Lords bulan depan. Anggota parlemen kemungkinan akan menambahkan perlindungan lebih lanjut, sebagian besar seputar menjaga anak-anak tetap aman saat on-line dan pembatasan yang lebih besar yang ditargetkan pada situs porno.

Namun Ofcom telah mempekerjakan banyak karyawan baru — beberapa dari Large Tech, yang lain dari kelompok perlindungan anak seperti NSPCC — dan sekarang memiliki sekitar 300 orang yang didedikasikan untuk keamanan on-line. Itu termasuk Gill Whitehead, mantan eksekutif Google, yang akan mengambil alih Grup Keamanan On-line agensi yang baru dibentuk pada 1 April. Perannya akan mencakup kekuatan pengawasan langsung atas media sosial terbesar dan perusahaan pencarian yang aktif di negara tersebut.

“Setelah RUU mendapat persetujuan kerajaan, dan begitu kekuatan Ofcom dimulai, kami akan langsung melakukan konsultasi yang sangat penting tentang kerugian ilegal. Itu langkah pertama yang ditetapkan,” katanya, seraya menambahkan bahwa perlindungan anak — termasuk platform yang menangani materi pelecehan seksual terhadap anak, atau CSAM — akan menjadi inti dari dorongan awal itu. “Kami akan siap untuk segera pergi.”

Ofcom juga akan diberdayakan untuk meminta layanan terenkripsi seperti WhatsApp atau Sign untuk memeriksa apakah penggunanya tidak membagikan konten berbahaya seperti gambar CSAM atau propaganda teroris. Namun perusahaan telah memperingatkan pendekatan tersebut dapat melemahkan kemampuan orang untuk berbagi pesan terenkripsi satu sama lain, membahayakan privasi dan menciptakan kelemahan keamanan yang dapat dieksploitasi oleh aktor jahat.

Dawes berjingkat di antara perdebatan itu dengan mengklaim agensinya hanya akan menggunakan kekuatan itu jika ada kebutuhan mendesak — dan teknologi yang digunakan untuk mengakses pesan terenkripsi itu tidak membahayakan privasi orang.

“Ofcom akan membutuhkan bukti yang tinggi untuk dapat meminta teknologi yang masuk ke lingkungan terenkripsi dan memindai jenis konten tertentu diperlukan,” katanya. “Kewenangan itu, dalam RUU, bukanlah kewenangan yang dapat digunakan oleh regulator tanpa dasar bukti yang sangat jelas yang diperlukan dan proporsional.”