Penyelesaian $18B Meta: Kelonggaran Data Kanak-kanak

Minggu ini Meta bersetuju membayar sehingga $18 bilion untuk menyelesaikan tuntutan peguam negara daripada 29 negeri AS berhubung kesihatan mental golongan muda. Saman tersebut mendakwa syarikat itu sengaja mereka bentuk Instagram dan Facebook untuk menyebabkan kanak-kanak ketagih — dan sengaja mengumpul data peribadi pengguna bawah 13 tahun tanpa kebenaran ibu bapa, satu pelanggaran terus COPPA (Children's Online Privacy Protection Act). Penyelesaian sebesar itu cukup bercakap untuk dirinya. Tetapi tersembunyi dalam perjanjian itu ada satu klausa yang patut dibaca dua kali: negeri-negeri tersebut bersetuju untuk tidak menyaman Meta di bawah undang-undang privasi kanak-kanak langsung atas tindakan menyimpan dan menggunakan data kanak-kanak.

Kelonggaran itu ada harganya: pengesahan umur (age verification). Meta berjanji untuk membina model berasaskan AI yang mengesan pengguna bawah 13 tahun, dan memastikan model itu dilatih serta diuji dalam tempoh setahun. Jadi penyelesaian yang kononnya melindungi kanak-kanak ini, secara senyap, memberi syarikat itu lampu hijau dari segi undang-undang untuk melatih model menggunakan data yang sememangnya disekat oleh akta tersebut.

Penyelesaian itu, dalam satu perenggan

Angka utama sebenarnya lebih lembut daripada yang disangka. Lebih kurang 30% daripada jumlah bayaran — sekitar $5.3 bilion — hanya akan dibayar jika TikTok dan YouTube menerima pakai langkah yang sama seperti yang dipersetujui Meta: had masa harian sejam, "night mode", dan semakan age-assurance. Selebihnya dibayar kepada negeri-negeri dalam tempoh sepuluh tahun, dengan $10 bilion dicaj sebagai perbelanjaan undang-undang dalam suku ketiga Meta. Meta melaporkan pendapatan tahunan lebih daripada $200 bilion, jadi wang sebanyak itu cuma kos kecil yang dibesar-besarkan sebagai ancaman besar.

Apa yang Meta sebenarnya korbankan ialah reka bentuk. Tertakluk kepada kelulusan mahkamah, platform itu mendapat had masa skrin harian dua jam secara lalai untuk pengguna bawah umur, peringatan setiap 15 minit untuk "mendorong penggunaan secara sedar", sekatan pada waktu malam antara tengah malam dan 6 pagi, notifikasi diredamkan pada waktu sekolah, dan kiraan like tidak lagi dipaparkan. Syarat ini berkuat kuasa selama sepuluh tahun dan dirangka bersama 52 peguam negara. Meta juga tidak mengakui sebarang kesalahan — satu langkah sengaja untuk mengelak perbicaraan juri dan supaya keputusan mahkamah tidak menjadikan perlindungan Section 230 sebagai sasaran bagi setiap platform yang menyiarkan kandungan pengguna.

Klausa itu: "fully, finally, and forever"

Sekarang bahagian yang tidak diperkatakan oleh sesiapa. Dalam perjanjian penyelesaian itu, peguam negara negeri-negeri bersetuju "fully, finally, and forever" untuk tidak mengemukakan sebarang tuntutan COPPA pada masa lalu, sekarang atau akan datang — atau tuntutan di bawah undang-undang negeri yang serupa — berkaitan penggunaan dan penyimpanan data kanak-kanak oleh Meta. Bukan "selama tempoh perjanjian". Selama-lamanya.

Ada langkah berjaga-jaga di sekeliling konsesi ini. Meta mesti membangun, melatih, dan mula menguji model age-assurance yang direka untuk mengesan pengguna bawah 13 tahun dalam tempoh setahun daripada tarikh kuat kuasa, dan ia tidak boleh menggunakan data bawah 13 tahun untuk penyasaran iklan, pemasaran, atau pengoptimuman algoritma. Seorang juruaudit bebas akan memantau pematuhan. Tetapi inilah yang menjadikan keseluruhan perkara ini pelik: COPPA ialah undang-undang persekutuan, dikuatkuasakan terutamanya oleh FTC — dan FTC bukan pihak dalam penyelesaian ini. Malah, Meta masih bertarung dengan FTC berhubung perintah privasi kanak-kanak 2020 miliknya. Jadi negeri-negeri boleh berjanji seberapa banyak yang mereka mahu; agensi yang benar-benar ada kuasa tidak pernah berada di dalam bilik itu.

Mengapa jaminan pengasingan itu bahagian yang menarik

Perjanjian ini pada dasarnya meminta Meta menyimpan pemahaman tentang isyarat tingkah laku kanak-kanak dalam kotak berasingan — untuk melatih dan menala pengesan umur, dan memastikan isyarat itu tidak pernah mengalir ke iklan atau cadangan. Kelonggaran jenis data minimization seperti ini memang biasa dalam pematuhan privasi, seperti yang dinyatakan oleh rakan kongsi Blank Rome, Philip Yannella; fikirkan pengesahan permintaan pemadaman. Masalah kejuruteraan yang jujur ialah pengasingan sebegini jarang bertahan apabila bersentuhan dengan platform sebenar.

Ciri-ciri tingkah laku bukan sekadar kotak semak. Isyarat engagement yang membantu model umur itu cuma selangkah daripada isyarat engagement yang menggerakkan satu feed. Memastikan pipeline ini diasingkan dari segi fizikal dan organisasi memakan kos yang tinggi, dan tiada apa-apa dalam perjanjian itu yang memberitahu kita data apa yang Meta log, berapa banyak perincian tingkah laku yang terlibat, atau berapa lama ia akan disimpan. Juruaudit membantu; kekaburan tetap ada.

Aliran yang benar-benar memelihara privasi mungkin kelihatan seperti ini — ini juga standard yang akan digunakan untuk menilai Meta:

# Ilustrasi aliran age-assurance berasaskan idea "semak dan lupakan"
def age_assurance(session_features):
    # 1. Kurangkan isyarat kepada anggaran umur minimum — zip, tag, terma,
    #    kekerapan pos — JANGAN simpan data sesi mentah
    age_bucket = age_model.predict(session_features)   # contoh "<13", "13-15", "16+"
    if age_bucket == "<13":
        # 2. Keluarkan token yang memelihara privasi, buang data sumber
        kid_token = mint_token(scope="under-13", ttl=30 * 86400)
        revoke_ads(uid=session_features["uid"])
        return kid_token
    cleanup(session_features)   # 3. tiada apa yang disimpan selain token

Bahagian yang tidak selesa ialah langkah sifar: untuk mendapat sebarang anggaran, anda perlu terlebih dahulu memproses data tingkah laku kanak-kanak itu. Tiada cara untuk mengesan pengguna bawah 13 tahun tanpa melihat apa yang mereka lakukan. Token menyelesaikan masalah penghantaran, bukan pengambilan data.

Pengesahan umur ialah asas yang goyah

Seluruh perjanjian ini bergantung pada teknologi age-assurance yang tidak berfungsi dengan baik. Alat semasa Meta dipacu AI, dan setiap pilihan industri ada kelemahannya sendiri. Analisis tingkah laku tersilap menganggap dewasa sebagai kanak-kanak dan sebaliknya. Semakan biometrik dan ID kerajaan meletakkan dokumen sensitif ke tangan sesiapa sahaja yang mengendalikan sistem pengesahan. Dan tidak seperti kata laluan yang bocor, muka atau cap jari yang bocor tidak boleh diputar. Discord belajar perkara ini dengan cara yang sukar awal tahun ini, apabila pelancaran pengesahan umur globalnya ditentang hebat dan terpaksa ditangguhkan.

Tidak semua orang pesimis. Yannella berpendapat anda boleh mengesahkan umur dan kemudian buang maklumat peribadi itu — sahkan kumpulan umur, keluarkan token yang menyatakan "akaun ini bawah 13 tahun", dan buang data sumber. Itulah bentuk penyelesaian yang betul. Masalahnya ialah setiap reka bentuk ini masih memerlukan penghantaran data identiti ke suatu tempat, dan penghantaran itulah sendiri permukaan pelanggaran.

Apa sebenarnya yang dibeli oleh perjanjian ini

Abaikan dahulu kontroversinya — trade-off di sini sebenarnya jelas: untuk mengeluarkan kanak-kanak daripada platform, platform perlu mengenal pasti mereka dahulu, dan identifikasi ialah jenis pemprosesan yang undang-undang privasi wujud untuk menghadkannya. Penyelesaian ini membeli ruang undang-undang untuk Meta melakukan identifikasi itu tanpa rasa takut aduan COPPA tiba seminggu kemudian.

Peter Jackson, peguam Data & IP di Greenberg Glusker, bimbang pengecualian ini boleh mengurangkan insentif untuk tindakan penguatkuasaan pada masa depan. Joshua Wurtzel dari Schlam Stone & Dolan pula menegaskan pelepasan itu hanya terpakai selagi Meta kekal dalam garis sempadan — sekali keluar dari garis itu, pelepasan tersebut terbatal. Profesor Alexis Ingber dari Syracuse melihat masalah yang lebih dalam: perlindungan reka bentuk hanya berfungsi jika pengesahan umur di bawahnya berkesan dan adil — dan sekarang ia tidak.

Untuk developer, pengajarannya bersifat struktur. Setiap ciri age-assurance, identiti, atau "buktikan anda manusia" yang anda hantar berada pada mata pisau yang sama: data yang anda perlukan untuk melindungi orang ialah data yang anda perlu kumpulkan untuk melindungi mereka. Penyelesaian ini ialah versi yang terikat di sisi undang-undang bagi satu pertukaran yang di tempat lain kita lakukan tanpa kontrak — dan ia memilih kemudahan platform, bukan persetujuan ibu bapa.

Apa yang perlu ditonton seterusnya

Tiga perkara akan menentukan sama ada klausa ini kekal tidak berbahaya atau tidak. Pertama, sama ada FTC menganggap janji negeri-negeri itu tidak relevan dari segi undang-undang — FTC tidak terikat dengan janji itu, dan sudah terbukti sanggup bertarung dengan Meta berkaitan perintah 2020. Kedua, apa yang Meta sebenarnya simpan sebagai "isyarat umur" dan berapa lama, yang akhirnya akan didedahkan oleh laporan juruaudit bebas. Ketiga, sama ada TikTok dan YouTube menerima syarat 30% itu, kerana pematuhan merekalah yang menjadikan "$18 bilion" itu tinggal "$12.7 bilion".

Perubahan reka bentuk itu memang baik untuk kanak-kanak. Tetapi jangan tersilap menganggapnya sebagai kemenangan privasi. Ini penyelesaian terbesar dalam sejarah media sosial, dan perkara pertama yang dilakukannya ialah menulis pengecualian kekal yang ditandatangani, membenarkan sesebuah syarikat menyimpan data kanak-kanak untuk projek machine learning. Kita pernah melihat trade-off privasi begini sebelum ini di sudut lain ekonomi platform — WhatsApp yang senyap-senyap menyusun semula cara ia mengendalikan username dan data akaun ialah satu lagi kes di mana butiran halus membuat keputusan sebenar. Perlu diteliti bagaimana penyelesaian ini akan menua.

Sumber:

• TechCrunch — Buried in Meta's $18B settlement is a legal pass on kids' data
• TechCrunch — Meta settles for $18B in lawsuit brought by 29 states
• TechCrunch — Meta's $18B child-safety deal hinges on age-verification tech that doesn't work well
• CNN — What Meta's $18 billion settlement could mean for kids
• BBC — Meta to pay up to $18bn to settle claims its platforms harm children