Bagaimanakah anda menerangkan epsilon, kepekaan, dan bajet privasi dalam privasi pembezaan?

1. Soalan

Sebuah pasukan analitik ingin menerbitkan pengguna aktif harian, nilai pesanan purata mengikut rantau, dan carta aliran tanpa membiarkan kemasukan, penyingkiran seorang pengguna, atau satu rekod mengubah pengeluaran data secara ketara. Sesetengah rakan sepasukan menganggap tindakan membuang nama dan mencincang (hashing) ID pengguna sebagai penyelesaian privasi; yang lain pula ingin menetapkan epsilon kepada nombor yang terlampau kecil secara sewenang-wenangnya.

Reka bentuk aliran pengeluaran privasi pembezaan. Terangkan unit privasi, set data berjiran, kepekaan pertanyaan, mekanisme hingar, epsilon dan delta, penggubahan merentasi pertanyaan berulang, had sumbangan setiap pengguna, dan penilaian ketepatan. Nyatakan risiko yang memerlukan kawalan capaian, peminimuman data, atau tadbir urus di samping mekanisme tersebut.

2. Kekangan dan penjelasan

• Mula-mula tentukan sama ada unit yang dilindungi ialah pengguna, akaun, peranti, atau peristiwa. Pelbagai peristiwa daripada seorang pengguna biasanya tergolong dalam satu unit privasi.
• Tetapkan takrifan set data berjiran, seperti set data yang berbeza dalam semua rekod seorang pengguna atau dalam satu peristiwa. Takrifan yang berbeza menghasilkan kepekaan dan jaminan yang berbeza.
• Bincangkan privasi pembezaan berpusat: mekanisme dalaman yang dipercayai mengakses data mentah dan mengeluarkan hasil yang berhingar. Penganoniman, pencincangan, dan penyulitan tidak memberikan jaminan privasi pembezaan secara automatik.
• Jangan berikan "epsilon yang betul" tanpa pertanyaan, taburan data, dan model ancaman. Kekuatan privasi, utiliti, dan jangkaan pengguna mesti dipilih bersama.

3. Takrifan teras: melindungi taburan output set data berjiran

Algoritma rawak M adalah (epsilon, delta)-privasi pembezaan apabila, untuk sebarang set data berjiran D, D', dan peristiwa output S:

Pr[M(D) in S] <= exp(epsilon) * Pr[M(D') in S] + delta

Walaupun dengan maklumat sampingan, ini menjadikannya sukar untuk membuat inferens sama ada sesuatu unit privasi wujud daripada satu pengeluaran sahaja. Ini tidak bermakna output tidak mengandungi maklumat sensitif atau data yang dianonimkan tidak boleh dikenal pasti. Epsilon yang lebih kecil secara amnya mengenakan kekangan privasi yang lebih kuat tetapi menambah lebih banyak hingar; delta ialah kebarangkalian kegagalan kecil yang dibenarkan, bukan ralat sewenang-wenangnya atau kadar kehilangan data.

Hubungan kejiranan mentakrifkan maksud perubahan satu unit. Jika seorang pengguna boleh menyumbang paling banyak lima pesanan, kiraan peringkat pengguna boleh dihadkan kepada kepekaan 1, manakala jumlah nilai pesanan juga memerlukan had pada setiap pesanan atau jumlah keseluruhan pengguna. Jika tidak, seorang pengguna boleh mengubah hasilnya tanpa had.

4. Mekanisme dan pseudokod rujukan

Bagi kiraan atau jumlah terhad dengan kepekaan Delta, mekanisme Laplace mengeluarkan f(D) + Laplace(Delta / epsilon). Bagi pertanyaan berdimensi tinggi atau purata yang memerlukan jaminan (epsilon, delta), mekanisme Gaussian adalah lazim, tetapi penentukurannya bergantung pada kepekaan, delta, dan kaedah perakaunan.

release_count(users, epsilon, delta, budget):
  clipped = cap_each_user_contribution(users, max_contribution=1)
  true_count = count_distinct_privacy_units(clipped)
  require budget.remaining >= epsilon
  noise = sample_laplace(scale=1 / epsilon)
  budget.spend(epsilon, delta)
  return max(0, round(true_count + noise))

release_mean(records, epsilon, delta, budget):
  clipped = cap_each_user_contribution(records, max_rows=K)
  clipped_values = clamp_values(clipped, lower=L, upper=U)
  sum_release = dp_sum(clipped_values, epsilon_sum, delta_sum)
  count_release = dp_count(clipped, epsilon_count, delta_count)
  return sum_release / max(count_release, minimum_safe_count)

Nilai purata tidak boleh menambah hingar pada pengangka sahaja: penyebut juga memerlukan perlindungan, dan nilai serta sumbangan setiap pengguna mesti dipangkas (clipped). Pemangkasan memperkenalkan pincang dan hingar memperkenalkan varians, jadi ukur liputan selang, ralat relatif, dan herotan kumpulan kecil pada simulasi atau set penilaian yang dikekalkan.

5. Penggubahan, bajet, dan reka bentuk sistem

Apabila satu unit privasi mengambil bahagian dalam beberapa pengeluaran data, kehilangan privasi tergubah (composes). Penggubahan asas menambah beberapa jaminan epsilon tulen; sistem praktikal boleh menggunakan penggubahan lanjutan yang lebih ketat atau perakaunan Rényi DP, tetapi sistem tersebut mesti menyeragamkan akauntan, unit privasi, dan semantik delta. Sepuluh penapis ke atas pertanyaan yang sama masih membelanjakan bajet; pengagregatan tidak membuatkan penggubahan hilang begitu sahaja.

Perkhidmatan bajet harus menjejaki epsilon dan delta yang dibelanjakan bagi setiap unit privasi atau set data, jenis pertanyaan, versi, dan dasar luput. Sebaik sahaja habis, ia harus menolak, merosot taraf kepada hasil yang lebih kasar, atau mengembalikan pengeluaran yang sedia ada. Pembahagian pengguna yang tak bersilang (disjoint) boleh menggunakan batas penggubahan selari, tetapi beberapa kumpulan yang mengandungi pengguna yang sama masih memerlukan perakaunan peringkat pengguna.

Tadbir urus juga harus menyekat kebenaran pertanyaan, menyimpan rekod audit, mentakrifkan pengekalan data, membezakan penerokaan daripada pengeluaran rasmi, dan menguatkuasakan saiz kumpulan minimum. Privasi pembezaan melindungi kebolehbezaan pengeluaran statistik; ia tidak membaiki capaian data mentah tanpa kebenaran, orang dalam yang berniat jahat, kebocoran logik perniagaan, atau hasil yang tidak sepatutnya didedahkan kepada umum.

6. Soalan susulan dan perangkap

• Mengapa ID yang dicincang tidak mencukupi? Cincangan (hash) selalunya masih merupakan pengecam yang boleh dipautkan dan stabil serta boleh dikenal pasti semula dengan data luaran; ia tidak memberikan sebarang jaminan taburan output bagi set data berjiran.
• Adakah epsilon yang lebih kecil sentiasa lebih baik? Tidak. Epsilon yang terlalu kecil boleh menjadikan hasil kumpulan kecil tidak boleh digunakan; pilihnya bersama model ancaman, jangkaan pengguna, dan sasaran ralat.
• Mengapa perlu mengehadkan sumbangan pengguna? Tanpa had, seorang pengguna yang sangat aktif boleh mendominasi kepekaan, menjadikan penentukuran hingar dan jaminan yang dinyatakan sukar untuk ditafsirkan.
• Apakah yang berlaku apabila banyak segmen dikeluarkan? Setiap pertanyaan membelanjakan bajet; penghirisan berdimensi tinggi juga mewujudkan hingar yang jarang (sparse) dan kebimbangan kepelbagaian. Hadkan dimensi, pra-daftar pertanyaan, dan gunakan satu akauntan.

7. Pengesahan dan semakan kualiti

• Ujian sifat (Property tests): Jalankan mekanisme berulang kali pada set data berjiran dan periksa batas taburan output, bukan hanya satu pasangan output.
• Ujian utiliti: Pada set penilaian yang representatif, ukur ralat mutlak dan relatif, liputan selang, serta perbezaan ralat peringkat kumpulan untuk kiraan, jumlah, dan purata.
• Ujian bajet: Simulasikan pertanyaan berulang, permintaan serentak, percubaan semula, dan capaian cache untuk mengesahkan bahawa satu pengeluaran logik dicaj sekali dan baki bajet tidak boleh dipintas.
• Ujian tadbir urus: Sahkan pemetaan unit privasi, pemangkasan, kebenaran, audit, ambang kumpulan minimum, dan pengembalian semula versi (version rollback) terhadap penyata privasi yang diterbitkan.

8. Mata pemarkahan temu duga

Boleh mentakrifkan unit privasi dan kejiranan

Calon harus menyatakan objek yang dilindungi, kejiranan peringkat pengguna atau peringkat peristiwa, dan bagaimana pilihan tersebut mengubah kepekaan dan bajet.

Boleh menerangkan mekanisme dan pertukaran utiliti

Mereka harus membezakan mekanisme Laplace dan Gaussian serta menerangkan kepekaan, pemangkasan, epsilon, delta, pincang, dan varians dan bukannya hanya mengatakan "tambah hingar rawak."

Boleh mengendalikan penggubahan dan tadbir urus bajet

Mereka harus menerangkan bahawa pertanyaan yang berulang mengumpul kehilangan privasi dan mencadangkan perakaunan, had sumbangan, penolakan, atau penurunan taraf.

Boleh mengenal pasti sempadan privasi pembezaan

Mereka harus menyatakan bahawa privasi pembezaan tidak menggantikan kawalan capaian, peminimuman data, pengauditan, atau tadbir urus output, dan memberikan ujian sifat, utiliti, serta bajet.