1. Pertanyaan
Sebuah tim analitik ingin memublikasikan pengguna aktif harian, nilai pesanan rata-rata per wilayah, dan grafik tren tanpa membiarkan penyertaan, penghapusan, atau satu rekaman dari seorang pengguna mengubah rilis data secara material. Beberapa rekan tim menganggap penghapusan nama dan peng-hash-an ID pengguna sebagai solusi privasi; yang lain ingin menyetel epsilon ke angka yang sangat kecil semaunya.
Rancang alur rilis differential-privacy. Jelaskan unit privasi, dataset tetangga, sensitivitas kueri, mekanisme derau (noise), epsilon dan delta, komposisi di seluruh kueri yang berulang, batas kontribusi per pengguna, dan evaluasi akurasi. Sebutkan risiko mana yang memerlukan kontrol akses, minimisasi data, atau tata kelola bersamaan dengan mekanisme tersebut.
2. Batasan dan klarifikasi
- Pertama-tama, tentukan apakah unit yang dilindungi adalah pengguna, akun, perangkat, atau peristiwa (event). Beberapa peristiwa dari satu pengguna biasanya termasuk dalam satu unit privasi.
- Tetapkan definisi dataset tetangga, seperti dataset yang berbeda dalam semua rekaman dari satu pengguna atau dalam satu peristiwa. Definisi yang berbeda menghasilkan sensitivitas dan jaminan yang berbeda pula.
- Bahas central differential privacy: sebuah mekanisme internal tepercaya mengakses data mentah dan merilis hasil yang telah diberi derau (noisy). Anonimisasi, peng-hash-an, dan enkripsi tidak secara otomatis memberikan jaminan differential-privacy.
- Jangan memberikan "epsilon yang benar" tanpa mengetahui kueri, distribusi data, dan model ancaman. Kekuatan privasi, utilitas, dan ekspektasi pengguna harus dipilih secara bersamaan.
3. Definisi inti: melindungi distribusi output dari dataset tetangga
Sebuah algoritma teracak M bersifat (epsilon, delta)-differentially private apabila, untuk setiap dataset tetangga D, D', dan peristiwa output S:
Pr[M(D) in S] <= exp(epsilon) * Pr[M(D') in S] + delta
Bahkan dengan informasi tambahan (auxiliary information), hal ini menyulitkan inferensi apakah suatu unit privasi hadir hanya dari satu rilis saja. Ini bukan berarti output tidak mengandung informasi sensitif sama sekali atau data yang dianonimkan tidak dapat diidentifikasi. Epsilon yang lebih kecil umumnya menerapkan batasan privasi yang lebih kuat tetapi menambahkan lebih banyak derau; delta adalah probabilitas kegagalan kecil yang diizinkan, bukan tingkat kesalahan atau data hilang yang sembarangan.
Relasi ketetanggaan (adjacency relation) mendefinisikan apa arti perubahan satu unit. Jika satu pengguna dapat berkontribusi paling banyak lima pesanan, hitungan tingkat pengguna dapat dibatasi pada sensitivitas 1, sedangkan jumlah total nilai pesanan juga memerlukan batasan pada setiap pesanan atau total milik pengguna tersebut. Jika tidak, satu pengguna dapat mengubah hasilnya tanpa batas.
4. Mekanisme dan pseudokode referensi
Untuk hitungan atau jumlah terbatas dengan sensitivitas Delta, mekanisme Laplace merilis f(D) + Laplace(Delta / epsilon). Untuk kueri berdimensi tinggi atau rata-rata yang memerlukan jaminan (epsilon, delta), mekanisme Gaussian adalah hal yang umum, tetapi kalibrasinya bergantung pada sensitivitas, delta, dan metode penghitungan (accounting method).
release_count(users, epsilon, delta, budget):
clipped = cap_each_user_contribution(users, max_contribution=1)
true_count = count_distinct_privacy_units(clipped)
require budget.remaining >= epsilon
noise = sample_laplace(scale=1 / epsilon)
budget.spend(epsilon, delta)
return max(0, round(true_count + noise))
release_mean(records, epsilon, delta, budget):
clipped = cap_each_user_contribution(records, max_rows=K)
clipped_values = clamp_values(clipped, lower=L, upper=U)
sum_release = dp_sum(clipped_values, epsilon_sum, delta_sum)
count_release = dp_count(clipped, epsilon_count, delta_count)
return sum_release / max(count_release, minimum_safe_count)Nilai rata-rata tidak dapat menambahkan derau hanya pada pembilang: penyebut juga memerlukan perlindungan, dan nilai beserta kontribusi per pengguna harus dipangkas (clipped). Pemangkasan menimbulkan bias dan derau menimbulkan variansi, jadi ukur cakupan interval, kesalahan relatif, dan distorsi kelompok kecil pada simulasi atau set evaluasi yang dipertahankan.
5. Komposisi, anggaran, dan desain sistem
Ketika satu unit privasi berpartisipasi dalam beberapa rilis, kerugian privasi (privacy loss) akan terakumulasi (terkomposisi). Komposisi dasar menjumlahkan beberapa jaminan pure-epsilon; sistem praktis dapat menggunakan komposisi lanjutan yang lebih ketat atau akuntansi Rényi DP, tetapi mereka harus menstandardisasi akuntan, unit privasi, dan semantik delta. Sepuluh filter pada kueri yang sama tetap menghabiskan anggaran; agregasi tidak membuat komposisi menghilang.
Layanan anggaran harus melacak epsilon dan delta yang terpakai per unit privasi atau dataset, jenis kueri, versi, dan kebijakan kedaluwarsa. Setelah habis, layanan harus menolak, menurunkan kualitas ke hasil yang lebih kasar, atau mengembalikan rilis yang sudah ada. Partisi pengguna yang terpisah (disjoint) dapat menggunakan batasan komposisi paralel, tetapi beberapa grup yang berisi pengguna yang sama tetap memerlukan akuntansi tingkat pengguna.
Tata kelola juga harus membatasi izin kueri, menyimpan catatan audit, menentukan retensi, membedakan eksplorasi dari rilis resmi, dan menegakkan ukuran grup minimum. Differential privacy melindungi keterbedaan (distinguishability) rilis statistik; ini tidak memperbaiki akses data mentah yang tidak sah, ancaman orang dalam yang berbahaya, kebocoran logika bisnis, atau hasil yang seharusnya tidak pernah dipublikasikan.
6. Tindak lanjut dan jebakan
- Mengapa ID yang di-hash tidak cukup? Hash sering kali masih merupakan pengidentifikasi stabil yang dapat ditautkan dan dapat diidentifikasi ulang dengan data eksternal; hash tidak memberikan jaminan distribusi output untuk dataset tetangga.
- Apakah epsilon yang lebih kecil selalu lebih baik? Tidak. Epsilon yang terlalu kecil dapat membuat hasil kelompok kecil tidak dapat digunakan; pilihlah bersama dengan model ancaman, ekspektasi pengguna, dan target kesalahan.
- Mengapa membatasi kontribusi pengguna? Tanpa batasan, satu pengguna yang sangat aktif dapat mendominasi sensitivitas, membuat kalibrasi derau dan jaminan yang dinyatakan sulit untuk ditafsirkan.
- Apa yang terjadi jika banyak segmen dirilis? Setiap kueri menghabiskan anggaran; pemotongan berdimensi tinggi juga menciptakan derau renggang (sparse noise) dan masalah multiplisitas. Batasi dimensi, pra-registrasi kueri, dan gunakan satu akuntan.
7. Verifikasi dan pemeriksaan kualitas
- Pengujian properti: Jalankan mekanisme berulang kali pada dataset tetangga dan periksa batas distribusi output, tidak hanya pada satu pasangan output.
- Pengujian utilitas: Pada set evaluasi yang representatif, ukur kesalahan absolut dan relatif, cakupan interval, dan perbedaan kesalahan tingkat grup untuk hitungan, jumlah, dan rata-rata.
- Pengujian anggaran: Simulasikan kueri berulang, permintaan serentak, percobaan ulang, dan hit cache untuk memverifikasi bahwa satu rilis logis hanya ditagih sekali dan sisa anggaran tidak dapat dilewati.
- Pengujian tata kelola: Verifikasi pemetaan unit privasi, pemangkasan, izin, audit, ambang batas grup minimum, dan pengembalian versi (rollback) terhadap pernyataan privasi yang dipublikasikan.
8. Poin penilaian wawancara
Dapat mendefinisikan unit privasi dan ketetanggaan
Kandidat harus menyatakan objek yang dilindungi, ketetanggaan tingkat pengguna atau tingkat peristiwa, dan bagaimana pilihan tersebut mengubah sensitivitas dan anggaran.
Dapat menjelaskan mekanisme dan kompromi utilitas
Mereka harus membedakan mekanisme Laplace dan Gaussian serta menjelaskan sensitivitas, pemangkasan, epsilon, delta, bias, dan variansi daripada hanya mengatakan "tambahkan derau acak."
Dapat menangani komposisi dan tata kelola anggaran
Mereka harus menjelaskan bahwa kueri berulang mengakumulasi kerugian privasi dan mengusulkan akuntansi, batas kontribusi, penolakan, atau penurunan kualitas.
Dapat mengidentifikasi batasan differential privacy
Mereka harus menyatakan bahwa differential privacy tidak menggantikan kontrol akses, minimisasi data, audit, atau tata kelola output, dan memberikan pengujian properti, utilitas, serta anggaran.