Petunjuk dan ruang lingkup
Asisten ini dapat merangkum, mengklasifikasikan, atau merekomendasikan tindakan dari konten yang disediakan pelanggan. Pengguna perlu mengetahui kapan AI terlibat, data apa yang digunakan, peninjauan manusia apa yang ada, dan bagaimana cara menyanggah suatu output. Administrator enterprise membutuhkan konfigurasi, bukti, dan catatan yang dapat diekspor. Rancang permukaan produk dan proses operasional tanpa mengklaim bahwa keterbukaan membuat suatu output menjadi benar atau sah secara hukum.
Ini adalah pertanyaan product karena keterampilan utamanya adalah memilih nilai pengguna, kontrol risiko, dan keputusan peluncuran yang terukur di bawah persyaratan yang terus berubah.
Hal yang dinilai oleh pewawancara
Pertama, dapatkah Anda memisahkan transparansi, keterjelaskan (explainability), dan keterinterpretasian (interpretability)? Suatu pemberitahuan dapat mengungkapkan keterlibatan AI tanpa berpura-pura mengungkap setiap komputasi model.
Kedua, dapatkah Anda mengidentifikasi audiens dan momen yang tepat? Pemberitahuan pengguna, kontrol admin, catatan audit, dan integrasi pengembang memiliki fungsi yang berbeda.
Ketiga, dapatkah Anda menjelaskan penggunaan dan retensi data dalam bahasa yang sederhana, termasuk peninjauan manusia dan penyedia eksternal?
Keempat, dapatkah Anda membuat ketidakpastian dan asal-usul (provenance) dapat ditindaklanjuti alih-alih hanya menambahkan lencana dekoratif?
Kelima, dapatkah Anda mengukur pemahaman, tingkat sanggahan, hasil yang berbahaya, dan adopsi sambil menghindari pola gelap (dark patterns)?
Pertanyaan untuk diklarifikasi terlebih dahulu
- Fitur mana yang menghasilkan, mengubah, memberi peringkat, atau sekadar mengambil (retrieve) konten?
- Pengguna mana yang terpengaruh, dan apakah admin enterprise mengonfigurasi pengaturan default?
- Masukan, periode retensi, sub-prosesor, dan jalur peninjauan manusia apa saja yang ada?
- Yurisdiksi dan komitmen produk mana yang masuk dalam cakupan rilis ini?
- Tindakan apa yang dapat diambil pengguna setelah keterbukaan: mengoreksi, mengajukan banding, menonaktifkan, atau meminta peninjauan?
- Metrik apa yang akan memblokir peluncuran atau memicu rollback?
Kerangka jawaban 30 detik
“Saya akan memetakan setiap kasus penggunaan AI ke audiens, momen, sumber data, peran manusia, ketidakpastian, dan tindakan pengguna. Pengguna melihat pemberitahuan yang ringkas dan terlokalisasi sebelum mengambil keputusan penting; admin mendapatkan kontrol kebijakan dan bukti; catatan audit mencatat versi model, kebijakan sumber, dan status peninjauan. Saya akan menguji pemahaman dan alur sanggahan, membatasi peluncuran berdasarkan kesiapan keamanan dan dukungan, serta memisahkan tinjauan hukum dari klaim produk.”
Jawaban langkah demi langkah
Langkah 1: Menginventarisasi penggunaan AI dan tingkat risiko
Buat daftar fitur: merangkum, mengklasifikasikan, merekomendasikan, atau mengeksekusi. Untuk masing-masing fitur, catat kategori input, audiens output, konsekuensi kesalahan, peninjauan manusia, model/penyedia, retensi, dan fallback. Rekomendasi dengan konsekuensi tinggi memerlukan keterbukaan dan peninjauan yang lebih kuat dibandingkan pembuatan draf berisiko rendah.
Langkah 2: Merancang pemberitahuan pengguna
Tempatkan pemberitahuan singkat di titik saat AI memengaruhi pengalaman, tidak hanya di halaman kebijakan. Nyatakan apa yang dilakukan asisten, materi sumber apa yang digunakannya, bahwa output mungkin salah, dan tindakan selanjutnya: memeriksa sumber, mengedit, menonaktifkan, atau meminta peninjauan. Hindari mengklaim bahwa "diverifikasi oleh AI" berarti kebenaran faktual.
Langkah 3: Memberikan kontrol dan bukti kepada admin
Admin enterprise memerlukan pengaktifan tingkat fitur, pengaturan penggunaan data, pilihan retensi, pembatasan penyedia, dan catatan versi kebijakan yang dapat diekspor. Perubahan harus diberi versi, dapat dipratinjau, dan dapat diaudit, dengan pengaturan default yang aman untuk fitur baru berisiko tinggi.
Langkah 4: Menampilkan asal-usul (provenance) dan ketidakpastian
Jika memungkinkan, kutip dokumen sumber, stempel waktu, cakupan pengambilan, dan apakah manusia telah menyetujui hasilnya. Gunakan label yang terkalibrasi dan penjelasan mengenai batasan; jangan menampilkan persentase keyakinan buatan. Izinkan pengguna membandingkan output dengan materi sumber.
Langkah 5: Menghubungkan keterbukaan dengan persetujuan dan kontrol
Pemberitahuan tidak secara otomatis merupakan persetujuan. Jika suatu fitur memerlukan keikutsertaan (opt-in), buat pilihan tersebut spesifik dan dapat dibatalkan. Hormati pengaturan akun, ruang kerja, dan regional, serta cegah default tersembunyi yang mengaktifkan kembali kasus penggunaan yang dinonaktifkan.
Langkah 6: Melokalisasi dan mendukung aksesibilitas
Terjemahkan maknanya, bukan hanya teksnya; pertahankan urutan membaca, akses keyboard, kontras, dan label pembaca layar (screen-reader). Jelaskan konsep model dan data dalam kosakata pengguna, dan sediakan jalur yang mudah diakses ke dukungan manusia.
Langkah 7: Mengukur dan menyaring peluncuran (rollout gates)
Ukur pemahaman pemberitahuan, tingkat pembukaan sumber, tingkat koreksi dan banding, tingkat penonaktifan, laporan output berbahaya, kontak dukungan, latensi, dan keberhasilan tugas. Jalankan pada kelompok terbatas terlebih dahulu, tinjau insiden setiap minggu, dan tentukan ambang batas rollback sebelum peluncuran.
Langkah 8: Menjaga klaim tetap tersinkronisasi
Sinkronkan versi teks produk, artikel bantuan, pengaturan admin, kartu model (model cards), dan kontrak bersama-sama. Ketika model, penyedia, tujuan, atau retensi berubah, picu peninjauan dan perbarui permukaan yang relevan daripada membiarkan teks keterbukaan usang.
Contoh jawaban model
“Saya akan memulai dengan daftar penggunaan AI dan tingkat risiko. Pada saat terjadi dampak, pengguna melihat pemberitahuan ringkas terlokalisasi yang menjelaskan tugas, sumber data, batasan, dan tindakan untuk memeriksa, mengoreksi, menonaktifkan, atau mengajukan banding. Admin enterprise menerima kontrol fitur, pengaturan penyedia dan retensi, versi kebijakan, dan bukti yang dapat diekspor. Asal-usul menautkan ke dokumen sumber dan status peninjauan manusia; saya tidak akan pernah mengarang tingkat keyakinan.
Peluncuran dimulai dengan kelompok terbatas dan gerbang yang telah ditentukan sebelumnya untuk pemahaman, output berbahaya, banding, dan kesiapan dukungan. Salinan teks, bantuan, pengaturan, dan metadata model diberi versi bersama-sama. Keberlakuan hukum ditinjau secara terpisah; bahasa produk tetap akurat dan dapat diubah.”
Kesalahan umum
- Menggunakan satu lencana AI global → pengguna tidak dapat menindaklanjutinya → tampilkan tugas, data, batasan, dan tindakan selanjutnya pada momen yang tepat.
- Menyamakan transparansi dengan keterjelaskan → janji melebihi bukti → nyatakan apa yang diketahui dan tidak diketahui.
- Mempublikasikan angka keyakinan tanpa kalibrasi → jaminan palsu → tampilkan asal-usul dan batasan sebagai gantinya.
- Memperlakukan pemberitahuan sebagai persetujuan → pilihan menjadi tidak jelas → buat opt-in spesifik dan dapat dibatalkan jika diperlukan.
- Tidak memberikan kontrol admin → kebijakan enterprise tidak dapat ditegakkan → buat versi pengaturan dan bukti.
- Hanya mengukur klik → pemahaman dan bahaya terlewatkan → sertakan sanggahan, koreksi, insiden, dan dukungan.
- Membiarkan teks usang setelah perubahan penyedia → keterbukaan menjadi tidak akurat → picu peninjauan metadata dan konten.
Pertanyaan lanjutan
Pertanyaan lanjutan 1: Apakah setiap fitur AI memerlukan modal?
Tidak. Sesuaikan waktu dan kejelasan pemberitahuan dengan risiko dan keputusan pengguna. Keterbukaan yang persisten namun ringan mungkin cocok untuk pembuatan draf; rekomendasi yang berdampak besar membutuhkan konteks dan peninjauan yang lebih kuat.
Pertanyaan lanjutan 2: Apakah kartu model (model card) ditujukan untuk pengguna akhir?
Biasanya ini adalah referensi untuk administrator dan pemangku kepentingan teknis. Pengguna membutuhkan penjelasan ringkas dan jalur tindakan, dengan tautan ke bukti yang lebih mendalam jika sesuai.
Pertanyaan lanjutan 3: Bagaimana Anda menghindari pola gelap (dark patterns)?
Buat pilihan yang spesifik, dapat dibatalkan, terlihat sama jelasnya, dan tidak bergantung pada manfaat yang tidak terkait. Jangan menyembunyikan kontrol penonaktifan atau banding.
Pertanyaan lanjutan 4: Apa itu asal-usul (provenance)?
Ini adalah bukti tentang sumber input, waktu atau cakupan pengambilan, versi model dan kebijakan, serta status peninjauan manusia yang membantu pengguna memeriksa suatu output.
Pertanyaan lanjutan 5: Apa yang memblokir peluncuran?
Penggunaan data yang tidak jelas, jalur peninjauan atau banding yang hilang, klaim yang tidak terkalibrasi, pemberitahuan yang tidak dapat diakses, tingkat output berbahaya di atas ambang batas, atau operasi yang tidak didukung harus memblokir atau mempersempit peluncuran.
Pertanyaan lanjutan 6: Bagaimana Anda menangani perubahan penyedia model?
Beri versi pada metadata penyedia dan model, evaluasi ulang risiko dan teks, beri tahu administrator yang terpengaruh bila diperlukan, serta pertahankan rollback dan bukti untuk versi sebelumnya.