Gesaan dan konteks
Sebuah platform menerima teks, imej, audio, dan video. Pengguna menjangkakan siaran dapat dilihat dengan cepat, manakala platform mesti bertindak sebelum kandungan berisiko tinggi tersebar luas. Reka bentuk prapenyaringan muat naik, analisis mendalam tak segerak, semakan manusia, rayuan, pengimbasan semula pascapenerbitan, dan lelaran dasar. Anda tidak perlu melatih model, tetapi anda mesti menerangkan bagaimana output model menjadi keputusan perniagaan yang boleh diaudit.
Bahan temuduga reka bentuk sistem awam merangka masalah ini sebagai saluran paip berlapis dengan jalur keyakinan, barisan gilir manusia, dan laluan rayuan. Untuk andaian kapasiti yang boleh dikira semula, mulakan dengan 1,000,000 muat naik sejam, kira-kira 278 permintaan sesaat secara purata dan kira-kira 2,778 pada puncak 10x; prapenyaringan segerak boleh menambah paling banyak 100 ms pada penerbitan, dan penyemak boleh mengendalikan 100,000 kes setiap hari. Gantikan nombor ini apabila penemuduga memberikan nombor yang berbeza.
Perkara yang sedang diuji oleh penemuduga
Penemuduga ingin melihat sama ada anda membahagikan penyederhanaan kepada keputusan dengan kependaman dan risiko yang berbeza, dan bukannya melakar satu pengelas sahaja. Jawapan yang kukuh memisahkan penyekatan serta-merta, terbit-kemudian-imbas-semula, dan semakan manusia; menetapkan ambang bagi setiap dasar; merekodkan versi model dan bukti; serta menerangkan cara keputusan yang salah diperbetulkan.
Isyarat reka bentuk sistem juga merangkumi kapasiti puncak, usia barisan gilir, kerja pendua, gangguan model, input musuh (adversarial), keselamatan penyemak, tarikh akhir rayuan, dan pengasingan penyewa atau serantau. Ketepatan sahaja tidak menyediakan tadbir urus dalam talian tanpa tetapan lalai yang selamat, bukti yang boleh dimainkan semula, dan metrik operasi.
Penjelasan untuk ditanya terlebih dahulu
Apakah yang mesti disekat
Tanya sama ada setiap item memerlukan penyederhanaan prapenerbitan atau hanya kategori yang jelas berisiko tinggi mesti disekat secara segerak. Dengan belanjawan segerak kira-kira 100 ms, analisis video yang mendalam tergolong dalam laluan tak segerak; jika sesuatu kategori mesti dialih keluar tanpa kelewatan, peruntukkan pemeriksaan segerak yang lebih berat untuknya.
Bagaimanakah susunan kos ralat patut dibuat
Tanya sama ada mengalih keluar ucapan yang sah atau terlepas kandungan yang sangat berbahaya adalah lebih merugikan, dan sama ada pertukaran (tradeoff) itu berubah mengikut negara, umur, atau kategori dasar. Jawapannya menentukan ambang, saiz jalur manusia, dan sama ada tindakan automatik boleh memadam kandungan secara terus.
Berapa lamakah bukti semakan mesti disimpan
Jelaskan tempoh rayuan, bukti kawal selia, pengekalan media, dan keperluan pemadaman. Jika sesuatu keputusan mesti dimainkan semula, simpan versi dasar dan model, ringkasan input, skor, bukti yang dirujuk, dan tindakan penyemak dan bukannya label akhir sahaja.
Apakah had model dan penyemak
Tanya sama ada penerbitan boleh diturunkan taraf apabila model tidak tersedia, berapa banyak kes yang boleh diproses oleh penyemak setiap hari, dan masa menunggu maksimum. Apabila kapasiti berkurangan, kurangkan kemasukan tak segerak berisiko rendah atau tangguhkan kerja yang tidak kritikal; jangan sekali-kali membiarkan barisan gilir tanpa batas melepaskan kandungan berisiko tinggi secara senyap.
Jawapan 30 saat
“Saya akan membahagikan laluan kepada prapenyaringan segerak dan semakan mendalam tak segerak. Semasa muat naik, jalankan pemadanan cincangan (hash), pemeriksaan format dan saiz, pengelas ringan, dan pemeriksaan dasar asas. Sekat keputusan berisiko tinggi yang jelas, hantar jalur keyakinan ke barisan gilir manusia yang disusun mengikut risiko dan pendedahan yang dijangkakan, dan terbitkan kandungan berisiko rendah dengan penanda imbas semula pascapenerbitan. Setiap keputusan menyimpan model, dasar, bukti, dan versinya, manakala rayuan diserahkan kepada penyemak yang berbeza. Saya akan menskalakan prapenyaringan untuk puncak 2,778 permintaan sesaat, mengasingkan barisan gilir mengikut penyewa dan risiko, serta memantau ketinggalan (misses), positif palsu, usia barisan gilir, masa pendedahan, dan beban penyemak. Kegagalan model atau barisan gilir menggunakan tetapan lalai yang selamat dan sandaran manusia yang eksplisit.”
Analisis mendalam langkah demi langkah
Langkah 1: Bahagikan keputusan segerak dan tak segerak
Selepas menerima kandungan, ingress menulis contentId yang tidak boleh diubah dan rujukan media. Lapisan segerak melakukan pemadanan cincangan pantas, pemeriksaan format dan saiz, model teks atau imej yang ringan, dan pemeriksaan dasar serantau. Keputusan berisiko tinggi yang jelas disekat; keputusan yang tidak pasti masuk ke PENDING_REVIEW; keputusan berisiko rendah boleh diterbitkan dengan penanda imbas semula. Persampelan bingkai video, pengecaman pertuturan, dan gabungan berbilang model berjalan secara tak segerak supaya analisis mendalam tidak menyekat setiap siaran.
Langkah 2: Bertindak mengikut kategori, bukan satu skor global
Jangan gunakan satu ambang global untuk setiap kategori dasar. Kategori berisiko kemudaratan tinggi mungkin menggunakan ambang sekatan automatik yang lebih rendah dan menghantar kes sempadan kepada manusia; kategori yang sangat bergantung pada konteks mungkin menggunakan jalur manusia yang lebih luas untuk mengurangkan positif palsu. Konfigurasi ambang membawa versi dasar dan wilayah, dan peristiwa keputusan menyimpan skor mentah serta ambang supaya tindakan itu boleh dijelaskan kemudian.
Langkah 3: Bina barisan gilir semakan yang boleh diskalakan
Tulis tugas semakan ke barisan gilir yang tahan lama dan kira keutamaan daripada risiko, pendedahan yang dijangkakan, laporan pengguna, dan tarikh akhir. Setiap tugas membawa penyewa atau wilayah, versi kandungan, versi dasar, dan pajakan (lease); penyemak memegangnya sebentar, dan tamat tempoh akan mengembalikannya ke barisan gilir. Lakukan pemecahan (shard) mengikut kategori dan wilayah supaya satu kategori popular tidak menghabiskan semua penyemak. Apabila usia barisan gilir melepasi ambang, kurangkan kemasukan untuk kerja tak segerak berisiko rendah dan cetuskan amaran.
Langkah 4: Jadikan rayuan dan maklum balas boleh dimainkan semula
Sesuatu rayuan mencipta kes baharu dan bukannya menulis ganti keputusan asal. Penyemak kedua melihat bukti asal, versi dasar, dan versi model dengan set kebenaran yang berbeza. Pembatalan keputusan memulihkan atau mengekalkan sekatan dan mengeluarkan peristiwa audit. Hasil manusia yang disampel, pembalikan rayuan, dan contoh pengelakan baharu disalurkan ke set penilaian, bukan data latihan yang tidak disemak yang boleh menguatkan label buruk.
Langkah 5: Pantau risiko, pengalaman, dan kos
Metrik serta-merta merangkumi kependaman prapenyaringan, kadar sekatan bagi setiap kategori, panjang dan usia barisan gilir tak segerak, ralat model, daya pemprosesan penyemak, dan ralat perkhidmatan. Sebaik sahaja label matang, kira kepersisan, ingatan semula, positif palsu, negatif palsu, dan pembalikan rayuan mengikut kategori dan wilayah. Ukur juga bilangan pendedahan berisiko tinggi didarab dengan masa dalam talian, pendedahan penyemak, dan kos setiap item; ketepatan model sahaja tidak dapat mendedahkan kegagalan tadbir urus.
Langkah 6: Tangani kegagalan dan input musuh (adversarial)
Apabila model mengalami masa tamat atau tidak tersedia, kekalkan sekatan cincangan dan peraturan. Kandungan berisiko tidak diketahui disalurkan ke penerbitan terhad atau manusia; "tiada keputusan" tidak bersamaan dengan selamat. Hadkan kadar (rate-limit) dan tetapkan belanjawan untuk media yang dikodkan semula, teks yang dikaburkan, muat naik pendua, dan percubaan untuk menjana beban barisan gilir. Setiap tindakan automatik mesti boleh dimainkan semula oleh contentId untuk analisis insiden dan pengunduran (rollback) dasar.
Contoh jawapan berkualiti tinggi
Saya akan terlebih dahulu mengesahkan belanjawan segerak dan kategori berisiko tinggi. Dengan andaian purata 278 permintaan sesaat dan 2,778 pada waktu puncak, saya akan mengehadkan laluan segerak kepada cincangan, pemeriksaan format, model ringan, dan peraturan serantau, menyasarkan tidak lebih daripada 100 ms. Kandungan yang jelas berbahaya ditolak serta-merta; jalur pertengahan memasuki barisan gilir manusia yang tahan lama; kandungan berisiko rendah diterbitkan dengan penanda imbas semula. Analisis video dan audio yang mendalam berjalan melalui barisan gilir dan pekerja dan bukannya menyekat setiap pengguna.
Ambang dikonfigurasi bagi setiap kategori dasar, bukan sebagai satu skor untuk semua risiko. Setiap keputusan menyimpan ID dan versi kandungan, versi model dan dasar, skor, ringkasan bukti, dan tindakan. Tugas semakan disusun mengikut jangkaan pendedahan, risiko, laporan, dan tarikh akhir, manakala pajakan menghalang tuntutan pendua. Tekanan barisan gilir melindungi kerja berisiko tinggi terlebih dahulu. Keputusan dan pembalikan oleh penyemak ialah peristiwa yang tidak boleh diubah, dan rayuan dikendalikan oleh penyemak yang berbeza dengan bukti asal.
Saya akan memantau kependaman prapenyaringan, usia barisan gilir, positif palsu dan ketinggalan mengikut kategori, masa pendedahan, pembalikan rayuan, kapasiti penyemak, dan kos unit. Gangguan model masih menjalankan sekatan cincangan dan peraturan; keputusan yang tidak diketahui menggunakan penerbitan terhad atau sandaran manusia. Perubahan model, dasar, dan serantau dimainkan semula di luar talian dan kemudian diuji secara canary. Matlamatnya ialah sistem yang boleh diterangkan dan boleh diundur yang mengurangkan kemudaratan secara berterusan, bukan sekadar satu nombor ketepatan luar talian.
Kesilapan biasa
- Menjalankan model berat secara segerak untuk setiap item → Kependaman video dan audio membebani laluan penerbitan → Kekalkan kerja segerak untuk prapenyaringan pantas dan pindahkan analisis mendalam ke barisan gilir.
- Menggunakan satu ambang untuk setiap kategori → Ketinggalan kemudaratan tinggi dan positif palsu kontekstual tidak dapat dikawal kedua-duanya sekali → Konfigurasikan ambang mengikut dasar dan wilayah, dengan jalur manusia.
- Membenarkan kandungan apabila model tidak mengembalikan keputusan → Masa tamat menjadi ketinggalan yang tidak diaudit → Kekalkan sekatan peraturan dan cincangan serta halakan keputusan yang tidak diketahui kepada pengendalian terhad atau manusia.
- Menyimpan label akhir sahaja → Rayuan tidak dapat membina semula keputusan → Simpan versi kandungan, model, dasar, skor, bukti, dan tindakan.
- Melayan barisan gilir secara FIFO ketat → Trafik popular atau bernilai rendah menjejaskan kes berisiko tinggi → Susun mengikut risiko, pendedahan yang dijangkakan, dan tarikh akhir sambil mengasingkan kapasiti.
Soalan susulan
Susulan 1: Adakah menyemak hanya 1% daripada jumlah keseluruhan sudah mencukupi?
Peratusan bukanlah matlamatnya. Dokumentasi AWS menggunakan aliran kerja imej dan videonya sebagai contoh di mana penapisan mesin boleh meninggalkan kira-kira 1%–5% untuk semakan manusia; sistem anda masih mengesahkan ingatan semula kategori, kemudaratan daripada ketinggalan, usia barisan gilir, dan masa pendedahan dan bukannya menganggap julat itu sebagai jaminan sejagat. Jika kategori berisiko tinggi terlepas, luaskan jalur manusia atau ketatkan kemasukan penerbitan.
Susulan 2: Bagaimana jika barisan gilir semakan tertunggak selama sehari?
Susun semula mengikut risiko dan pendedahan yang dijangkakan, jedakan kerja kelompok bernilai rendah, tambah kapasiti semakan berisiko tinggi, dan cetuskan amaran. Imbas semula dan hadkan kadar item yang telah diterbitkan; jangan kurangkan nombor tunggakan dengan menggugurkan tugas secara senyap. Jika tarikh akhir berisiko tinggi masih tidak dapat dipenuhi, ketatkan penerbitan dan dedahkan kekurangan kapasiti tersebut kepada pihak perniagaan.
Susulan 3: Bagaimanakah anda menghalang rayuan yang berjaya daripada disalahklasifikasikan semula?
Kekalkan versi dasar dan model dari sebelum dan selepas rayuan, tambahkan pembalikan pada set penilaian bebas mengikut kategori, dan periksa bias serantau, bahasa, atau kumpulan. Mainkan semula sampel sejarah sebelum menukar ambang atau peraturan, kemudian laksanakan perubahan secara canary. Hasil rayuan bukanlah label latihan yang belum disemak.
Susulan 4: Bagaimanakah anda mengekalkan kebolehkesanan apabila menukar vendor model?
Tentukan output dan versi penyesuai yang dinormalkan untuk setiap model, dan simpan ringkasan keputusan vendor berserta peraturan pemetaan. Bandingkan model baharu pada set main semula yang tetap dan semakan buta manusia untuk ralat kategori, ketinggalan, kependaman, dan kos sebelum canary serantau atau trafik. Jika berlaku regresi, undurkan mengikut versi dasar kepada penyesuai lama.