Temu duga reka bentuk sistem: Bina model registry yang boleh diaudit dan selamat untuk rollback

Gesaan dan konteks

Platform anda menyediakan ratusan model yang artifak latihannya datang daripada saluran paip (pipeline) yang berbeza. Perkhidmatan dalam talian memerlukan rujukan yang stabil kepada versi yang diluluskan, manakala penyelidikan inginkan eksperimen pantas dan pematuhan memerlukan snapshot data latihan, metrik penilaian, pelulus, serta sejarah pelaksanaan. Andaikan fail model berada dalam storan objek dan perkhidmatan inferens menyelesaikan (resolve) versi dan alias melalui registry.

Perkara yang dinilai oleh penemu duga

Penemu duga mahu anda memisahkan versi model yang tidak boleh ubah (immutable) daripada penunjuk pelepasan yang boleh ubah (mutable). Jawapan yang kukuh merangkumi ketekalan metadata, integriti artifak, perubahan alias secara atomik, pengasingan persekitaran, kelulusan, dan rollback. Jawapan yang lemah hanya membina perkhidmatan CRUD yang menyimpan nama fail.

Penjelasan untuk ditanya terlebih dahulu

• Bolehkah model digunakan semula merentas persekitaran? Jika pembangunan, pementasan (staging), dan pengeluaran diasingkan, alias dan kebenaran memerlukan sempadan yang berasingan.
• Adakah rollback kepada versi sebelumnya, versi yang ditentukan, atau versi sihat yang terakhir? Setiap sasaran mengubah model kesihatan dan audit.
• Bukti penilaian manakah yang wajib? Versi yang ketiadaan snapshot set data atau metrik tidak boleh diluluskan.
• Bolehkah perkhidmatan inferens menyimpan cache model? TTL cache dan penyebaran alias menentukan masa rollback.
• Adakah kenari (canary) atau berbilang versi langsung diperlukan? Jika ya, penghalaan trafik mesti diikat pada metrik versi model.

Rangka kerja jawapan 30 saat

“Saya akan menjadikan fail model dan metadata versi tidak boleh ubah, mengalamatkan artifak mengikut digest kandungan dan versi, serta menggunakan satu alias berskop persekitaran untuk versi yang diluluskan. Pendaftaran, penilaian, kelulusan, pelaksanaan, dan rollback adalah peralihan keadaan yang diaudit. Inferens menyelesaikan alias kepada snapshot versi, kemudian mengesahkan digest dan kebenaran. Pelepasan menggunakan kemas kini bersyarat, dan pelanggaran sekatan keselamatan (guardrail) mengalihkan alias secara atomik kembali kepada versi sihat yang terakhir.”

Jawapan mendalam langkah demi langkah

1. Takrifkan objek. RegisteredModel menyimpan pemilik dan dasar. ModelVersion menyimpan URI artifak, digest, rangka kerja, tandatangan input/output, snapshot data latihan, dan metrik penilaian. Alias ialah penunjuk boleh ubah berskop persekitaran.
2. Jadikan artifak tidak boleh ubah. Kira digest semasa muat naik dan tulis artifak ke storan objek. Sesuatu versi hanya memperoleh metadata; failnya tidak boleh ditulis ganti. Sahkan digest semasa muat turun.
3. Gunakan mesin keadaan (state machine). Versi bergerak melalui registered, validated, approved, deployed, dan retired. Setiap peralihan merekodkan pelaku, sebab, masa, dan pautan bukti; peralihan yang tidak sah akan ditolak.
4. Tukar alias dengan selamat. Alias seperti candidate, staging, dan champion menunjuk kepada satu versi pada satu masa. Gunakan penulisan bersyarat atau transaksi supaya pembaca tidak pernah melihat pertukaran separa.
5. Selesaikan semasa pelaksanaan. Perkhidmatan menyelesaikan alias kepada snapshot versi, menyemak penyewa (tenant), persekitaran, dan digest, kemudian memuat turun dan menyimpan model dalam cache. Cache menyimpan versi, bukan sekadar alias.
6. Kenari dan rollback. Pengawal mengikat kumpulan trafik kepada alias atau peraturan penghalaan dan mengumpul metrik ralat, kependaman (latency), dan perniagaan. Pelanggaran mengalihkan alias kepada versi yang sihat dan merekodkan peristiwa rollback automatik.

Simpan metadata dalam pangkalan data hubungan dan fail besar dalam storan objek. Aliran peristiwa boleh membatalkan cache dan mengindeks peristiwa audit secara tidak segerak. Replikasi silang rantau hendaklah menyalin versi yang diluluskan sahaja, supaya artifak yang belum selesai tidak sampai ke pengeluaran.

Jawapan model

“Saya akan menguatkuasakan tiga sempadan: versi tidak boleh ubah, alias boleh ubah, dan peralihan keadaan yang diaudit. Setiap versi mengandungi digest artifak, tandatangan, snapshot data latihan, metrik penilaian, dan larian sumber. Kelulusan ditolak apabila bukti yang diperlukan tiada. Alias champion pengeluaran bertukar melalui kemas kini bersyarat kepada tepat satu versi; inferens menyelesaikan dan menyimpan nombor versi dalam cache, kemudian mengesahkan digestnya. Pengawal kenari mengikat versi model pada metrik ralat, kependaman, dan perniagaan serta mengembalikan alias secara atomik kepada versi sihat terakhir apabila sekatan keselamatan gagal. Kebenaran dipecahkan mengikut model, persekitaran, dan tindakan, manakala pergerakan alias, kelulusan, muat turun, dan rollback ditulis pada log audit kalis usik.”

Kesilapan biasa

• Kesilapan: Menulis ganti fail untuk versi sedia ada → Sebab ia gagal: Pelaksanaan tidak boleh dihasilkan semula dan audit merujuk kepada kandungan yang sentiasa berubah → Pembetulan: Jadikan versi dan artifak tidak boleh ubah.
• Kesilapan: Mengatur gerak rentetan harfiah latest → Sebab ia gagal: Pergerakan alias menjadikan cache dan audit tidak konsisten → Pembetulan: Selesaikan kepada snapshot versi dan rekodkan digestnya.
• Kesilapan: Menyimpan kelulusan sebagai Boolean → Sebab ia gagal: Tiada siapa boleh menjelaskan siapa yang meluluskan apa dan sebabnya → Pembetulan: Gunakan peralihan keadaan yang disokong bukti dan peristiwa audit.
• Kesilapan: Membalikkan (rollback) trafik sahaja → Sebab ia gagal: Cache atau kebergantungan mungkin masih memuatkan versi baharu → Pembetulan: Versikan cache, semak kebergantungan, dan alihkan alias kembali secara atomik.

Soalan susulan dan respons

Mengapa menggunakan alias dan bukannya mengatur gerak nombor versi secara terus?

Nombor versi memberikan kebolehulangan; alias memberikan kawalan pelepasan. Memisahkan kedua-duanya membolehkan pertukaran dilakukan tanpa mengubah konfigurasi klien sambil mengekalkan jejak audit versi yang jelas.

Bagaimanakah anda menghalang kemas kini alias serentak daripada menulis ganti antara satu sama lain?

Simpan nombor versi atau semakan bersama-sama alias dan gunakan kemas kini bersyarat. Sekiranya berlaku konflik, baca semula dasar dan cuba lagi; jangan sekali-kali menulis ganti pelepasan lain secara senyap.

Apakah yang disimpan oleh registry apabila data latihan adalah sensitif?

Simpan versi set data, dasar akses, dan digest, bukan sampel mentah. Gunakan semula kebenaran data semasa mengambil bukti penilaian dan rekodkan audit akses.

Bilakah versi model lama boleh dipadamkan?

Padamkan artifak hanya selepas tempoh pengekalan, pelaksanaan aktif, dan pegangan audit selesai. Simpan metadata dan digest rollback sepanjang tempoh pengekalan pematuhan.