Blog / Teknik

Detektor wajah pernah merestorasi celana seorang balita

· diperbarui 24 Agustus dengan pengukuran batas bawah deteksi · data: implementasi, unit test, bench lab

Pada pengujian awal, detektor wajah melaporkan sebuah deteksi yang percaya diri pada jepretan keluarga dan pipeline dengan patuh “merestorasinya”, hanya saja yang terdeteksi adalah celana korduroi seorang balita. Lipatan kainnya terbaca sebagai wajah oleh detektor, dan model wajah lalu melukisnya ulang menjadi wajah. Kegagalan itu mengajarkan kami bahwa pada foto lama, keyakinan detektor saja bukan sinyal yang bisa dipakai, dan darinya lahir gerbang geometris yang kini harus dilewati setiap kandidat wajah. Revisi ini menambahkan separuh cerita lainnya, terukur: seberapa kecil wajah yang masih bisa ditemukan detektor. Batas bawahnya berada antara 14 dan 20 piksel letterbox, dan foto Konferensi Solvay 1927 yang terkenal, yang 29 wajahnya berukuran 21–27 px, melewatinya dengan setiap peserta ditemukan.

29 / 29wajah Solvay 1927 ditemukanpada tinggi letterbox 21–27 px
14–20 pxbatas bawah deteksiluput di bawahnya, ditemukan di atasnya
27 / 29dengan pengubinan 2×2 naifwajah di perbatasan hilang; tumpang tindih itu penting
3aturan geometri dalam gerbangkeyakinan, pita mata, mulut di bawah mata

Setiap angka dalam catatan ini diukur pada kode pipeline produksi: model yang sama, matematika yang sama. Rekaman mentah per gambar: e5_detect.json.

1 · Mengapa foto lama mengacaukan detektor wajah

Detektor sebagian besar dilatih pada gambar modern dengan pencahayaan yang baik. Pindaian lama menghadirkan tekstur yang jarang ada dalam set pelatihan: anyaman kain, renda, dedaunan, kerusakan air, dan butiran, semuanya mampu menghasilkan deteksi palsu dengan keyakinan tinggi. Pindaian lama juga menghadirkan masalah sebaliknya: wajah sungguhan yang kecil, pudar, dan berkontras rendah. Ambang keyakinan saja tidak bisa memisahkan keduanya, karena positif palsu sering mencetak skor lebih tinggi daripada wajah kecil yang sungguhan. Detektor kami adalah SCRFD-2.5G[1], didekode 1:1 dari implementasi referensi FaceFusion[2]: foto di-letterbox ke input 640×640, dan setiap kandidat kembali dengan sebuah kotak, lima landmark, dan skor keyakinan.

2 · Gerbangnya

Alih-alih memercayai skornya, kami menguji apakah landmark deteksi tersusun seperti wajah: aritmetika murah pada titik mata dan mulut:

lolos ⇔ skor ≥ 0,55  ∧  0,25 < deyes/w < 0,75  ∧  ymouth > ȳeyes + 0,2·deyes(1)
kotak deteksi, lebar wjarak mata dmulut> 0,2 × d di bawah matagerbang: 0,25 < d / w < 0,75 · keyakinan ≥ 0,55
Gambar 1. Gerbang plausibilitas. Landmark harus tersusun seperti wajah (jarak mata yang wajar relatif terhadap kotak, mulut cukup jauh di bawah garis mata) sebelum restorasi apa pun dijalankan.
AturanAmbangApa yang ditolak
Keyakinan detektor≥ 0,55Deteksi marginal yang tidak layak diuji lebih lanjut.
Jarak mata vs. lebar kotak0,25 – 0,75Gugus landmark yang terlalu rapat atau terlalu lebar untuk menjadi dua mata dalam kotak seukuran wajah: geometri khas positif palsu dari lipatan kain.
Mulut di bawah matasejauh ≥ 0,2 × jarak mataSusunan landmark yang terbalik dan acak.

Ambangnya sengaja dibuat longgar: ia mendeskripsikan wajah manusia mana pun yang masuk akal, termasuk wajah miring dan tampak tiga perempat, sambil mengecualikan susunan yang tidak mungkin dimiliki wajah mana pun. Sejak gerbang ini dirilis, kegagalan kelas celana tidak pernah terulang pada foto uji kami.

3 · Baru: batas bawah deteksi, terukur

00.250.50.7515204080120200tinggi wajah dalam letterbox 640 px (px)keyakinan deteksigerbang ≥ 0,55
Gambar 2. Keyakinan deteksi vs tinggi wajah dalam letterbox 640×640. Nyaman dari ~200 px turun sampai ~28, menurun di bawahnya, mati antara 20 dan 14: setiap wajah pada atau di bawah 14 px luput sama sekali. Garis putus-putus adalah batas keyakinan 0,55 milik gerbang.
Foto kelompok Konferensi Solvay 1927 dengan kotak deteksi digambar di sekeliling seluruh dua puluh sembilan wajah
Gambar 3. Seluruh 29 peserta Konferensi Solvay 1927 terdeteksi pada skala bingkai penuh (kotak digambar oleh skrip lab, pasca-NMS, setelah gerbang geometris). Wajah letterbox-nya setinggi 20,9–27,1 px, melayang tepat di atas tebing pada Gambar 2.

Hasil Solvay mendarat persis di tempat yang diprediksi tangga, di sisi yang baik: seluruh 29 dari 29 peserta terdeteksi pada skala bingkai penuh, keyakinan 0,734–0,864, setiap satunya lolos gerbang geometris. Dan sebuah kontrol yang layak dipublikasikan karena berlawanan dengan intuisi: mengubin foto yang sama secara naif 2×2 (piksel per wajah lebih banyak) hanya menemukan 27 dari 29. Dua wajah berada tepat di perbatasan ubin dan tidak terlihat utuh oleh ubin mana pun; grid 3×3 kebetulan memotong di tempat lain dan memulihkan seluruh 29. Asimetri itulah alasan tahap wajah kecil pada mesin browser mendeteksi pada bingkai penuh dan pada kuadran yang tumpang tindih, menggabungkan kandidat berdasarkan intersection-over-union: deteksi berubin membutuhkan tumpang tindih, bukan sekadar resolusi.

Bacaan praktisnya untuk foto kelompok: wajah yang lebih kecil dari kira-kira 3% sisi panjang foto tidak terlihat oleh detektor. Pangkas lebih rapat sebelum merestorasi (piksel yang sama kembali melewati letterbox dengan ukuran lebih besar, di sisi aman tebing) dan lihat catatan rendering wajah untuk apa yang terjadi pada wajah kecil setelah deteksi.

4 · Keterbatasan

Gerbang geometris hanya bisa menolak susunan yang mustahil. Positif palsu yang kebetulan berbentuk wajah (boneka, patung, potret di dinding) lolos, dan bisa dibilang memang seharusnya, karena merestorasinya tidak berbahaya. Tugas gerbang ini sempit: jangan pernah lagi melukis ulang pakaian seseorang menjadi wajah. Pengukuran batas bawahnya adalah satu potret dan satu foto kelompok: cukup untuk menemukan tebing antara 14 dan 20 px, tidak untuk memetakan bentuk persisnya di berbagai pose dan pencahayaan; dan keyakinan antara 20 dan 28 px jelas lebih berderau daripada di atasnya, sehingga wajah di pita itu sebaiknya dianggap berisiko, bukan aman.

Referensi

  1. Guo, J., Deng, J., Lattas, A., & Zafeiriou, S. (2021). Sample and Computation Redistribution for Efficient Face Detection. arXiv:2105.04714. arxiv.org
  2. FaceFusion (open-source face processing platform): the reference implementation our SCRFD decode and model preprocessing are ported from, 1:1. github.com
  3. Couprie, B. (1927). Photograph of the Fifth Solvay International Conference: 29 attendees, the densest concentration of physics Nobel laureates ever photographed. Public domain, via Wikimedia Commons. commons.wikimedia.org
  4. Lange, D. (1936). “Migrant Mother” (Destitute pea pickers in California), Farm Security Administration. Public domain, via Wikimedia Commons. commons.wikimedia.org
  5. ONNX Runtime: the inference engine both our server (CPU) and in-browser (WebGPU/WASM) engines run on. onnxruntime.ai