Blog / Mühendislik

Bir yüz dedektörü bir keresinde bir bebeğin pantolonunu restore etti

· 24 Ağustos'ta tespit tabanı ölçümleriyle güncellendi · veri: uygulama, birim testleri, laboratuvar kıyaslaması

Erken testler sırasında yüz dedektörü bir aile fotoğrafında kendinden emin bir tespit bildirdi ve hat görevine sadık biçimde onu “restore etti”; tek sorun, tespitin bir bebeğin kadife pantolonu olmasıydı. Kumaş kıvrımları dedektöre yüz gibi göründü ve yüz modeli de onları bir yüz olarak yeniden boyadı. Bu hata bize eski fotoğraflarda dedektör güveninin tek başına kullanılabilir bir sinyal olmadığını öğretti ve artık her aday yüzün geçmek zorunda olduğu geometrik kapıyı doğurdu. Bu revizyon hikâyenin diğer yarısını ölçülmüş olarak ekliyor: dedektör en fazla ne kadar küçük bir yüzü bulabilir. Taban, letterbox'lanmış 14 ile 20 piksel arasında duruyor ve 29 yüzü 21–27 px boyunda olan ünlü 1927 Solvay Konferansı fotoğrafı, her bir katılımcı bulunarak bu tabanı geçiyor.

29 / 29bulunan Solvay 1927 yüzü21–27 px letterbox yüksekliğinde
14–20 pxtespit tabanıaltında kaçırıyor, üstünde buluyor
27 / 29naif 2×2 karolamaylasınırdaki yüzler kayboluyor; örtüşme önemli
3kapıdaki geometri kuralıgüven, göz bandı, ağız gözlerin altında

Bu nottaki her sayı üretim hattının kodunda ölçüldü: aynı modeller, aynı matematik. Görüntü başına ham kayıtlar: e5_detect.json.

1 · Eski fotoğraflar yüz dedektörlerini neden bozar

Dedektörler çoğunlukla modern, iyi pozlanmış görüntülerle eğitilir. Eski taramalar eğitim setinin nadiren içerdiği dokular sunar: kumaş dokusu, dantel, yapraklar, su hasarı ve gren; hepsi yüksek güvenli yanlış tespitler üretebilir. Tam tersi sorunu da sunarlar: küçük, solmuş ve düşük kontrastlı gerçek yüzler. Tek başına bir güven eşiği ikisini ayıramaz, çünkü yanlış pozitifler sık sık gerçek küçük yüzlerden daha yüksek puan alır. Dedektörümüz SCRFD-2.5G[1], FaceFusion referans uygulamasından[2] birebir çözülmüş: fotoğraf 640×640'lık bir girişe letterbox'lanır ve her aday bir kutu, beş nirengi noktası ve bir güven puanıyla geri döner.

2 · Kapı

Puana güvenmek yerine tespitin nirengi noktalarının bir yüz gibi dizilip dizilmediğini test ediyoruz: göz ve ağız noktaları üzerinde ucuz aritmetik:

pass ⇔ score ≥ 0.55 ∧ 0.25 < deyes/w < 0.75 ∧ ymouth > ȳeyes + 0.2·deyes(1)
tespit kutusu, genişlik wgöz uzaklığı dağızgözlerin > 0.2 × d altındakapı: 0.25 < d / w < 0.75 · güven ≥ 0.55
Şekil 1. Makullük kapısı. Herhangi bir restorasyon çalışmadan önce nirengi noktaları bir yüz gibi dizilmiş olmalı (gözler kutuya göre yüz benzeri bir uzaklıkta, ağız göz çizgisinin anlamlı biçimde altında).
KuralEşikNeyi reddeder
Dedektör güveni≥ 0.55Daha fazla test etmeye değmeyecek marjinal tespitler.
Göz aralığı / kutu genişliği0.25 – 0.75Yüz boyutunda bir kutuda iki göz olamayacak kadar sıkışık ya da geniş nirengi kümeleri: kumaş kıvrımı yanlış pozitiflerinin tipik geometrisi.
Ağız gözlerin altında≥ 0.2 × göz uzaklığı kadarBaş aşağı ve karışmış nirengi dizilimleri.

Eşikler kasıtlı olarak gevşek: eğik ve dörtte üç profil dahil her makul insan yüzünü tarif ederken hiçbir yüzün sahip olamayacağı dizilimleri dışlıyorlar. Kapı yayınlandığından beri pantolon sınıfı hata test fotoğraflarımızda tekrar etmedi.

3 · Yeni: tespit tabanı, ölçülmüş

00.250.50.7515204080120200640 px letterbox içinde yüz yüksekliği (px)tespit güvenikapı ≥ 0.55
Şekil 2. 640×640 letterbox içinde tespit güveni ve yüz yüksekliği. ~200 px'ten ~28'e kadar rahat, altında bozuluyor, 20 ile 14 arasında ölü: 14 px ve altındaki her yüz tamamen kaçırıldı. Kesikli çizgi kapının 0.55 güven tabanı.
1927 Solvay Konferansı grup fotoğrafı, yirmi dokuz yüzün tamamının çevresine tespit kutuları çizilmiş
Şekil 3. 1927 Solvay Konferansı'nın 29 katılımcısının tamamı tam kare ölçeğinde tespit edildi (kutular laboratuvar betiğiyle çizildi, NMS sonrası, geometrik kapıdan sonra). Letterbox'lanmış yüzler 20.9–27.1 px boyunda, Şekil 2'deki uçurumun hemen üstünde duruyor.

Solvay sonucu tam olarak merdivenin öngördüğü yere, iyi tarafa düşüyor: 29 katılımcının 29'u tam kare ölçeğinde tespit edildi, güven 0.734–0.864, her biri geometrik kapıdan geçti. Ve sezgiye aykırı olduğu için yayımlamaya değer bir kontrol: aynı fotoğrafı naif biçimde 2×2 karolamak (yüz başına daha fazla piksel) 29 yüzün yalnızca 27'sini buluyor. İki yüz karo sınırlarına denk geliyor ve iki karodan hiçbiri onları bütün olarak görmüyor; 3×3 ızgara tesadüfen başka yerden kesiyor ve 29'un tamamını buluyor. Bu asimetri, tarayıcı motorunun küçük yüz geçişinin neden tam kare ve örtüşen çeyrekler üzerinde tespit yaptığını ve adayları kesişim-birleşim oranıyla birleştirdiğini açıklıyor: karolu tespitin çözünürlüğe değil, örtüşmeye ihtiyacı var.

Grup fotoğrafları için pratik okuma: fotoğrafın uzun kenarının kabaca %3'ünden küçük bir yüz dedektöre görünmez. Restore etmeden önce daha sıkı kırp (aynı pikseller letterbox'tan daha büyük, uçurumun güvenli tarafında geri gelir) ve tespitten sonra küçük yüzlere ne olduğu için yüz render notuna bak.

4 · Sınırlamalar

Geometrik bir kapı yalnızca imkânsız dizilimleri reddedebilir. Tesadüfen yüz biçiminde olan bir yanlış pozitif (bir oyuncak bebek, bir heykel, duvardaki bir portre) geçer ve muhtemelen geçmeli de, çünkü onu restore etmek zararsızdır. Kapının işi dar: birinin giysisini bir daha asla yüz olarak boyamamak. Taban ölçümleri bir portre ve bir grup fotoğrafından ibaret: uçurumu 14 ile 20 px arasında konumlandırmaya yetiyor, pozlar ve ışıklandırmalar boyunca tam şeklini haritalamaya değil; ayrıca 20 ile 28 px arasındaki güven, üstündekinden belirgin biçimde daha gürültülü, bu yüzden o banttaki yüzler güvenli değil, riskli sayılmalı.

Kaynaklar

  1. Guo, J., Deng, J., Lattas, A., & Zafeiriou, S. (2021). Sample and Computation Redistribution for Efficient Face Detection. arXiv:2105.04714. arxiv.org
  2. FaceFusion (open-source face processing platform): the reference implementation our SCRFD decode and model preprocessing are ported from, 1:1. github.com
  3. Couprie, B. (1927). Photograph of the Fifth Solvay International Conference: 29 attendees, the densest concentration of physics Nobel laureates ever photographed. Public domain, via Wikimedia Commons. commons.wikimedia.org
  4. Lange, D. (1936). “Migrant Mother” (Destitute pea pickers in California), Farm Security Administration. Public domain, via Wikimedia Commons. commons.wikimedia.org
  5. ONNX Runtime: the inference engine both our server (CPU) and in-browser (WebGPU/WASM) engines run on. onnxruntime.ai