المدونة / هندسة

لماذا تبدو الوجوه المرممة بالذكاء الاصطناعي كشخصيات ألعاب فيديو

· حُدِّث في 24 أغسطس بدراسة الحذف الكمية · المجموعة: 11 مسحًا ضوئيًا من مكتبة الكونغرس، 35 وجهًا (الاختبار البصري) + 4 صور شخصية في الملك العام، 120 تشغيلًا مقيسًا (الاختبار المتري)

قد تجعل نماذج ترميم الوجوه وجهًا من صورة تالفة يبدو كتصيير من لعبة فيديو قديمة: بشرة بلاستيكية، وعيون مرسومة، ووجه حاد لكنه ليس الشخص تمامًا. قسنا ثمانية أنواع من التصيير على 11 صورة فوتوغرافية في الملك العام لعزل الأسباب: هناك ثلاثة، وهي قابلة للفصل، ولا يُصلح أيًا منها «نموذج أفضل». تضيف هذه المراجعة ما افتقر إليه الاختبار الأصلي: الأرقام. إعادة قياس التصيير المختار بتضمين للتعرف على الوجوه[4] تؤكد كميًا الاختيار الذي تم بالعين (كل مقبض من التصيير «الطبيعي» يشتري هوية قابلة للقياس، ويقلص ضريبة الهوية التي يدفعها الترميم إلى النصف)، ومسح كامل لمقبض الأمانة يبين لماذا يُطرح عند 0.7 مع أن كل منحنى رتيب نحو 1.0.

3أسباب قابلة للفصل للمظهر البلاستيكيالاستبدال الكلي، وانحراف الألوان، والوجوه الصغيرة
0.950هوية المدخل المتدهورالمعيار الذي يجب أن يُحكم عليه كل ترميم
0.868 ← 0.909الهوية، من التصيير الكلاسيكي إلى الطبيعيدراسة الحذف، مقيسة عند w = 0.7
−0.041ضريبة الهوية للتصيير المطروحنصف ضريبة المُصيِّر الكلاسيكي البالغة −0.082

كل رقم في هذه الملاحظة قيس على كود خط الإنتاج: النماذج نفسها، والحسابات نفسها. السجلات الخام لكل صورة: e2v2_face.json · e2_face.json.

مسح ضوئي ناعم ومحبب بالأبيض والأسود من عام 1862 لثلاثة رجال واقفين عند خيمةقبلالمسح نفسه بعد الترميم: وجوه أوضح وتفاصيل مستعادة مع ألوان طبيعيةبعد
الشكل 1. ترميم بأداة هذا الموقع لإحدى صور المجموعة (لينكولن في أنتيتام، مسح ضوئي من مكتبة الكونغرس يعود إلى عام 1862): وجوه أُعيد بناؤها، وصورة كاملة محسَّنة، مع الحفاظ على حبيبات الصورة نفسها وطابعها اللوني. أغسطس 2026.

1 · الأسباب الثلاثة

1. الاستبدال الكلي. يلصق الخط القياسي مخرجات النموذج فوق الوجه الأصلي بعتامة 100%، فيكون كل وجه مرمم مرسومًا بالكامل بواسطة النموذج. تنتهي حبيبات الصورة وملمس الورق وطابع العدسة عند حد بيضاوي غير مرئي حول كل وجه.

2. انحراف الألوان. يُخرج نموذج الوجوه ألوانه هو، لا ألوان الصورة. وقد قسنا على منصتنا أنه اخترع عيونًا زرقاء في صورة أمبروتايب من سنوات الـ1850، وفتّح لون البشرة في صورة استوديو من القرن التاسع عشر لشخص أسود، وهو نمط فشل معروف في نماذج الوجوه المدربة على مجموعات صور حديثة يغلب عليها ذوو البشرة الفاتحة[2]. وأي خط يحتفظ بكروما النموذج يرث تحيزاته.

3. الوجوه الصغيرة هلوسات. الوجه الذي يشغل أقل من نحو 100 px يصل إلى نموذج وجوه بحجم 512 px كتكبير خطي مزدوج بمعامل 5–13×، أي لطخة. فيخترع النموذج عندئذٍ وجهًا معقولًا بدلًا من استعادة الوجه الحقيقي. هذا حد فيزيائي لا حد نموذج: يمكن جعل وجه بحجم 40 px ناعمًا لكنه بشري، ولا يمكن أبدًا جعله حادًا وأمينًا.

2 · تشريح إصلاح وجه

لترى أين تقع المقابض، تتبّع وجهًا واحدًا عبر الخط. يعطي الكشف (SCRFD، مع بوابة المعقولية) خمسة معالم. تحل المحاذاة تحويل التشابه بطريقة المربعات الصغرى (تحجيم s، ودوران θ، وإزاحة t) الذي يرسم نقاط العينين والفم المكتشفة pi على قالب FFHQ الثابت[5] qi:

argmins,θ,t Σi ‖ sR(θ)pi + t − qi ‖²(1)

فيدخل كل وجه إلى الشبكة بحجم 512×512 والعينان والفم في الموضع القانوني. ينتج النموذج، وهو CodeFormer افتراضيًا[1]، والذي يرمم عبر البحث عن الوجوه في كتاب رموز متعلَّم بدلًا من انحدار البكسلات، ويكشف وزن أمانة w ∈ [0, 1] يوجّه بين معرفته المسبقة (0) ومدخلك (1)، قصاصة مرممة. ثم يأتي الجزء الذي تدور حوله هذه الملاحظة: إعادة اللصق. تركّب الوصفة الكلاسيكية تلك القصاصة بعتامة كاملة وبألوان النموذج نفسه. أما وصفتنا فتعيدها إلى موضعها تحت قناع تدرج شعاعي m وتركّب كل بكسل على النحو

out = blend · m · faceL⊕photoab + (1 − blend · m) · photo(2)

حيث blend = 0.75، وتعني faceL⊕photoab أن النموذج يسهم بالنصوع فقط (L في فضاء Lab) بينما تحتفظ الصورة بكروماها هي، وهو المرآة الدقيقة لمُلوِّننا، الذي يسهم بالكروما فقط ويحتفظ بنصوع الصورة. تحصل الوجوه الصغيرة على مرور مخصص للدقة الفائقة بمعامل ×4 على مساحتها المصدرية قبل الترميم، فيرى النموذج تفاصيل مستعادة بدلًا من لطخة خطية مزدوجة.

3 · الاختبار البصري الذي اختار النوع H

ثمانية أنواع، كل منها تشغيل كامل للخط على المجموعة، مع تغيير وزن الأمانة، وعتامة إعادة اللصق، ومصدر الألوان، والدقة الفائقة للوجوه الصغيرة. قورنت المخرجات جنبًا إلى جنب مع الأصول بتكبير 100%:

النوعالوزنإعادة اللصقمصدر الألواندقة فائقة للوجوه الصغيرة
A (المعتمد آنذاك)0.70100%النموذج
B0.90100%النموذج
C0.7070%النموذج
D0.70100%الصورة
E0.7075%الصورة
F0.8575%الصورة
G0.7050%الصورة
H (المختار)0.7075%الصورةنعم

طُرح H بوصفه التصيير الافتراضي. تضيف إعادة اللصق بالنصوع فقط أقل من نصف ثانية لكل صورة؛ ويضيف مرور الوجوه الصغيرة ثانية إلى ثانيتين لكل وجه مؤهل فقط. وقد أقرّ قسم القيود الأصلي بنقطة الضعف الواضحة: كان الاختيار بحكم بشري جنبًا إلى جنب على 35 وجهًا، لا بمقياس. لذلك بنينا الاختبار المتري.

4 · جديد: دراسة الحذف، مقيسة كميًا

رقم واحد يؤطر كل شيء: المدخل المتدهور نفسه يسجل هوية 0.950 مقابل الأصل. دُرِّب ArcFace تحت تعزيز كثيف، فهو يرى عبر الضبابية والضوضاء؛ ولذلك لا يحصل الترميم على أي رصيد لكونه حادًا؛ بل يُخصم منه فقط حين يغيّر من في الصورة. كل مُصيِّر يدفع شيئًا من ضريبة الهوية تلك. والسؤال هو: كم؟

التصيير (الكل عند w = 0.7)PSNR (dB)هوية ArcFaceضريبة الهويةنسبة Tenengrad
المدخل المتدهور (خط الأساس)27.320.9500.217
Classic v2 (100% paste, model colour)26.680.8680.0820.373
+ luma-only (photo keeps its chroma)26.720.8820.0680.376
+ 75% blend (grain shows through)27.060.9010.0490.304
Natural (shipped: both + small-face SR)27.090.9090.0410.307

يتفق الاختبار المتري مع العين، مقبضًا بعد مقبض. الاحتفاظ بكروما الصورة يشتري +0.014 من الهوية (كان انحراف الألوان حقيقيًا، وقابلًا للقياس). ويشتري المزج بنسبة 75% +0.019 أخرى ومعظم PSNR: السماح لربع الوجه الحقيقي بالظهور يساوي تقريبًا ما يساويه إعداد الأمانة في نموذج الوجوه بأكمله. معًا يقلصان ضريبة الهوية إلى النصف، من −0.082 إلى −0.041، مع بقاء الحدة نحو 1.4× حدة المدخل. التكلفة الصادقة الوحيدة: التصيير الكلاسيكي «أحدّ» بمقياس Tenengrad (0.373 مقابل 0.307)، وهي حدة ينفق جزءًا منها على ملمس ليس من الصورة. تلك هي مفاضلة الإدراك والتشويه[6] وقد انتقلت إلى التصيير، ونحن ننفقها على الهوية.

أربع لوحات لوجه فلورنس أوينز طومسون: الأصل الحاد، والنسخة المتدهورة، والتصيير الكلاسيكي ببشرة بلاستيكية وألوان منحرفة، والتصيير الطبيعي الذي يحافظ على الحبيبات والدرجة اللونية
الشكل 2. دراسة الحذف بصورة حية: الأم المهاجرة (لانغ 1936). الكلاسيكي v2 (الثالث): بشرة بلاستيكية وصبغة لونية لم تكن في الصورة قط. الطبيعي (الرابع): تفاصيل النموذج تحت حبيبات الصورة نفسها ودرجتها اللونية. الهوية: 0.868 مقابل 0.909 مقارنة بالأصل.
أربع لوحات لصورة لينكولن الشخصية: الأصل، والمتدهورة، والتصيير الكلاسيكي بانحراف لوني بارد، والتصيير الطبيعي الذي يحافظ على الدرجة الدافئة للوح
الشكل 3. دراسة الحذف نفسها، لينكولن O-77 (1863). يستنزف التصيير الكلاسيكي (الثالث) الدرجة الدافئة للوح ويبرّد الوجه كله: السبب 2، انحراف الألوان، بنظرة واحدة. يحافظ التصيير الطبيعي على ألوان الصورة بحكم البناء: لا يُسمح للنموذج إلا بالإسهام بالنصوع.

5 · مقبض الأمانة، ممسوحًا من طرف إلى طرف

يوجّه وزن w في CodeFormer بين المعرفة المسبقة لكتاب الرموز (0) والانحياز إلى مدخلك (1)[1]. مسحناه في إحدى عشرة خطوة تحت المُصيِّر الطبيعي:

0.60.70.80.9100.250.50.71وزن الأمانة w في CodeFormerجيب تمام ArcFace مقابل الأصلالمدخل المتدهورالإنتاج
الشكل 4. هوية ArcFace مقابل وزن الأمانة تحت المُصيِّر المطروح، متوسط أربع صور شخصية، تدهور ×4. رتيب من 0.710 (غريب معقول) إلى 0.932، ولا يبلغ أبدًا خط الأساس المتقطع للمدخل عند 0.950: يحدد المقبض معدل ضريبة الهوية، ولا يستطيع جعل الضريبة سالبة. PSNR (من 25.5 إلى 27.3 dB) وSSIM رتيبان بالطريقة نفسها.

دخلنا نتوقع منحنى مفاضلة له أمثل داخلي يبرر 0.7 بوصفه «الركبة». لكن البيانات رفضت: بالأرقام، w = 1.0 يهيمن، عند كل شدة:

×2 (mild)×4 (standard)×8 (severe)
0.50.60.70.80.9100.30.50.71وزن الأمانة w في CodeFormerجيب تمام ArcFace مقابل الأصلالإنتاج
الشكل 5. تفاعل الشدة: الهوية مقابل الوزن عند تدهور ×2 / ×4 / ×8، المُصيِّر الطبيعي. الوزن الأعلى يفوز في كل مكان، حتى عند ×8 حيث هبط خط الأساس للمدخل نفسه إلى 0.826. عند إعداد الإنتاج تبلغ ضريبة الهوية −0.042 (خفيف)، و−0.041 (قياسي)، و−0.068 (شديد)؛ وعند w = 0 تصل إلى −0.27: حين لا ينجو إلا القليل من المعلومات، تملأ المعرفة المسبقة الفراغ بآرائها هي.

فلماذا نطرح 0.7 بدلًا من 1.0؟ لأن المقاييس ضرورية لا كافية. يقيس ArcFace من؛ وهو شبه أعمى عن العمر والملمس؛ والتدريب نفسه الذي يجعله متينًا أمام الضبابية يجعله متسامحًا مع التنعيم. تقف ملاحظة الاختبار الأصلية على دليلها الخاص: عند 0.5 المعتاد للنموذج، تلين تجاعيد العينين بوضوح في الأم المهاجرة: كانت فلورنس أوينز طومسون في الثانية والثلاثين وتحمل الكساد الكبير في وجهها، والمعرفة المسبقة تفضّل ألا تحمله. وعند w = 1.0 ينحاز كتاب الرموز إلى مدخل مخرَّب إلى حد أن نفايات الضغط تبدأ في النجاة. يحتفظ 0.7 بكل قيمة المقياس تقريبًا (0.909 مقابل 0.932) بينما تحتفظ الصور بعمرها. واللوحة s8 أدناه هي الحجة لعدم السماح أبدًا لـ w بالاقتراب من 0 في صور التراث التالفة:

ثلاث لوحات: لينكولن متدهور بشدة، ووجه ناعم أصغر سنًا يكاد لا يُتعرف عليه عند الوزن صفر، وشبه أقرب عند الوزن واحد
الشكل 6. تدهور ×8، لينكولن. من هذا المدخل (يسارًا)، يعيد w = 0 (وسطًا) بثقة بناء رجل مختلف أنعم وأصغر سنًا: هوية 0.585، تقترب من رمية عملة. يبقى w = 1 (يمينًا) لينكولن يمكن التعرف عليه عند 0.788. حين يكون الدليل شحيحًا، تهيمن آراء المعرفة المسبقة، وهذا بالضبط حين تريد المقبض عاليًا.

6 · النماذج الأخرى، المُصيِّر نفسه

نموذج الوجوهPSNR (dB)هوية ArcFaceنسبة Tenengradms / وجه*
CodeFormer (w = 0.7, default)27.090.9090.3077200
GFPGAN 1.427.130.9100.3286046
GPEN-BFR-25626.680.9270.3222633

*وسيط الزمن الفعلي للمرور الكامل (شاملًا الكشف) على صندوق الاختبار ذي 2 vCPU. تحت المُصيِّر الطبيعي تتقارب النماذج الثلاثة[1][2][3] إلى ما دون 0.02 من الهوية بين بعضها: المُصيِّر، لا النموذج، هو الآن الحد المهيمن، وهذه نتيجة في حد ذاتها: لم يكن مظهر «لعبة الفيديو» يومًا متعلقًا حقًا بأي شبكة تشغّل. يبقى CodeFormer الخيار الافتراضي لمتانته أمام التلف الشديد وللمقبض الذي أمضت هذه الملاحظة قسمين فيه؛ ويبقى GPEN خيار السرعة عند 2.6 ثانية لكل وجه.

7 · القيود

  • الاختبار البصري 35 وجهًا؛ والاختبار المتري 4 صور شخصية × 120 تشغيلًا. صمدت الأشكال الرتيبة على كل صورة شخصية على حدة؛ وذلك هو الادعاء الذي نعتمد عليه؛ أما القيم المطلقة فستنحرف بحسب الشخص والمسح الضوئي.
  • ArcFace حكم واحد، وهو الحكم القياسي، مع تحفظ تحمّل الضبابية الذي نستغله كخط أساس. الدراسة الإدراكية البشرية على آلاف الوجوه هي الأداة الناقصة، وملاحظة خط العمر تستند إلى العيون لا إلى التضمينات.
  • تدهور اصطناعي. يضيف تلف صندوق الأحذية الحقيقي خدوشًا وتفضضًا لا تنمذجهما حزمة التلف؛ ومرحلة التلف تتعامل معهما على حدة.
  • حد الوجوه الصغيرة قائم: تحت نحو 40 px من الوجه، لا ينتج أي إعداد وجهًا حادًا أمينًا، والمخرج الصادق هو وجه ناعم.

المراجع

  1. Zhou, S., Chan, K. C. K., Li, C., & Loy, C. C. (2022). Towards Robust Blind Face Restoration with Codebook Lookup Transformer. NeurIPS 35. arXiv:2206.11253. arxiv.org
  2. Wang, X., Li, Y., Zhang, H., & Shan, Y. (2021). Towards Real-World Blind Face Restoration with Generative Facial Prior. CVPR. arXiv:2101.04061. arxiv.org
  3. Yang, T., Ren, P., Xie, X., & Zhang, L. (2021). GAN Prior Embedded Network for Blind Face Restoration in the Wild. CVPR. arXiv:2105.06070. arxiv.org
  4. Deng, J., Guo, J., Xue, N., & Zafeiriou, S. (2019). ArcFace: Additive Angular Margin Loss for Deep Face Recognition. CVPR. arXiv:1801.07698. arxiv.org
  5. Karras, T., Laine, S., & Aila, T. (2019). A Style-Based Generator Architecture for Generative Adversarial Networks (the FFHQ alignment template). CVPR. arXiv:1812.04948. arxiv.org
  6. Blau, Y., & Michaeli, T. (2018). The Perception-Distortion Tradeoff. CVPR. arXiv:1711.06077. arxiv.org
  7. FaceFusion (open-source face processing platform): the reference implementation our SCRFD decode and model preprocessing are ported from, 1:1. github.com
  8. Lange, D. (1936). “Migrant Mother” (Destitute pea pickers in California), Farm Security Administration. Public domain, via Wikimedia Commons. commons.wikimedia.org
  9. Gardner, A. (1863). Abraham Lincoln, portrait O-77. Public domain, via Wikimedia Commons. commons.wikimedia.org
  10. ONNX Runtime: the inference engine both our server (CPU) and in-browser (WebGPU/WASM) engines run on. onnxruntime.ai