تقدير المشروع
← كل المقالات

مكتبات XAI للرؤية الحاسوبية: الدليل الشامل

في هذا المقال نستعرض أكثر المكتبات استخدامًا في مجال الرؤية الحاسوبية ونبيّن نقاط قوتها وضعفها.

9 دقائق قراءة
تعلّم الآلةالرؤية الحاسوبيةXAI

مقدمة

قبل استخدام نموذج تعلّم الآلة، يُطلب في أحيان متزايدة التحقق من صحته بواسطة تقنيات الذكاء الاصطناعي القابل للتفسير. وكتابة الشيفرة التي تغطي هذا الجزء من المشروع أمر معقّد ويستغرق وقتًا طويلًا. ولحسن حظ مهندسي تعلّم الآلة، توجد مجموعة من المكتبات مفتوحة المصدر بُنيت أساسًا لتفسير النماذج المدرَّبة بمجموعة واسعة من الخوارزميات.

في هذا المقال نستعرض أكثر المكتبات استخدامًا في مجال الرؤية الحاسوبية ونبيّن نقاط قوتها وضعفها.

المنهجية

اخترت المكتبات وفق 4 معايير. أولًا، يجب أن تكون المكتبة مكتوبة بلغة Python – أكثر اللغات استخدامًا في تعلّم الآلة، وهي اللغة التي بُنيت لها مكتبات تدريب الشبكات العصبية التي يعتمد عليها مجتمع كبير من المهندسين والباحثين. ثانيًا، يجب أن تتعلق بمهام الرؤية الحاسوبية. ثالثًا، نظرتُ في المكتبات الأكثر شعبية بحسب عدد نجوم GitHub. أما المعيار الأخير فهو أن يكون المستودع قيد الصيانة النشطة: أي ألّا يتجاوز عمر آخر commit فيه سنة واحدة وقت كتابة المقال. والاستثناء الوحيد هو مكتبة M3d-CAM، التي يقارب عمر آخر commit فيها سنتين.

المستودعات المشمولة، مرتبةً من الأعلى إلى الأدنى بحسب عدد نجوم GitHub ★:

  1. pytoch-grad-cam

  2. captum

  3. pytorch-cnn-visualizations

  4. torch-cam

  5. innvestigate

  6. tf-explain

  7. OmniXAI

  8. xplique

  9. M3d-Cam

أحضِر فنجان قهوة، فهذا المقال طويل نوعًا ما. قراءة ممتعة!

وإذا أردت مقارنة سريعة بين المكتبات، فاطّلع على الجداول التي تلخّص ميزاتها في القسم التالي.

المقارنة

ميزات المستودعات

الخوارزميات

المقاييس

pytorch-grad-cam 6.7k

المصدر: مستودع المشروع على GitHub

يركّز هذا المستودع أساسًا على خوارزميات خرائط تنشيط الفئة المعتمدة على التدرّج (CAM) لنماذج الرؤية الحاسوبية في PyTorch. ويوفّر 11 خوارزمية مختلفة، وقد اختُبر على معماريات متنوعة: الشبكات الالتفافية (CNN) ونماذج Vision Transformers. ويذكر المؤلفون أنه مناسب للعديد من مهام الرؤية الحاسوبية، مثل التصنيف واكتشاف الكائنات والتجزئة الدلالية وغيرها الكثير. ومن الميزات الجيدة تنعيم الخرائط الحرارية للسمات، مما يعطي المستخدم صورة أكثر سلاسة. ومن الإيجابيات الأخرى أن المستودع يتضمن مقاييس للثقة في النموذج.Algorithms

توفّر المكتبة طرقًا لحساب السمات للنموذج بأكمله ولطبقة بعينها، إضافة إلى طريقة تحليل السمات العميقة إلى عوامل (deep feature factorization). كما يتضمن المستودع مقاييس لطرق XAI.

التصوير المرئي

ركّز المطوّرون في التصوير المرئي على وضع الخريطة الحرارية فوق الصورة الأصلية. وستجد أيضًا أمثلة على تصوير الخرائط الحرارية للسمات في مهمتي التجزئة الدلالية واكتشاف الكائنات.

التوثيق

تأتي المكتبة بتوثيق شامل إلى حد جيد، مليء بالأمثلة والدروس التعليمية. وهو يعرض نماذج من مخرجات الخوارزميات، فيعطيك فكرة عامة عن النتائج المتوقعة. كما تتوفر أمثلة ضمن التوثيق نفسه. لكن ما ينقصه هو وصف معياري لواجهة API يستطيع المستخدم أن يطّلع فيه على معاملات كل دالة.

Captum 3.7k★

المصدر.

يصف مؤلفو المكتبة مشروعهم بقولهم: “Captum is a PyTorch library for interpreting and understanding models.” وهذه الجملة الواحدة تلخّص الغاية من المكتبة. فهي تنفّذ عددًا من الخوارزميات بطريقة لا ترتبط بمهمة محددة، أي يمكن تطبيقها على معالجة اللغة الطبيعية والرؤية الحاسوبية وغيرها من المهام على حد سواء.

الخوارزميات

توفّر المكتبة طرقًا لحساب السمات للنموذج بأكمله ولطبقة بعينها ولخلية عصبية بعينها. كما توفّر طرق الاضطراب (perturbation) وطرق noise tunnel لحساب سمات النموذج.

التصوير المرئي

يصف مؤلفو المكتبة أداة تسمى “Captum insights” لعرض تفسيرات النموذج بصورة تفاعلية. وللأسف لم أتمكن من تشغيل مثالهم بعد تثبيت الحزمة، سواء عبر pypi أو باستخدام السكربت setup.py من المستودع المستنسخ.

وفي التصوير المرئي، اختار المطوّرون عرض السمات بجانب الصورة الأصلية بدلًا من وضع الخريطة الحرارية فوقها.

التوثيق

حرص المؤلفون على تقديم توثيق واضح مع أمثلة للاستخدام. يصف التبويب الأول كل خوارزمية بالتفصيل ويتضمن ملخصًا يقارن بينها. ويقدّم تبويب الدروس التعليمية مجموعة واسعة إلى حد جيد من الأمثلة التي تعرض المكتبة في مجالات متنوعة (الرؤية الحاسوبية، معالجة اللغة الطبيعية) وفي مهام مختلفة (تصنيف الصور والتجزئة الدلالية). وتغطي الأمثلة طرق التفسير المعتمدة على السمات، إضافة إلى تقنيات مثل الهجمات المعادية (adversarial attacks) والأمثلة المؤثرة (influential examples) والتفسيرات المبنية على المفاهيم. كما توفّر المكتبة عددًا من المقاييس والطرق للتحقق من متانة النموذج. ويتوفر كذلك مرجع API.

pytorch-cnn-visualizations 3.7k★

المصدر: مستودع المشروع على GitHub

هذا المستودع عبارة عن مجموعة أمثلة توضّح خوارزميات تفسير مختلفة للشبكات الالتفافية. ملاحظة: هو ليس مكتبة. ولاستخدامه في مشروعك ستحتاج إلى كتابة دوال وفئات مناسبة بنفسك، استنادًا إلى الشيفرة المتوفرة، تنفّذ عمليات مماثلة. ومن المشكلات الأخرى أن الاعتماديات قديمة إلى حد ما: torch بالإصدار 0.4.1 وغيرها.

الواجهة

لا توجد واجهة API – بل مجرد مجموعة سكربتات توضيحية.

الخوارزميات

توفّر المكتبة طرقًا لحساب السمات للنموذج بأكمله ولطبقة بعينها. وإلى جانب ذلك يتضمن المستودع خوارزميات لتصوير الميزات.

التصوير المرئي

تحفظ السكربتات التوضيحية نواتجها على شكل صور للسمات أو خرائط حرارية موضوعة فوق الصورة الأصلية.

التوثيق

لا يوجد توثيق.

torch-cam 1.2k★

المصدر: مستودع المشروع على GitHub

هذه مكتبة أخرى تتمحور حول طرق CAM في الرؤية الحاسوبية. وهي سهلة الاستخدام وتنفّذ 9 خوارزميات مختلفة.

الخوارزميات

توفّر المكتبة طرقًا لحساب السمات للنموذج بأكمله ولطبقة بعينها.

التصوير المرئي

تتوفر طريقة واحدة فقط لتصوير سمات النموذج – دالة تعرض خريطة حرارية للسمات موضوعة فوق الصورة الأصلية.

التوثيق

يُنشر توثيق المستودع عبر Github Pages. ويحتوي على تعليمات التثبيت، ونماذج شيفرة لتشغيل خوارزميات التفسير، ودروس تعليمية، ووصف لواجهة API.

innvestigate 1.1k★

المصدر: مستودع المشروع على GitHub

تهدف هذه المكتبة إلى تسهيل تحليل نماذج تعلّم الآلة في Keras/TensorFlow2.

الخوارزميات

توفّر المكتبة طرقًا لحساب السمات للنموذج بأكمله، ويمكن استخدامها لمهام تصنيف الصور فقط. وإلى جانب الخوارزميات الموجودة في معظم المكتبات المذكورة هنا تقريبًا، توفّر عدة صيغ من خوارزمية LRP.

التصوير المرئي

تتوفر بضع طرق لتصوير سمات النموذج، منها الخريطة الحرارية.

التوثيق

لم يُنشر لهذا المستودع سوى مرجع API، لكن المجلد examples يحتوي على عدد من الدروس التعليمية.

tf-explain 964★

المصدر

تنفّذ هذه المكتبة طرق التفسير لـ TensorFlow 2 على شكل callback للمدرِّب (trainer)، وتتوفر فيها 7 خوارزميات تفسير. ويقدّم توثيقها أمثلة مفيدة لاستخدام المفسِّرات، مع النتيجة معروضة على شكل صورة للسمات المحسوبة. وما يميّزها عن غيرها هو تكاملها مع عملية التدريب وإمكانية حفظ نواتج خوارزميات التفسير في أداة لمراقبة التدريب – وهي هنا TensorBoard. ويمكن أن يكون ذلك مفيدًا جدًا عند تشخيص المشكلات أثناء تدريب الشبكة.

الواجهة

هنا أيضًا توفّر المكتبة واجهة بسيطة وموحّدة وقابلة للضبط لجميع خوارزميات التفسير والمقاييس.

وتوجد كذلك واجهة ثانية للتكامل مع عملية التدريب. فكل فئة تنفّذ خوارزمية تفسير تعمل بمثابة callback (إذ ترث من tensorflow.keras.callbacks.Callback) للمدرِّب.

الخوارزميات

توفّر المكتبة طرقًا لحساب السمات للنموذج بأكمله، ويمكن استخدامها لمهام تصنيف الصور فقط.

التصوير المرئي

يمكن تصوير سمات النموذج بطريقتين: كصورة للسمات أو كخريطة حرارية للسمات موضوعة فوق الصورة الأصلية.

التوثيق

يُنشر توثيقها على ReadtheDocs ويتضمن أمثلة استخدام أساسية ووصفًا لواجهة API الأساسية، لكنه للأسف يحتوي على أخطاء وقسم مرجع API فيه فارغ.

OmniXAI 517★

المصدر

توفّر هذه المكتبة خوارزميات XAI لتفسير نماذج تعلّم الآلة المبنية باستخدام PyTorch وTensorFlow. وهي تدعم البيانات الجدولية والنصوص والصور والسلاسل الزمنية في مهام التصنيف والانحدار.

الواجهة

واجهة API هنا أكثر تعقيدًا. فالمكتبة توفّر عددًا من الفئات الغلافية لأنواع البيانات المختلفة، مثل البيانات الجدولية والنصوص والصور وغيرها. وتأخذ كل فئة مفسِّر لنوع بيانات معين الكثير من المعاملات: قائمة بأسماء المفسِّرات، ونوع المهمة، ودالة للمعالجة المسبقة، ومعاملات أخرى.

الخوارزميات

يتضمن المستودع خوارزميات تفسير لأنواع كثيرة من البيانات، لكن هذا المقال يتناول فقط الخوارزميات الخاصة بالرؤية الحاسوبية. وفي هذا المجال توجد 8 خوارزميات مختلفة.

التصوير المرئي

يوفّر المستودع تطبيق Dash لعرض التفسيرات بصورة تفاعلية. وقد بنى المؤلفون التصويرات المرئية على حزمة plotly. ويمكن عرض السمات كصورة مستقلة أو كطبقة موضوعة فوق الصورة الأصلية.

التوثيق

يُنشر توثيق المستودع عبر ReadtheDocs. وهو يرشدك عبر تصميم المكتبة ومعماريتها وعملية تثبيتها، ويتضمن أمثلة ومرجع API.

Xplique 348★

المصدر

هذه المكتبة خيار للمشاريع المبنية على إطار TensorFlow. وقد عبّر مؤلفوها عن هدفهم بوضوح: “Xplique (…) is a Python toolkit devoted to explainability, at present built on Tensorflow. The aim of this library is to gather the state of the art in Explainable AI so you can better understand your complex neural network models.” وإلى جانب سمات الميزات والتفسيرات المبنية على المفاهيم، تستطيع المكتبة أيضًا تصوير الميزات التي تعلّمها النموذج.

الخوارزميات

توفّر المكتبة طرقًا لحساب السمات للنموذج بأكمله ولطبقة بعينها. كما توفّر مقاييس تبيّن إلى أي مدى يمكننا الوثوق بالطرق التي تفسّر قرارات النموذج.

التصوير المرئي

ركّز المطوّرون في التصوير المرئي على وضع الخريطة الحرارية فوق الصورة الأصلية.

التوثيق

قدّم المؤلفون توثيقًا واضحًا وأمثلة كثيرة على استخدام المكتبة. واعتمد المطوّرون وصفًا أكثر تفصيلًا لواجهة API، يشرح كيف تعمل كل خوارزمية وكل مقياس.

ومن الجدير بالثناء مجموعة الأمثلة التفاعلية الواسعة إلى حد جيد على Google Colaboratory. أحسنتم! 👏 فهي توضّح كيفية استخدام المكتبة لتصوير السمات والميزات والمفاهيم ولحساب المقاييس. وفوق ذلك، لكل مقياس ولكل طريقة مثالها الخاص، حيث يشرح المطوّرون الخوارزمية وواجهة API والمعاملات المتاحة، ويجيبون عن الأسئلة الشائعة، ويبيّنون كيف يؤثر كل معامل في سلوك الخوارزمية. إنها مجموعة مركّزة من المعرفة حول كيفية تطبيق الخوارزمية بالشكل الصحيح.

M3d-Cam 216★

المصدر

تتيح هذه المكتبة المبنية على PyTorch تفسير قرارات النموذج على الصور الطبية ثلاثية وثنائية الأبعاد، في مهام التصنيف والتجزئة على حد سواء.

الخوارزميات

توفّر المكتبة 4 خوارزميات: guided backpropagation وGradCAM وGuided GradCAM وGradCAM++.

التصوير المرئي

يمكن تصوير سمات النموذج بطريقتين: كصورة للسمات أو كخريطة حرارية للسمات موضوعة فوق الصورة الأصلية.

التوثيق

نُشر توثيق للمستودع، لكنه يقتصر على مرجع API وحده. ويربط ملف README بعدة دروس تعليمية على Google Colab.

الخلاصة

تختلف المكتبات المستعرضة هنا اختلافًا كبيرًا. فبعضها عام الأغراض، وبعضها الآخر يركّز على نوع واحد من المهام أو على خوارزمية بعينها أو نوع بيانات معين. وفي الوقت الحالي لا توجد مكتبة شاملة تقدّم جميع الخوارزميات والمقاييس دفعة واحدة. وعند اختيار المكتبة عليك أن تحدد الميزات التي يحتاجها مشروعك الحالي فعلًا.وهذا يدل على وجود مجال لمكتبات جديدة تسدّ هذه الفجوة. فمن الواضح أن أمام المكتبات الجديدة مساحة لتملأها.

لا توفّر المقاييس التي تبيّن مدى إمكانية الوثوق بخوارزميات التفسير سوى قلة من المكتبات. كما يغيب التكامل مع أدوات تتبّع التجارب، الذي يتيح للمستخدمين مراقبة كيفية تدريب الشبكة. وفوق ذلك، تقتصر جميع المكتبات تقريبًا على الحالة الأساسية المتمثلة في تصنيف الصور. فالدعم للتجزئة غائب، والدعم لاكتشاف الكائنات محدود جدًا.