تطوير الذكاء الاصطناعي الأخلاقي – ماذا يعني؟
تعرّف على مفهوم تطوير الذكاء الاصطناعي الأخلاقي والفكرة الكامنة وراءه والمبادئ التي يلتزم بها.
مع تزايد شعبية أدوات الذكاء الاصطناعي عمومًا – ولنتذكر ChatGPT الذي حقق شعبية هائلة (أو «الببغاء الثوري الهراء» بتعبير أحد الزملاء)، وMidjourney وBard وغيرها – أصبح الذكاء الاصطناعي في الواقع تيارًا سائدًا. فقد عرف العلماء الموضوع ودرسوه منذ سنوات، لكن إتاحته للمستهلكين للاستخدام اليومي دفع تطويره إلى مستوى أبعد. وزاد ذلك الطلب على كل أنواع حلول الذكاء الاصطناعي، وبات معظم الشركات الكبرى اليوم يتباهى بإضافة الذكاء الاصطناعي إلى منتجاته وخدماته. لقد أصبح الذكاء الاصطناعي عنصرًا أساسيًا في عالمنا الرقمي المتزايد، بدءًا من تشغيل المساعدات الصوتية وصولًا إلى دعم التشخيص الطبي المتطور. لكن مع انتشار أنظمة الذكاء الاصطناعي في كل مكان، ظهرت أيضًا مخاوف بشأن عواقبها الأخلاقية. ولا بد أنك سمعت من يقول إن تطوير الذكاء الاصطناعي لن يقود إلا إلى فناء البشرية. يبدو ذلك كإحدى حلقات Black Mirror، أليس كذلك؟
لن أتكهن اليوم بالوجهة التي سيقودنا إليها تطوير الذكاء الاصطناعي. بل لننظر في رؤية أقل كارثية نوعًا ما، لكنها لا تزال مهمة وقد تسبب مشكلات.
ما هو الذكاء الاصطناعي الأخلاقي؟
مع أن اختراقات الذكاء الاصطناعي وقيمته واضحة، فإن كثيرًا من الأنظمة المعتمدة عليه تثير الشكوك حول طريقة تصميمها واستخدامها. وبالطبع كان من السهل توقع أن يصبح الذكاء الاصطناعي أداة في يد أصحاب النوايا السيئة أيضًا. ويتراوح ذلك بين نشر الصور النمطية أو تسريب البيانات الحساسة، مرورًا بنشر المعلومات المضللة واستخدام الذكاء الاصطناعي في الدعاية والتلاعب، وصولًا إلى تعميق التفاوتات الاجتماعية والاقتصادية وحتى بناء أسلحة ذاتية التشغيل قوية بالذكاء الاصطناعي. وهذا قبل أن نذكر الآثار الصعبة التوقع للنمو السريع للذكاء الاصطناعي، ومنها احتمال ظهور ذكاء اصطناعي قادر على السيطرة على العالم والقضاء على البشرية.
نعم، نعم، أعرف أن الداليك لم يكونوا ذكاءً اصطناعيًا، لكن كلما تحدث أحدهم عن الإبادة فهم أول ما يخطر ببالي ;)
تثير مشكلات كهذه نقاشات ساخنة حول كيفية منع مثل هذه السيناريوهات. وفي النهاية كثيرًا ما يتجه الحديث لا إلى كيفية بناء أدوات الذكاء الاصطناعي فحسب، بل إلى جودة البيانات المشكوك فيها التي تتعلم منها. فلدى الشركات والمؤسسات بمختلف أنواعها كمّ متزايد من البيانات لاستخراج رؤى قيّمة منها، مع تصاعد الطلب على الأتمتة والقرارات المبنية على البيانات. وهذه بطبيعة الحال مجرد البداية لحالات استخدام الذكاء الاصطناعي. غير أنه مع تزايد استخدام حلول الذكاء الاصطناعي، أدت الآثار غير المتوقعة للافتراضات الخاطئة – سواء الناتجة عن البيانات أو عن طريقة ضبط الأداة – إلى وضع إرشادات للذكاء الاصطناعي الأخلاقي.
يعني الذكاء الاصطناعي الأخلاقي بناء أنظمة الذكاء الاصطناعي ونشرها واستخدامها وفق مبادئ وقيم أخلاقية، بما يدعم رفاه الأفراد والمجتمع ككل. وينبغي لهذه الأنظمة أن تكون شفافة وخاضعة للمساءلة وعادلة، وأن تضع حماية حقوق الإنسان وكرامته في المقام الأول. ويلتزم الذكاء الاصطناعي الأخلاقي بمجموعة من القيم والقواعد، منها على سبيل المثال:
- العدالة: التأكد من أن أنظمة الذكاء الاصطناعي تُبنى وتُنشر بحيث تعامل كل فرد وكل مجموعة معاملة معقولة ولا تميّز ضد أحد. لكن العدالة في الذكاء الاصطناعي مفهوم معقّد ومرتبط بالسياق، ولا يوجد تعريف عالمي واحد يغطي كل تطبيقات الذكاء الاصطناعي. ومن الصعب بلوغ العدالة الكاملة، لكن الهدف هو تحديد الأضرار المتصلة بالعدالة والحد منها قدر الإمكان.
- الشفافية وقابلية التفسير: بناء أنظمة الذكاء الاصطناعي بطريقة شفافة وقابلة للتفسير، بحيث يعرف المستخدمون أي بيانات تُستخدم وكيف تُتخذ القرارات وكيف تؤثر فيهم.
- المساءلة: التأكد من أن المسؤولية عن القرارات التي تتخذها أنظمة الذكاء الاصطناعي واضحة – بحيث يسهل تحديد صانعيها وأي جهة مسؤولة أخرى، وتوجد آليات تمنع أي ضرر أو آثار سلبية قد تحدث وتعالجها.
- الخصوصية: ينبغي بناء أنظمة الذكاء الاصطناعي لتضمن خصوصية الأفراد وتحمي البيانات والمعلومات الشخصية طوال دورة حياة النظام.
- السلامة والموثوقية: التأكد من أن النظام آمن، أي أنه يعمل بموثوقية وكما هو مقصود ولا يشكّل خطرًا على الأفراد أو حتى على المجتمع.
- قابلية الطعن: بما أنها قد تؤثر تأثيرًا كبيرًا في المستخدم أو في مجموعة معينة أو حتى في المجتمع بأكمله، ينبغي أن يكون بإمكان الناس الاعتراض على النتائج المشكوك فيها.
ولذلك فإن تعزيز الذكاء الاصطناعي الأخلاقي يساعد على ضمان استخدام التقنية بما يتفق مع القيم المقبولة عمومًا ومن أجل الصالح العام للمجتمع. فالذكاء الاصطناعي في النهاية وُجد ليخدمنا ويدعمنا ويسهّل علينا المهام ويتولى المهام التي تستغرق منا وقتًا طويلًا، وهكذا.
ومن العناصر المحورية في الذكاء الاصطناعي الأخلاقي الشمولية في مجموعات بيانات الذكاء الاصطناعي، أي التأكد من أن البيانات المستخدمة لتدريب أنظمة الذكاء الاصطناعي وبنائها متنوعة وتمثّل مختلف الفئات السكانية. وتكتسب هذه الشمولية أهمية خاصة لمنع أنظمة الذكاء الاصطناعي من ترسيخ أوجه عدم المساواة أو التحيزات الاجتماعية القائمة أو تفاقمها.
الذكاء الاصطناعي المسؤول
الفكرتان مرتبطتان ارتباطًا وثيقًا. لكن الأخلاقيات عمومًا تهتم أساسًا بخير الأفراد والمجموعات والمجتمع. أما الذكاء الاصطناعي المسؤول فيشمل تطبيق المبادئ الأخلاقية للذكاء الاصطناعي عمليًا، وبذلك يوسّع موضوع الذكاء الاصطناعي الأخلاقي. وهدفه التأكد من أن الذكاء الاصطناعي يُبنى ويُستخدم مع مراعاة الآثار المحتملة على مختلف أصحاب المصلحة – المستخدمين والموظفين والمجتمع الأوسع.
وهكذا يشكّل الذكاء الاصطناعي الأخلاقي جزءًا حيويًا من الذكاء الاصطناعي المسؤول. غير أن الذكاء الاصطناعي المسؤول يتجاوز الأخلاقيات ويضيف مجموعة أوسع من المبادئ والممارسات الهادفة إلى ضمان بناء الذكاء الاصطناعي واستخدامه بطريقة مسؤولة ومستدامة.
المصدر: Reddit
أفضل الممارسات لتطوير ذكاء اصطناعي أخلاقي
من الناحية القانونية، لا يزال مستقبل تطوير الذكاء الاصطناعي غير محسوم، لأنه توجّه تقني جديد نسبيًا. ومع ذلك فقد اتُّخذت بعض الخطوات، منها ما قام به برلمان الاتحاد الأوروبي الذي يعدّ قانون الذكاء الاصطناعي (AI Act) الذي يحدد، من بين أمور أخرى، الممارسات المحظورة والتزامات الموفّرين والمستخدمين بحسب مدى الخطر الذي قد يشكّله الذكاء الاصطناعي. وإضافة إلى ذلك، أصدرت اليونسكو في نوفمبر 2021 التوصية بشأن أخلاقيات الذكاء الاصطناعي، التي تراعي (من الناحية النظرية) حماية حقوق الإنسان والبيئة والأقليات والصحة ومجالات كثيرة أخرى. وهي مجموعة توصيات تتعلق في معظمها بالسياسات، وُضعت لتكون إرشادًا لكيفية تطوير الذكاء الاصطناعي والتعامل معه. ويتركز اهتمامها على تعزيز القيم الأساسية بحيث تُبنى الأنظمة لما فيه نفع المجتمع والبيئة والبشرية جمعاء.
أما الممارسات التقنية الأكثر ارتباطًا بالمهندسين، فتنشر شركات مثل Microsoft وIBM وGoogle توصيات محددة لبناء أنظمة ذكاء اصطناعي أخلاقية على مواقعها. وهي تقدّم نصائح مفيدة؛ وهذه بعض الأمثلة:
نهج التصميم المتمحور حول الإنسان
يعني ذلك أن تجربة المستخدم هي المفتاح لتقييم تأثير أنظمة الذكاء الاصطناعي في الناس. ولذلك ينبغي للمطورين بناء الميزات مع إفصاحات واضحة ومنح المستخدمين التحكم. ومن الضروري أيضًا توفير خيار واحد أو عدة خيارات بحسب السياق، وتوقّع الملاحظات السلبية، والتحسين المتكرر مع الاختبار. وللحصول على نتائج متنوعة وغير متحيزة، ينبغي لصانعي النظام إشراك مجموعة متنوعة من المستخدمين والاستفادة من ملاحظاتهم لتحسين النتائج.
مقاييس متعددة لتقييم التدريب والمراقبة
لفهم المفاضلات والتجارب فهمًا كاملًا، يُنصح بالاعتماد على عدة مقاييس بدلًا من مقياس واحد. وقد تكون مقاييس مختلفة، مثل استطلاعات المستخدمين أو مقاييس الأداء العام للنظام، مفيدة. ومن الضروري فحص معدلات الإيجابيات الكاذبة والسلبيات الكاذبة عبر المجموعات الفرعية والتأكد من أن المقاييس المختارة تناسب سياق النظام وأهدافه.
فحص البيانات الخام
يساعد النظر في البيانات الخام، متى أمكن ذلك، على فهمها بصورة أفضل ويضمن الدقة والعدالة. فأي بيانات تُغذّى للنظام تشكّل نتائجه مباشرة. ولهذا من الضروري البحث عن الأخطاء في البيانات والتأكد من أنها ممثِّلة وإزالة التحيز للتدريب، وكذلك إزالة الميزات غير الضرورية.
الاختبار
تستفيد أنظمة الذكاء الاصطناعي أيضًا من اتباع أفضل ممارسات هندسة البرمجيات في الاختبار وضمان الجودة. ويعني ذلك إجراء اختبارات وحدة شاملة، والمراقبة النشطة لانحراف البيانات وانحراف المفهوم، والاعتماد على مجموعة بيانات اختبار موثوقة، وإجراء اختبارات مستخدمين متكررة، وبناء فحوص الجودة داخل النظام، وتشغيل اختبارات التكامل لفهم كيفية تفاعل أجزاء النظام وأين قد تنشأ حلقات التغذية الراجعة.
جمع البيانات ومعالجتها بمسؤولية
بادئ ذي بدء، يجب على مهندسي الذكاء الاصطناعي تحديد ما إذا كان يمكن تدريب نموذج تعلّم الآلة دون بيانات حساسة أو باستخدام مجموعات بيانات متاحة للعموم. وإذا تعذّر تجنب بيانات التدريب الحساسة، فينبغي استخدامها في أضيق نطاق ومعاملتها بأقصى درجات العناية، وفق المتطلبات القانونية والمعايير. ويُوصى بشدة باتباع أفضل الممارسات، مثل تشفير البيانات أثناء النقل وفي حالة السكون والالتزام بمبادئ الخصوصية (وبطبيعة الحال، توصي Google بمبادئها الخاصة).
حماية خصوصية نماذج تعلّم الآلة
قد تكشف نماذج تعلّم الآلة عن البيانات التي دُرّبت عليها. ويمكن أن يحدث ذلك عبر المعاملات الداخلية أو عبر السلوك الملحوظ للنموذج. وللتحقق مما إذا كانت البيانات الحساسة تُحفظ أو تُكشف عن غير قصد، يستخدم المتخصصون اختبارات مخصصة وأبحاثًا كمية تفحص كيف تسرّب نماذج تعلّم الآلة معلومات عن سجلات البيانات الفردية التي دُرّبت عليها. ومن الممارسات الجيدة الأخرى تحسين النماذج بتجربة أساليب تقليل البيانات (data minimisation) وتقنيات مضمونة رياضيًا وإجراءات مستعارة من تطوير برمجيات التشفير.
تحديد التهديدات المحتملة للنظام
كما لاحظت على الأرجح حتى الآن، يشمل التخطيط السليم لمعمارية نظام الذكاء الاصطناعي الأمن. ولإنجاز ذلك جيدًا يجب أيضًا مراعاة كيفية إساءة استخدام النظام، وكيف يمكن استغلال الثغرات (والأهم كيفية منع ذلك)، وما عواقب مثل هذه الإجراءات. وعند تقييم التهديدات المحتملة واحتمالات وقوعها ومدى الضرر الممكن، قد يفيد إنشاء نموذج مخاطر يفحص الأصول ويحلل كل تعرّض وخطر.
خواطر ختامية
يجلب الذكاء الاصطناعي فوائد هائلة، لكن خطر استخدامه لأغراض ضارة لا يقل عنها تقريبًا. وهذا يفسّر تزايد الاهتمام بأطر عمل مخصصة لمن يبنون هذه الأدوات ويستخدمونها واستمرار العمل عليها.