ماذا سيغيّر قانون الذكاء الاصطناعي الأوروبي في مشهد تعلّم الآلة؟
تعرّف على كيف سيعيد هذا القانون تشكيل عالم تعلّم الآلة، وما الالتزامات التي سيفرضها على الشركات التي تبني الذكاء الاصطناعي وتستخدمه، وما الفرص والمخاطر المصاحبة له.
في الأشهر الأخيرة، نما الاهتمام العام بالذكاء الاصطناعي بوتيرة قياسية، ويعود الفضل في ذلك إلى حد كبير إلى أدوات مجانية وسهلة الاستخدام تعمل بالذكاء الاصطناعي مثل Midjourney أو ChatGPT. ولأن هذه الأنظمة متاحة للجميع ومستخدميها لا ينفد إبداعهم، اكتشف الناس كثيرًا من الخصائص المفيدة والمثيرة لنماذج تعلّم الآلة التي تقف خلفها، ومن ذلك قوالب الأوامر (prompts) لنموذج ChatGPT من OpenAI التي تستخرج ردودًا محددة مرغوبة، لكن التجربة نفسها أظهرت أيضًا أن هذه الأدوات تنطوي على مخاطر. فكما هو الحال مع أي أداة، يمكن لقدراتها أن تخدم أغراضًا حسنة كما تخدم أغراضًا سيئة.
إن احتمال إساءة الاستخدام، إلى جانب تزايد شعبية هذه الأنظمة وسرعة وتيرة البحث في هذا المجال، جعل الحكومات قلقة بشأن ما قد يؤدي إليه التقدم لاحقًا. ولحماية المواطنين من العواقب الضارة لتطوير الذكاء الاصطناعي، أعد الاتحاد الأوروبي قانون الذكاء الاصطناعي (AI Act) الذي يهدف إلى إرساء إطار قانوني يوجّه تطور الذكاء الاصطناعي ويحدّ من المخاطر المرتبطة به. وفي سياق مماثل، نشر خبراء رسالة مفتوحة تدعو إلى وقف أبحاث الذكاء الاصطناعي لمدة ستة أشهر لإتاحة الوقت لوضع القواعد والمبادئ.
والاتحاد الأوروبي ليس الجهة السياسية الوحيدة التي تُقرّ لوائح من هذا النوع. فقد وضعت الولايات المتحدة مجموعتها الخاصة من القواعد، وهي «Blueprint for an AI Bill of Rights»، ولدى المملكة المتحدة «National AI Strategy». وتحاول كل من هذه الدول، بطريقتها، الحد من المخاطر التي يفرضها الذكاء الاصطناعي ودفع تطويره وفق معايير أخلاقية. ويدور الآن سباق لتنظيم الذكاء الاصطناعي، ومن المرجح أن ينتهي بمعيار تنظيمي واحد تقبله شريحة كبيرة من دول العالم.
الافتراضات العامة
ركّز الاتحاد الأوروبي في قواعده على تقليل المخاطر التي يواجهها مستخدمو الأنظمة القائمة على الذكاء الاصطناعي، وذلك بفرض التزامات محددة على الشركات التي تبني هذه الأنظمة وتلك التي تستخدمها. وكان هدفه الرئيسي ضمان أن تكون تقنيات الذكاء الاصطناعي آمنة وشفافة وغير تمييزية وقابلة للتتبع وصديقة للبيئة. وقد طبّق مبدأ المخاطر المتناسبة، فحدد عدة مستويات من المخاطر لأنظمة الذكاء الاصطناعي مع القواعد المناسبة لكل منها. وصُممت اللوائح لتكون محايدة تقنيًا وقادرة على مواكبة المستقبل.
الأعمال المتأثرة
يميّز القانون بين أربعة مستويات من المخاطر لأنظمة الذكاء الاصطناعي: غير المقبولة، والعالية، والذكاء الاصطناعي التوليدي، والمحدودة.
المخاطر غير المقبولة
تشمل هذه الفئة كل نظام ذكاء اصطناعي يُستخدم للقياسات الحيوية في الأماكن العامة، مثل برامج التعرف على الوجوه (مع استثناء جهات إنفاذ القانون، وفق قيود منفصلة)، وأنظمة التصنيف الاجتماعي، والأنظمة التي تتلاعب بسلوك البشر، خصوصًا تلك التي تستهدف فئات ضعيفة مثل الأطفال أو الأشخاص ذوي الإعاقة. وستُحظر مثل هذه الأنظمة في الاتحاد الأوروبي.
المخاطر العالية
تشمل أنظمة الذكاء الاصطناعي المستخدمة في المنتجات المدرجة في DIRECTIVE 2001/95/EC الصادرة عن البرلمان الأوروبي والمجلس الأوروبي بتاريخ 3 ديسمبر 2001 بشأن السلامة العامة للمنتجات، والتي تنتمي إلى أحد المجالات التالية:
- القياسات الحيوية للبشر
- البنية التحتية الحيوية
- التعليم
- التوظيف
- الخدمات العامة الأساسية والرعاية الصحية
- إنفاذ القانون
- الهجرة ومراقبة الحدود
- تفسير القانون وإنفاذه
وسيتعين على المؤسسات التي تبني الذكاء الاصطناعي لهذه المجالات التسجيل في قاعدة بيانات الاتحاد الأوروبي. وستخضع هذه الأنظمة لتقييم بشري ورقابة بشرية طوال دورة حياتها بالكامل. إضافة إلى ذلك، يجب أن يكون بوسع كل من يستخدم هذه الأنظمة الحصول على تفسير لقرارات النظام، بما يمكّنه من مراقبة طريقة عمله ورصد الشذوذ أو السلوك المعيب. وبالتالي سيصبح مكوّن يطبّق الذكاء الاصطناعي القابل للتفسير جزءًا أصيلًا من أنظمة الذكاء الاصطناعي عالية المخاطر في المستقبل. كما سيتعين إبلاغ المستخدمين بما يستطيع النظام فعله وما لا يستطيع.
الذكاء الاصطناعي التوليدي
ستحتاج الأنظمة التوليدية إلى الوفاء بمتطلبات الشفافية، وبالأخص:
- توضيح أن المحتوى أنتجه الذكاء الاصطناعي
- حماية النموذج من إنتاج محتوى غير قانوني
- نشر ملخص لبيانات التدريب
المخاطر المحدودة
تندرج جميع أنظمة الذكاء الاصطناعي المتبقية ضمن فئة المخاطر المحدودة. وينبغي لأنظمة الذكاء الاصطناعي ذات المخاطر المحدودة أن تستوفي متطلبات الشفافية الأساسية ليتمكن المستخدمون من اتخاذ قرارات مستنيرة. ويجب أن يعرف الناس متى يتعاملون مع الذكاء الاصطناعي.
الفرص
على الصعيد العالمي، نحن الآن بصدد كتابة القانون الذي يحكم الذكاء الاصطناعي. وهذا يمنحنا فرصة لصياغة تنظيم يحمي المجتمع والمواطنين الأفراد من الآثار الضارة لأنظمة الذكاء الاصطناعي دون أن يقيّد بشدة طريقة تطوير الذكاء الاصطناعي واستخدامه في الأعمال.
ومما لا شك فيه أن متطلبات القابلية للتفسير والشفافية ستدفع المجتمع البحثي إلى التركيز أكثر على أساليب شرح أنظمة الذكاء الاصطناعي وفهمها. ومع مرور الوقت، سيؤدي ذلك إلى تحسينات تدريجية في نماذج الذكاء الاصطناعي.
أما ضرورة حماية النماذج التوليدية من إنتاج محتوى غير قانوني فستحفّز البحث في هذا المجال بقوة. وأتوقع ظهور أساليب جديدة تجعل أنظمة الذكاء الاصطناعي أكثر أمانًا لمن يستخدمونها.
المخاطر
عندما تعمّقت في قانون الذكاء الاصطناعي الأوروبي وما يعنيه بالنسبة لالتزامات الشركات التي تبني أنظمة الذكاء الاصطناعي، ظللت أسأل نفسي كيف ستنعكس توقعات المسؤولين الأوروبيين على المتطلبات التقنية لهذه الأنظمة. وكما تبيّن، كان لدى آخرين السؤال نفسه. فقد شارك Balint Gyevnar وآخرون (2023) تأملات مشابهة في ورقة بحثية بعنوان “Get Your Act Together: A Comparative View on Transparency in the AI Act and Technology”. وخلاصاتها أن اللوائح بصيغتها الحالية غامضة، وأن المسؤولين والمهندسين يفهمون المصطلحات الأساسية فهمًا مختلفًا، وأن المتطلبات الواردة في اللوائح لا تُترجم مباشرة إلى متطلبات للأنظمة، وأن حقوق الملكية الخاصة بمطوّري أنظمة الذكاء الاصطناعي قد تتعرض للانتهاك.
الموظفون الحكوميون والمهندسون يتحدثون لغات مختلفة. فهم يستخدمون الكلمات نفسها ولكن بمعانٍ مختلفة. ومصطلحات مثل قابلية التفسير (interpretability) وقابلية الشرح (explainability) والشفافية ومخرجات النموذج أمثلة جيدة على ذلك. ويجب تعديل هذه المصطلحات وتحديدها بدقة حتى تُفهم المتطلبات بلا لبس. فبالنسبة للمسؤولين، تعني الشفافية في كثير من الأحيان شفافية موجهة نحو الامتثال التنظيمي، بينما تعني للمهندسين فهم كيفية عمل النظام نفسه، مثلًا عبر أساليب الذكاء الاصطناعي القابل للتفسير.
هل سيعامل المسؤولون أنظمة الذكاء الاصطناعي التي توصي بالمحتوى على أنها أنظمة تتلاعب بسلوك الناس؟ إن فعلوا ذلك فسيتضرر قطاع التجارة الإلكترونية ومنصات البث بشدة، إذ تعتمد على هذه الحلول للترويج لمنتجاتها بحسب سلوك العملاء. وماذا عن الحملات الإعلانية التي يديرها الذكاء الاصطناعي؟
في بعض المواضع تتسم اللوائح بالغموض نسبيًا وتقبل التأويل، مما يشكّل مخاطر على الشركات التي تبني حلولًا قائمة على الذكاء الاصطناعي.
وفوق ذلك، قد ينتهك شرط الشفافية حقوق الملكية، لأنه يتطلب وصف الدوافع وخيارات التصميم التي اتُّخذت أثناء بناء النظام، وهو ما يعادل الكشف عن معلومات تتيح للمنافسين استنساخ الحل. وهذا هو الخطر الأكثر جسامة الذي تفرضه اللائحة. فبالنسبة لشركة تكمن ميزتها التنافسية في بياناتها، يُعدّ وصف البنية والمجموعات التي دُرّب عليها نموذج تعلّم الآلة ذا قيمة بالغة.
ما التالي؟
على وشك أن تبدأ المحادثات مع الدول الأعضاء في مجلس الاتحاد الأوروبي بشأن الشكل النهائي للائحة. وآمل أن يُصغى إلى الخبراء عند تعديل القانون. وإلا فسيتعين علينا انتظار تفسيرات توضح الإرشادات، بما يتيح تحويل المتطلبات المكتوبة في اللوائح إلى متطلبات تقنية للأنظمة ويحرر الشركات من المخاطر التي تفرضها الصياغة القانونية الغامضة.
الخلاصة
تحاول لائحة الاتحاد الأوروبي قيد الإعداد كبح «الغرب المتوحش» في تطوير الذكاء الاصطناعي قبل أن يتسبب في ضرر جسيم. وتهدف الإرشادات إلى حماية الأشخاص الذين يستخدمون أنظمة الذكاء الاصطناعي، ولا سيما في المجالات التي تؤثر فيها القرارات تأثيرًا كبيرًا في حياة المواطنين. وأعتقد أن حظر استخدام الذكاء الاصطناعي في المجالات التي قد تهدد أمن المواطنين وخصوصيتهم أمر جدير بالثناء. فحظر التصنيف الاجتماعي والقياسات الحيوية الفورية في الأماكن العامة، مثلًا، سيقيّد القدرة على تشكيل سلوك المواطنين من الأعلى إلى الأسفل، كما يحدث في جمهورية الصين الشعبية.
ومع ذلك، هناك أيضًا مخاوف بشأن غموض المصطلحات وغياب المتطلبات التقنية لأنظمة الذكاء الاصطناعي.
هناك أمر واضح – تنظيم الذكاء الاصطناعي قادم. وكمهندسين، سيتعين علينا التكيّف معه وبناء أنظمة متوافقة مع القانون. وبالحكم على المسودة الحالية، لا أتوقع أن تتسبب القواعد الجديدة في توقف أي شيء. فهي تحتاج إلى بعض التنقيح، ولا سيما فيما يخص وصف قرارات التصميم ومجموعات البيانات، لكنها لا تشكّل تهديدًا وجوديًا لنمو القطاع في المستقبل.