تقدير المشروع
← كل المقالات

نهجنا في النسخ الاحتياطي لـ Google Drive عبر مؤسسة Workspace لدينا

هل فكرت يوماً في خطر فقدان الوصول إلى بياناتك؟ للحد من هذا الخطر، أعددنا نسخاً احتياطية لـ Google Drive تغطي نطاقنا بأكمله.

9 دقائق قراءة
APIGoogle DriveGoogle Appsالنسخ الاحتياطي

لعل معظم قراء هذه المدونة يعرفون الارتهان للمورّد (vendor lock-in) – أي حين تتكامل الخدمات بإحكام شديد حتى يصبح استبدال إحداها شبه مستحيل. لكن هل فكرت يوماً في خطر الحرمان من الوصول إلى بياناتك أنت؟ تقطع Google وعداً رسمياً بألا تستخدم بيانات Workspace الخاصة بك في الإعلانات أو التدريب. ومع ذلك، وبسبب المتطلبات القانونية، من المرجح أن تفحص Google ملفاتك بحثاً عن انتهاك الملكية الفكرية (IP) أو CSAM. وكما في أي نظام آلي، فإن النتائج الإيجابية الكاذبة حتمية. وإذا كانت شركتك تعتمد على بيانات مخزنة في السحابة، فإن فقدان الوصول لأيام (أو حتى أسابيع!) بسبب تعليق الحساب مخاطرة لا يمكنك تحملها ببساطة.

في شركتنا نعتمد على Google Workspace لأنه يوفر تجربة تعاون أسلس وأكثر بداهة من Microsoft 365. ونحن معرّضون لخطر الحرمان من الوصول مثل أي جهة أخرى. فقد يؤدي تصنيف خاطئ واحد أو إشارة آلية واحدة إلى سحب وصولنا. وللحد من هذا الخطر، شرعنا في بناء نسخ احتياطية لـ Google Drive تغطي نطاقنا بأكمله.

وبالمناسبة، هل تعلم أنه يمكنك بدء مستندات وجداول واجتماعات جديدة بكتابة docs.new وsheet.new وmeet.new في شريط العناوين؟ استخدام ذكي إلى حد ما لنطاق المستوى الأعلى (TLD).

الوضع الحالي

قبل أن نقرر إعادة اختراع العجلة بأداة خاصة بنا، بحثنا في الحلول الموجودة بالفعل:

  • أداة Data Export من Google – يمكن لعملاء Google Workspace طلب تصدير للبيانات عبر أداة Data Export. وهي تعمل بطريقة قريبة جداً من Google Takeout وتصدّر البيانات من مجموعة واسعة من خدمات Google، تتجاوز Google Drive وحده بكثير. وبعد طلبك، تصل البيانات المصدّرة إلى حاوية Cloud Storage تديرها Google، ولديك 60 يوماً لنسخها إلى أي مكان تشاء. والمشكلة الوحيدة أنه لا يمكن طلب التصدير أكثر من مرة كل 30 يوماً، وأنها عملية يدوية. ومع ذلك فهي نقطة بداية معقولة للشركات التي لا تستطيع تحمل بناء نسخها الاحتياطية الخاصة.
  • rclone – rclone مشروع ناضج يتيح لك العمل مع أنظمة تخزين بعيدة كثيرة، منها Google Drive، كما لو كانت أنظمة ملفات محلية. ويتعامل بصورة جيدة إلى حد كبير مع ميزات Drive الخاصة مثل الاختصارات والتصدير من Google Docs وSheets وأدوات أخرى. غير أن معاملة نظام تخزين كائنات مثل Google Drive كنظام ملفات عادي لها حدودها. ومن العيوب الكبرى أن rclone لا يستطيع التعامل مع عدة ملفات تتشارك الاسم والموقع نفسيهما – فهو يعدّها مكررة ببساطة. وأقصى ما يمكنه فعله هو “إزالة التكرار” بحذف النسخ الزائدة. ويعود ذلك إلى أن Google Drive يعمل كتخزين كائنات بلا بنية مجلدات حقيقية؛ فالمجلدات محاكاة في الواجهة فقط، وتُعرَّف الملفات بمعرّفات فريدة لا بالاسم والمسار. وهناك عيب كبير آخر هو أن rclone يُضبط بصورة منفصلة لكل drive.

ولأن أداة التصدير من Google لا يمكن أتمتتها، ولأن rclone كان سيتطلب منا كتابة أدوات مخصصة لتوليد إعداده تلقائياً، اخترنا بناء حل نسخ احتياطي خاص بنا.

ماذا يتطلب إنشاء أداة نسخ احتياطي مخصصة؟

سرد الـ drives

كانت الخطوة الأولى الحصول على قائمة كاملة بالـ drives الشخصية والمشتركة. وهذا سهل نسبياً، لأن Google توفر كلاً من Google Drive API وAdmin SDK Directory API. فالـ drives المشتركة لها معرّفات فريدة يجب جلبها من Drive API، بينما معرّفات الـ drives الشخصية هي نفسها البريد الإلكتروني الأساسي للمستخدم. وعادةً يكون التطبيق المبني على هذه الواجهات موجهاً للمستخدمين النهائيين (تخيّل واجهة بديلة لـ drive، مثل مدير ملفات أنيق)، وتحصل على الأذونات بإرسال المستخدم إلى شاشة OAuth من Google. أما في نسخنا الاحتياطي المجدول، فكان لا بد من منح الأذونات مسبقاً وأن تسري على النطاق كله. وقد توقعت Google ذلك: يمكنك إدارة Domain Wide Delegation من لوحة الإدارة. وهي موثقة بالكامل لدى دعم Google وكذلك في README.md الخاص بتطبيقنا. وتُسمى الأذونات نطاقات (scopes)، ومعرّف العميل (Client ID) هو Unique Name لحساب الخدمة في GCP (رقم من 21 خانة، لا البريد الإلكتروني الذي يُذكر عادةً). وفي حالتنا، احتجنا إلى هذه النطاقات:

جلب قائمة الملفات

Google Drive تخزين كائنات، وتُعرَّف الملفات بمعرّفاتها. وقبل أن تتمكن من تنزيل ملف تحتاج إلى معرّفه. يملك Drive SDK من Google دالة لسرد الملفات، فكل ما يلزم هو التكرار على استجابات الواجهة المقسّمة إلى صفحات. ويمكنك أيضاً اختيار حقول البيانات الوصفية التي تريدها. فإضافةً إلى id وname، أردنا md5Cheksum وmimeType وexportLinks لتحديد ما إذا كان الملف قابلاً للتنزيل أو يحتاج إلى تصدير (المزيد عن ذلك لاحقاً)، وparents لبناء مسار الملف، وshortcutDetails للتعامل مع الاختصارات، وpermissions/permissionIds تحسباً لاحتياجنا إلى استعادة الملفات يوماً ما.

تعتمد طريقة عمل أذونات الملفات على نوع الـ drive. ففي الـ drives الشخصية يعطيك الحقل permissions بالضبط ما تتوقعه – البريد الإلكتروني للمستخدم ومستوى الوصول. أما بالنسبة إلى الملفات في الـ drives المشتركة فإن permissions غير متاح؛ والمتاح هو permissionIds فقط. ثم تحتاج إلى استدعاء نقطة نهاية منفصلة بمعرّف الإذن للحصول على الأذونات الفعلية، بما فيها البريد الإلكتروني للمستخدم ومستوى الوصول. ورغم أنه يمكن استدعاء نقطة نهاية السرد بـ page_size مقداره 1000 لجلب دفعة من الملفات في استجابة واحدة، فإن إطلاق ألف طلب (أو أكثر) (لكل دفعة!) لمجرد الحصول على الأذونات سيكون كابوساً. وحللنا ذلك بتخزين الاستجابات مؤقتاً وبناء قاموس لـ permissionIds المعروفة

هل تذكر أنني ذكرت أن المجلدات في Google محاكاة؟ الملفات لا تعرف مسارها. وحقل الأب (parent) هو الوحيد المتعلق بالمسار. ولأننا أردنا أن تحتفظ نسخنا الاحتياطية ببنية المجلدات، كان علينا بناء مسار كل ملف بأنفسنا بصعود شجرة آبائه. لكن البحث عن أب ملف بمعرّفه في المصفوفة التي ترجعها واجهة Google له تعقيد زمني O(n). ومع وجود drives تحتوي عشرات الآلاف من الملفات، سيستغرق بناء المسارات وقتاً لا ينتهي. ولحسن الحظ الحل بسيط: معرّفات الملفات فريدة. فحوّلنا مصفوفة الملفات إلى مجموعة مفهرسة بمعرّف الملف. وهذا يتيح لنا جلب معلومات الملف بمعرّفه في O(1)، ما يسرّع الأمور كثيراً.

التنزيل والتصدير

تنزيل الملفات الثنائية (التي لها md5Checksum) بسيط جداً – تستدعي الدالة get_media بمعرّف الملف وتحفظ الاستجابة في ملف. ولكن للحد من استهلاك الذاكرة قد ترغب في تنزيل الملف على دفعات (chunks).

أما الملفات غير الثنائية فأصعب قليلاً. بالنسبة إلى الاختصارات (التي يمكن تمييزها بنوع mime application/vnd.google-apps.shortcut)، قررنا كتابة ملف .txt يحتوي على مسار المصدر الأصلي بدلاً من تنزيل الملف الأصلي مراراً وتكراراً (مرة لكل اختصار). أما تطبيقات Google الخاصة الأخرى مثل Docs وSheets وPresentations فيمكن تصديرها إلى الصيغ المدرجة في هذا الجدول باستخدام الدالة export_media. نظرياً على الأقل. فـ export_media محدودة بـ 10MB، ومستند يحتوي بضع صور فقط سيتجاوز ذلك بسهولة. واضطررنا إلى اللجوء إلى حقل exportLinks الخاص بالملف. وهو يُستخدم عادةً في واجهة Google Drive على الويب وهو ببساطة رابط. ولأن هذه الطريقة ليست جزءاً من SDK الخاص بـ Google، كان علينا تنفيذ تدفق مصادقة خاص بنا (ولحسن الحظ، يكشف SDK رمز bearer) ومجزّئ (chunker) خاص بنا. حدود exportLinks غير موثقة، لكننا لم نصادف أي مشكلات معها حتى الآن. والتحفظ الوحيد أنه قد يُهمَل في أي لحظة، إذ ليس جزءاً من واجهة Drive v3 API.

آه، تلك النسخ المكررة الجميلة

لأن Google Drive تعرّف الملفات بمعرّفات فريدة، كان مجرد مسألة وقت قبل أن نصادف ملفات تتشارك الاسم والمسار نفسيهما. وكانت هذه مشكلة جدية، إذ نزّل تنفيذنا الملفات بخيوط متعددة (وينبغي أن يكون تنفيذك كذلك!). في هذا الإعداد قد يبدأ خيط الكتابة إلى ملف محلي مباشرة بعد أن يكون خيط آخر قد كتب جزءاً من ملف مختلف بالاسم نفسه، فيسبب ذلك الكتابة فوق البيانات وتلفها. وأصلحنا ذلك بإدخال بنية بيانات زمن البحث فيها O(1) – مجموعة تسجل كل مسار مقفل (قيد الاستخدام). قبل تنزيل ملف، كنا نتحقق مما إذا كان مساره مقفلاً. فإن لم يكن، قفلناه، ما يضمن تنزيلاً غير منقطع. وإن كان المسار مأخوذاً بالفعل، أضفنا معرّف الملف ورقماً عشوائياً إلى اسم الملف لمنع التعارض.

نقطة مهمة: تأكد من أن بنى بياناتك آمنة للخيوط (thread-safe). وإلا فقد تتلف المجموعة نفسها، تماماً مثل الملفات.

الضغط

بعد تنزيل كل ملف، كان ضغطها بسيطاً. أجرينا قياس أداء لخوارزميتَي ضغط: lz4 وpzstd.
لنحو 700GB من البيانات:

  • lz4 (التي تعمل دائماً على خيط واحد) احتاجت إلى نحو 114 دقيقة وأنتجت أرشيفاً حجمه 599GB (نسبة ضغط 1.16x).
  • pzstd (على نواتين) أنهت في 88 دقيقة – أسرع بنسبة 22% من lz4 – وأنتجت أرشيفاً حجمه 587GB (نسبة ضغط 1.19x).

ولأن 700GB كانت drive واحدة فقط من drives لدينا، ولأن بضع ساعات من الحوسبة تكلف أقل من الاحتفاظ بأحجام كبيرة من البيانات عدة أشهر، اخترنا pzstd.

النشر والعقبة الأولى

لأننا أردنا البيانات في S3، كان من المنطقي نشر التطبيق داخل AWS لتجنب دفع كلفة نقل البيانات. وقررنا تشغيل تطبيق النسخ الاحتياطي مهمة ECS (ECS Task) تُطلقها CloudWatch دورياً. ولأن النسخ الاحتياطي الكامل يستغرق نحو 6 ساعات عند معالجة عدة drives، كان Fargate أنسب بكثير من نسخة EC2 تعمل باستمرار.

نزّل تنفيذنا الأول كل البيانات مسبقاً، لذا احتاجت الحاوية إلى قرص مؤقت لا يقل عن عدة تيرابايت. ولحسن الحظ، منذ يناير 2024، تتيح AWS إنشاء وحدة تخزين EBS وقت النشر (عند استدعاء دالة الواجهة RunTask). وتضبط ذلك عبر المعامل volumeConfigurations، بجانب إعدادات أخرى مثل cluster وtaskDefinition.

لكننا اصطدمنا بعد ذلك بعقبة غير متوقعة: بعد أكثر من عام، ظل المورد الرسمي aws_scheduler_schedule في Terraform لا يوفر أي إعداد لوحدات التخزين في الحقل ecs_parameters، رغم أنه يُفترض أن يعكس واجهة RunTask.

وضعنا ذلك في موقف صعب. كان بإمكاننا إما التخلي عن IaC أو إيجاد طريقة للالتفاف على ephemeral_storage ذي الحد الأقصى 200GB المضبوط على مستوى تعريف المهمة. وبما أننا شركة تضع IaC أولاً، كان التخلي عن Terraform غير وارد. فأسرعنا بتغيير شيفرتنا بحيث يُرفع كل ملف إلى S3 ويُزال من التخزين المحلي مباشرة بعد تنزيله. وقلّص ذلك بشدة المساحة المطلوبة على القرص في أي لحظة إلى الملفات قيد المعالجة فقط.

الشيفرة

نفتح المصدر لشيفرة تطبيق النسخ الاحتياطي لدينا. وهي مكتوبة بلغة Python، وتدعم القوائم السوداء والبيضاء للـ drives، وتعالج الـ drives بالتوازي، وتنزّل بخيوط متعددة. ويمكنك أيضاً اختيار ما إذا كانت ملفات Shared-with-me ستُضمَّن. وفي الوقت الحالي تصدّر ملفات تطبيقات Google الخاصة إلى ملفات Microsoft Office القياسية، لكن بقليل من مساعدة المجتمع قد تتعامل قريباً مع صيغ أخرى أيضاً. ويمكنك كذلك أن تقرر ما إذا كنت ستنزّل كل ملف ثم تضغطها، أو كما نفعل نحن، ترفع كل ملف فور تنزيله. وتُسجَّل أي أخطاء وتُرفع إلى S3 مع الملفات أيضاً.

الخاتمة

خلاصة القول، رغم أن Google Workspace يوفر بيئة قوية ومريحة للتعاون، فإن احتمال فقدان الوصول إلى بيانات أساسية مصدر قلق حقيقي. وخيارات النسخ الاحتياطي القائمة، مثل Data Export من Google وrclone، لها عيوب تجعلها غير مناسبة لنسخ احتياطية متكررة وآلية بالكامل. وببناء أداة النسخ الاحتياطي الخاصة بنا، اكتسبنا مزيداً من التحكم والكفاءة وأصبحنا أكثر مرونة في مواجهة الاضطرابات المحتملة. ويوفر حلنا مفتوح المصدر طريقة قابلة للتوسع والمرونة لحماية بيانات Google Drive، ويساعد المؤسسات على تقليل المخاطر والحفاظ على وصول غير منقطع إلى المعلومات الحيوية.