الحالة

مكتمل

السنة

2026

النوع

Survey Paper

الملخص

تتناول هذه الورقة من نوع survey paper مجال تعلّم الآلة المحافظ على الخصوصية بوصفه اتجاهًا بحثيًا متزايد الأهمية مع توسع استخدام البيانات الحساسة في أنظمة تعلّم الآلة الحديثة. تبدأ الورقة بتوضيح أن الخصوصية لا تتعلق فقط بعدم نشر البيانات الخام، إذ يمكن للنماذج المدرّبة، ومخرجات التنبؤ، والتدرجات، والمعاملات، والتحديثات المشتركة أن تكشف معلومات خاصة عن بيانات التدريب أو المستخدمين. تستعرض الورقة أبرز هجمات الخصوصية في تعلّم الآلة، بما في ذلك membership inference، وmodel inversion، وreconstruction attacks، وgradient leakage، وproperty inference، وwhite-box inference، وتوضح أن مخاطر الخصوصية قد تظهر في بيئات التعلم المركزية والموزعة على حد سواء. بعد ذلك، تنظّم الورقة أساليب حماية الخصوصية في عدة عائلات رئيسية تشمل الأساليب التشفيرية، والأساليب القائمة على perturbation، وfederated learning، والأساليب الهجينة أو الانتقائية. تناقش الورقة أساليب مثل secure multi-party computation، وhomomorphic encryption، وfully homomorphic encryption، وmulti-key homomorphic encryption باعتبارها آليات قوية لحماية البيانات أثناء التدريب أو الاستدلال، لكنها توضّح أيضًا أن هذه الأساليب تعاني من تكلفة حسابية عالية، واستهلاك أكبر للذاكرة، وزيادة في عبء الاتصال، وحاجة إلى تكييف النماذج مع العمليات المشفرة. كما تستعرض differential privacy من خلال أساليب مثل DP-SGD، وPATE، وlabel differential privacy، وتبيّن كيف يمكن للضوضاء المضبوطة أن تحد من تسرب معلومات الأفراد، مع احتمال التأثير في دقة النموذج أو الحاجة إلى إدارة دقيقة لميزانية الخصوصية. أما federated learning فيُعرض كنهج تعلّم موزع يحافظ على البيانات الخام داخل الأجهزة أو الجهات المالكة لها، لكن الورقة توضّح أن التدرجات وتحديثات النماذج قد تظل قادرة على تسريب معلومات حساسة إذا لم تُستخدم معها آليات إضافية مثل secure aggregation، أو differential privacy، أو encryption. الاتجاه المركزي في هذه الورقة هو الحماية الانتقائية على مستوى الخصائص. بدلًا من حماية كل البيانات أو كل الخصائص أو كل العمليات بالطريقة نفسها، تدعو الورقة إلى تطبيق آليات الخصوصية بشكل أكثر استراتيجية من خلال النظر إلى أهمية الخصائص في التنبؤ وحساسيتها من ناحية الخصوصية. تناقش الورقة أمثلة مثل label differential privacy، واختيار الخصائص قبل التعلم المشفر، والتصنيف المشفر للصور باستخدام chunk-based encryption، لتوضيح أن الحماية الانتقائية يمكن أن تقلل العبء غير الضروري مع الحفاظ على أداء مفيد للنموذج. تتمثل الفجوة البحثية الأساسية التي تحددها الورقة في غياب إطار عام يربط بين feature importance، وfeature sensitivity، وselective privacy protection عبر أنواع مختلفة من البيانات والنماذج. لذلك تضع الورقة feature-importance-based selective protection كاتجاه واعد للأبحاث المستقبلية، بحيث يمكن تطبيق حماية أقوى على الخصائص المهمة والحساسة باستخدام encryption، أو perturbation، أو masking، أو أساليب هجينة، مع تقييم النظام الناتج من حيث مخاطر الخصوصية، ومنفعة النموذج، والتكلفة الحسابية.