إكتشف الباحثون أداة لجعل نماذج التعلم العميق المضغوط أقل عرضة للهجوم.وتعد الهواتف الذكية والكاميرات الأمنية ومكبرات الصوت سوى عدد قليل من الأجهزة التي ستقوم قريبًا بتشغيل المزيد من برامج الذكاء الاصطناعي لتسريع مهام معالجة الصور والكلام. تعمل تقنية الضغط المعروفة باسم القياس الكمي على تمهيد الطريق من خلال جعل نماذج التعلم العميق أصغر لتقليل تكاليف الحساب والطاقة. لكن تبين أن النماذج الأصغر سهّلت على المهاجمين الخبيثين خداع نظام الذكاء الاصطناعي,وهو ما يثير قلقًا عند اتخاذ القرارات الأكثر تعقيدًا في الأجهزة.
في دراسة جديدة أظهر الباحثون في معهد ماساتشوستس للتكنولوجيا وشركة آي بي إم مدى تعرض نماذج الذكاء الاصطناعي المضغوط المعرضة للهجوم العدائي والقرصنة,وهم يقدمون حلاً: إضافة قيد رياضي أثناء عملية القياس لتقليل الاحتمالات فشل الذكاء الاصطناعي في التعرف على صورة معينة أو أن يخطئ في فهم ما يرى.
عندما يتم تقليل نموذج التعلم العميق من 32 بت إلى بت أقل, فمن الأرجح أن يتم رؤية الصور التي تم تغييرها بشكل خاطئ بسبب تأثير تضخيم الخطأ: أي تصبح الصورة المعالجة أكثر تشويهاً مع كل طبقة إضافية للمعالجة.
أظهر الباحثون أن النماذج التي يتراوح حجمها بين 8 بت أو أقل تكون أكثر عرضة للهجمات العدائية حيث تنخفض الدقة من 30 إلى 40 في المائة بالفعل إلى أقل من 10 في المائة مع انخفاض عرض البت.
يقول سونج هان الأستاذ المساعد في قسم الهندسة الكهربائية وعلوم الكمبيوتر في معهد ماساتشوستس للتكنولوجيا وعضو في مختبرات تكنولوجيا النظم الميكروية
Microsystems Technology Laboratories في معهد ماساتشوستس للتكنولوجيا: “تقلل تقنيتنا من تضخيم الأخطاء, بل ويمكنها أن تجعل نماذج التعلم العميق المضغوطة أقوى من النماذج الكاملة الدقة ومع التقدير الكمي الصحيح يمكننا الحد من الخطأ”.
يخطط الفريق لتحسين هذه التقنية من خلال تدريبها على مجموعات بيانات أكبر وتطبيقها على مجموعة أكبر من النماذج. يقول مؤلف الدراسة شوانغ جان الباحث في معهد ماساتشوستس للتكنولوجيا: “يجب أن تكون نماذج التعلم العميق Deep learning models سريعة وآمنة مع انتقالها إلى عالم من الأجهزة المتصلة بالإنترنت”.
لجعل طرازات الذكاء الاصطناعي أصغر بحيث تعمل بشكل أسرع وتستخدم طاقة أقل,يستخدم الذكاء الاصطناعي نفسه لدفع حدود تقنية ضغط النموذج. في الأعمال الحديثة ذات الصلة يوضح هان وزملاؤه كيف يمكن استخدام تعزيز الـتعلم للعثور تلقائيًا على أصغر بت لكل طبقة في نموذج كمي استنادًا إلى السرعة التي يمكن بها للجهاز معالجة الصور. يقول هان إن هذا النهج المرن لعرض البت يقلل من زمن الكمون ويقلل من استخدام الطاقة بنسبة تصل إلى 200 في المائة مقارنة بطراز ثابت 8 بت.
المصدر : هنا
