الشبكات العصبية هي البرنامج الأساسي للتعلم العميقdeep learning. على الرغم من انتشارها على نطاق واسع إلا أن طريقة عملها غير مفهومة. وفي هذا النطاق توصل الباحثون إلى اكتشاف بسيط ولكنه مثير: لقد تم استخدم شبكات عصبية أكبر بكثيرقد يصل حجمها 10 أو حتى 100 مرة, لذا فإن التعلم العميق يكلف وقتا وقدرة حسابية أكثر من اللازم. بعبارة أخرى يوجد داخل كل شبكة عصبية شبكة أصغر بكثير يمكن تدريبها لتحقيق نفس الأداء.أولا دعونا نتعمق في كيفية عمل الشبكات العصبية:

An image of a neural network design.


رسم تخطيطي لشبكة عصبية تتعلم التعرف على الأسد.

يمثل الرسم أعلاه شبكة عصبية للتعرف على الاسد : فهي تتكون من طبقات مكدسة من العقد الحسابية البسيطة المتصلة من أجل حساب الأنماط في البيانات.
الروابط هي المهمة فقبل تدريب الشبكة العصبية يتم تعيين هذه الاتصالات بقيم عشوائية بين 0 و 1 تمثل شدتها. (وتسمى هذه العملية “التهيئة”). أثناء التدريب حيث يتم تغذية الشبكة بسلسلة من الصور الحيوانية,نقوم بتعديل وضبط هذه الشدة. بعد التدريب يتم استخدام شدة الاتصال النهائي بشكل دائم للتعرف على الحيوانات في صور جديدة. ونقاط القوة في الاتصال العشوائي المعينة أثناء التهيئة ليست في الواقع عشوائية في نتائجها: فهي تهيئ أجزاء مختلفة من الشبكة للفشل أو النجاح قبل حدوث التدريب. بعبارة أخرى يؤثر التكوين الأولي على التكوين النهائي الذي ستصل إليه الشبكة.ويمكن بالفعل إعادة استخدام الشبكة الأصغر الناتجة للتدريب على البيانات الجديدة والحفاظ على الأداء العالي – طالما قمت بإعادة تعيين كل اتصال داخل هذه الشبكة المصغرة إلى قوتها الأولية.
فما هي حدود التدريب للتكوين الفائز؟ من المفترض أن أنواع مختلفة من البيانات ومهام التعلم العميق تتطلب تكوينات مختلفة. وما هي أصغر شبكة عصبية ممكنة يمكنك التخلص منها مع تحقيق أداء عالٍ؟ من خلال عملية التدريب والتشذيب التكراري يمكن تقليل شبكة البداية باستمرار إلى ما بين 10٪ و 20٪ من حجمها الأصلي أو الى اضغر من ذلك.إذن بمجرد العثور على تكوين فائز فإنه يحقق بالفعل أداء أفضل بكثير من الشبكة ذات الحجم الكبير الأصلية قبل أي تدريب على الإطلاق. وبعبارة أخرى فإن عملية تصغير شبكة لاستخراج التكوين الفائز هي في حد ذاتها طريقة مهمة للتدريب.
مستقبلاً سيتم تكوين قاعدة بيانات مفتوحة المصدر تضم جميع التكوينات المختلفة التي تم العثور عليها مع وصف للمهام التي تكون مفيدة لها. وهذا ما سيسرع أبحاث الذكاء الاصطناعى بشكل كبير وتضفي عليها الطابع الديمقراطي من خلال خفض تكلفة وسرعة التدريب ومن تم السماح للأشخاص الذين ليس لديهم خوادم بيانات عملاقة للقيام بهذا العمل مباشرة على أجهزة الكمبيوتر المحمولة الصغيرة أو حتى الهواتف المحمولة.
يمكن أن يغير هذا أيضا طبيعة تطبيقات الذكاء الاصطناعي. إذا كنت تستطيع تدريب شبكة عصبية محليًا على جهاز بدلاً من السحابة فيمكنك تحسين سرعة عملية التدريب وأمن البيانات. تخيل وجود جهاز طبي قائم على تعلم الآلة على سبيل المثال يمكن أن يحسن نفسه من خلال الاستخدام دون الحاجة إلى إرسال بيانات الى خوادم معينة.

المصدر : www.technologyreview.com

مواضيع ذات صلة
اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني.