قال ARK Invest في تحليل نشر في شهر ماي الماضي ، إن أنظمة الذكاء الاصطناعي (AI) أقل تكلفة للتدريب اليوم من أي وقت مضى. بينما يشير قانون مور إلى الاتجاه القائل بأن عدد الترانزستورات في دائرة متكاملة يتضاعف كل 1.5 عامًا ، يقول التحليل إن تكلفة تدريب الذكاء الاصطناعي تتحسن بمعدل 50 ضعف عن تكلفة قانون مور ، حسبما قال جيمس وانغ من ARK Invest ، مهندس سابق في NVIDIA. ووفقا لوانغ ، بعد خمس سنوات فقط من التطوير ، يبدو أن التعلم العميق قد وصل إلى نقطة تحول من حيث التكلفة والأداء ، مما يمهد الطريق لاعتماد واسع النطاق على مدى العقد المقبل.
ووجدت ARK في تقريرها أنه في حين تضاعفت موارد تكنولوجيا المعلومات التي تم إنفاقها على التدريب وفقًا لقانون مور من عام 1960 إلى عام 2010 ، فإن تعقيد حساب التدريب زاد 10 مرات عام منذ عام 2010. وفي الوقت نفسه ، انخفضت تكاليف التدريب عشر مرات في السنة على مدى السنوات الثلاث الماضية. في عام 2017 ، كانت تكلفة تدريب مصنف الصور مثل ResNet-50 على سحابة عامة حوالي 1000 دولار ، بينما في عام 2019 ، كانت حوالي 10 دولارات فقط.
وكتب وانغ : “نعتقد أنه كان هناك الكثير من الحوافز للشركات لزيادة موارد تكنولوجيا المعلومات بمعدل خمس مرات أسرع من قانون مور. نظرًا لأن شركات الإنترنت التي يطلق عليها اسم “hyperscale” استحوذت على زمام الجامعات وشكلت شبكات تعلم عميقة بشأن بياناتها ، فقد خصصت ميزانية لمئات الملايين من الدولارات لأجهزة الذكاء الاصطناعي ، على أمل ارتفاع معدلات العائد على الاستثمار بمرور الوقت .
يبدو أن نتائج ARK Invest تتطابق مع نتائج تقرير OpenAI الأخير ، والذي يشير إلى أنه منذ عام 2012 ، كان مقدار الحساب المطلوب لتدريب نموذج AI بنفس أداء تصنيف الصور في ImageNet انخفض بمعامل 2 كل 16 شهرًا. وفقًا لـ OpenAI ، تجاوزت Transformer – بنية الشبكة العصبية من Google لفهم اللغة – نموذجًا متطورًا سابقًا مع حسابات أقل بـ 61 مرة بعد ثلاث سنوات من إدخال seq2seq. وتطلب AlphaZero من DeepMind ، وهو نظام تعلم إتقان الشطرنج من تلقاء نفسه ، حسابًا أقل بثماني مرات لمطابقة نسخة محسنة من سلف النظام – AlphaGoZero – بعد ذلك بعام.
وتوقع ARK أنه عند معدل التحسين الحالي ، يجب أن تنخفض تكلفة تدريب ResNet-50 إلى 1 دولار. ويتنبأ بأن سعر الاستدلال – استخدام نموذج مدرب في الإنتاج – سينخفض بالتوازي هذا العام إلى حوالي 0.03 دولار لاستخدام نموذج قادر على تصنيف مليار صورة. في عام 2017 ، كان سيكلف 10000 دولار.
المصدر : هنا
