تبديد الخرافات حول التعلم العميق - كيف تتعلم الشبكات العصبية؟

عشية بدء دورة "التعلم العميق". Basic " أعدت لك ترجمة لمواد شيقة.








لقد ساهم التعلم العميق بشكل كبير في التقدم والازدهار في الذكاء الاصطناعي الذي نراه في جميع أنحاء العالم اليوم. المهام التي يتعامل معها الذكاء الاصطناعي الآن ، مثل تصنيف النصوص والصور ، وتجزئة الأمثلة ، والإجابة على الأسئلة بناءً على البيانات النصية ، وفهم القراءة ، وأكثر من ذلك ، كانت عبارة عن خيال علمي في الماضي ، ولكنها أصبحت الآن أكثر فائدة ويتم تقليدها بشكل متزايد. الإنسان بسبب استخدام الشبكات العصبية العميقة.



كيف تتعامل الشبكات العصبية مع هذه المهام المعقدة؟ ماذا يحدث تحت الطبقات اللامتناهية من أجزاء العمليات الحسابية التي تملأ هذه الشبكات؟





شبكة عصبية بسيطة



دعنا نحفر أعمق قليلاً ونفهم من الناحية المفاهيمية أساسيات الشبكات العصبية العميقة.



أولاً ، دعنا نتحدث عن الخوارزمية المستخدمة من قبل معظم (إن لم يكن كل) الشبكات العصبية للتعلم من بيانات التدريب. بيانات التدريب ليست أكثر من بيانات بشرح توضيحي ، أي الصور ذات العلامات في حالة تصنيف الصور ، أو المشاعر المميزة في تحليل المشاعر



وتسمى خوارزمية الخطأ backpropagation.

فيما يلي لمحة موجزة عن بنية الشبكات العصبية:



تقوم الشبكات العصبية بتحويل بيانات الإدخال إلى مخرجات بطريقة معينة. يمكن أن تكون بيانات الإدخال عبارة عن صور أو أجزاء نصية وما إلى ذلك. يتم تحويل بيانات الإدخال إلى تمثيلها العددي: على سبيل المثال ، في الصور ، يتم ترميز كل بكسل بقيمة عددية اعتمادًا على موضعه ، وفي النص ، كل كلمة عبارة عن متجه للأرقام ، وهو تمثيل متجه للكلمة (في مثل هذا المتجه ، كل رقم هو تقدير لخاصية معينة لكلمة) أو متجه أحادي البعد (متجه ذو أبعاد n يتكون من n-1 أصفار وواحد ، حيث يشير موضع واحد إلى الكلمة المحددة).



يتم بعد ذلك تمرير هذا الإدخال الرقمي عبر شبكة عصبية (باستخدام تقنية تعرف باسم backpropagation للخطأ) ، والتي تحت الغطاء لها عدة خطوات للضرب بالأوزان في الشبكة ، وإضافة تعويضات ، والمرور عبر وظيفة تنشيط غير خطية. يتم تنفيذ خطوة الانتشار الأمامي هذه لكل إدخال في بيانات التدريب المسمى ، ويتم حساب دقة الشبكة باستخدام وظيفة تُعرف باسم دالة الخسارة أو دالة التكلفة. الهدف من الشبكة هو تقليل وظيفة الخسارة ، أي زيادة دقتها. في البداية ، تبدأ الشبكة في العمل بقيمة عشوائية للمعلمات (الأوزان والتحيزات) ، ثم تزيد تدريجيًا من دقتها وتقليل الخسائر ، وتستمر في تحسين هذه المعلمات في كل تكرار عن طريق الانتشار المباشر على بيانات التدريب.يتم تحديد تحديث الأوزان والتحيزات (المقدار والاتجاه الموجب أو السلبي) بواسطة خوارزمية الانتشار الخلفي. دعونا نلقي نظرة على خوارزمية backpropagation ونفهم كيف تساعد الشبكات العصبية على "التعلم" وتقليل فقدان بيانات التدريب.





الانتشار الأمامي في شبكة عصبية عميقة



يتمثل جوهر الخطأ العكسي في معرفة كيفية تغيير كل معلمة من أجل ملاءمة بيانات التدريب بشكل أفضل (أي تقليل الخسائر وزيادة دقة التنبؤ). طريقة تحديد هذه القيم بسيطة للغاية:





في الصورة أعلاه ، يعتبر المحور Y دالة خسارة ، والمحور X هو بعض المعلمات (الوزن) في الشبكة. يجب تخفيض القيمة الأولية للوزن للوصول إلى الحد الأدنى المحلي. لكن كيف تفهم الشبكة أن الوزن يحتاج إلى التخفيض من أجل القيام بذلك؟ ستعتمد الشبكة على منحدر الوظيفة عند نقطة البداية.



كيف تحصل على المنحدر؟ إذا كنت قد درست الرياضيات ، فأنت تعلم أن ميل الدالة عند نقطة ما يتم الحصول عليه من مشتقها. هاهو! الآن يمكننا حساب الميل ، وبالتالي اتجاه التغير (موجبًا أو سالبًا) للوزن. يتم تحديث قيمة الوزن بشكل متكرر وينتهي بنا الأمر مع الحد الأدنى.



تنشأ الصعوبة عندما لا تكون الأوزان مرتبطة مباشرة بوظيفة الخسارة ، كما هو الحال مع الشبكات العصبية العميقة. هذا هو المكان الذي تأتي فيه قاعدة السلسلة المألوفة.





على سبيل المثال، في الشكل أعلاه يبين أن النتيجة Y لا تعتمد مباشرة على قيمة المدخلات X ، ولكن X يمر عبر F ، ومن ثم من خلال G قبل لإعطاء قيمة الناتج Y . باستخدام قاعدة السلسلة ، يمكنك كتابة مشتق G بالنسبة إلى X ، مما يشير إلى اعتماد G على F ، حيث يعتمد F على X... يمكن تطبيق هذه القاعدة على الشبكات من أي طول مع المشتق الناتج ، وبالتالي الميل لأي قيمة مخرجات فيما يتعلق بالمدخلات ، التي تم الحصول عليها كمنتج مشتقات جميع الخطوات التي تمر من خلالها قيمة الإدخال. هذا هو جوهر الانتشار العكسي للخطأ ، حيث يتم الحصول على مشتق / ميل قيمة المخرجات فيما يتعلق بكل معلمة بضرب المشتقات أثناء المرور العكسي عبر الشبكة حتى يتم العثور على المشتق المباشر للمعامل ، وهذا هو السبب في أن الطريقة تسمى backpropagation.



هذا كل شئ. لمعرفة المزيد حول الدورة ، ندعوك للتسجيل في اليوم المفتوح على الرابط أدناه:






All Articles