شبكات المحولات المكانية في MATLAB

ستثير هذه المقالة موضوع بناء طبقات مخصصة من الشبكات العصبية ، باستخدام التمايز التلقائي والعمل مع طبقات التعلم العميق القياسية للشبكات العصبية في MATLAB بناءً على مصنف باستخدام شبكة تحويل مكاني.





تعد شبكة المحولات المكانية (STN) أحد الأمثلة على وحدات LEGO القابلة للتفاضل والتي يمكنك استخدامها لبناء شبكتك العصبية وتحسينها. STN ، تطبيق تحويل أفيني قابل للتدريب مع الاستيفاء اللاحق ، يحرم صور الثبات المكاني. بشكل تقريبي ، تتمثل مهمة STN في تدوير الصورة الأصلية أو تصغيرها / تكبيرها بحيث يمكن لشبكة المصنف الرئيسية تحديد الكائن المطلوب بسهولة أكبر. يمكن وضع كتلة STN في شبكة عصبية تلافيفية (CNN) ، والعمل فيها بشكل مستقل في الغالب ، والتعلم عن التدرجات القادمة من الشبكة الرئيسية (لمزيد من التفاصيل حول هذا الموضوع ، راجع الروابط: Habr  و Manual ).





في حالتنا ، تتمثل المهمة في تصنيف 99 فئة من الزجاج الأمامي للسيارات ، ولكن ، أولاً ، لنبدأ بشيء أبسط. من أجل التعرف على هذا الموضوع ، سنأخذ قاعدة بيانات MNIST من أرقام مكتوبة بخط اليد ونبني شبكة من طبقات MATLAB العصبية للتعلم العميق وطبقة تحويل صورة مخصصة (يمكنك مشاهدة قائمة بجميع الطبقات المتاحة ووظائفها هنا ).





لتنفيذ طبقة تحويل مخصصة ، سنستخدم قالب طبقة مخصص وقدرة MATLAB على التفريق التلقائي وبناء الانتشار الخلفي لمشتق الخطأ ، والذي يتم تنفيذه باستخدام مصفوفات التعلم العميق لحلقات التدريب المخصصة - dlarray (يمكنك التعرف على القالب عن طريق الرابط  ، يمكنك التعرف على هياكل dlarray لل ارتباط ).





من أجل تنفيذ إمكانيات dlarray ، نحتاج إلى تسجيل التحويل الأفيني للصورة يدويًا ، نظرًا لأن وظائف MATLAB التي تنفذ هذه الميزة لا تدعم هياكل dlarray. فيما يلي وظيفة التحويل التي كتبناها ، المشروع بأكمله متاح هنا .





, , . , . , , - - .  





, . Y, . (, ), . .





Y

































, , STN. MNIST.





هيكل الشبكة.
.
نتائج التعلم.
.

, , , , , .





, MNIST, .





— , — , — RGB, , , . . , , , , 2, , 0, , , . , , STN  , , , . , . STN - , , dropout  STN.





, , [0;255], [0;1], — . .





بيانات إدخال الشبكة مع الأرقام.
.
البيانات عند مدخل الشبكة بالنظارات.
.

, 255 0.3 0.75, . , .





طبقة التطبيع للداخل والخارج.
.

, , , , [-10;10] [-50; 50]. MATLAB, dlarray . .





.





هيكل الشبكة.
.
نتائج التعلم.
.

, , , , 90. , , , , , . , , , , .





, STN, . .





نتائج التعلم.
.

, .





, , STN  .








All Articles