في هذه المقالة ، سنتحدث عن أحدث حلول TCN المبتكرة. بادئ ذي بدء ، باستخدام مثال كاشف الحركة ، سننظر في بنية الشبكات التلافيفية الزمنية ومزاياها على الأساليب التقليدية مثل الشبكات العصبية التلافيفية (CNN) والشبكات العصبية المتكررة (RNN). نتحدث بعد ذلك عن الأمثلة الحديثة لتطبيقات TCN ، بما في ذلك التنبؤ بحركة المرور المحسّنة ومُحدد الصوت والكاشف والتنبؤ الاحتمالي.
لمحة موجزة عن TCN
كان العمل الأساسي لـ Lea et al. (2016) رائدًا في استخدام الشبكات التلافيفية الزمنية لتجزئة الإجراءات القائمة على الفيديو. عادة ، يتم تقسيم العملية إلى مرحلتين: أولاً ، حساب الميزات ذات المستوى المنخفض باستخدام (غالبًا) CNN ، والتي تقوم بترميز المعلومات المكانية والزمانية ، وثانيًا ، إدخال الميزات منخفضة المستوى في المصنف ، والذي يتلقى معلومات زمنية عالية المستوى باستخدام (غالبًا) ) RNN. العيب الرئيسي لهذا النهج هو الحاجة إلى نموذجين منفصلين. تقدم TCN نهجًا موحدًا لتغطية كلا المستويين من المعلومات بطريقة هرمية.
يوضح الشكل أدناه بنية وحدة فك التشفير ، ويمكن العثور على معلومات حول البنية في أول رابطين في نهاية المقالة. يتم حل الأسئلة الأكثر أهمية على النحو التالي: يمكن لـ TCN أخذ سلسلة من أي طول والحصول على نفس الطول في الإخراج. يتم استخدام الالتواء العرضي حيث توجد بنية شبكة تلافيفية كاملة أحادية البعد. السمة الرئيسية هي أن قيمة المخرجات في الوقت t تنهار فقط مع تلك العناصر التي حدثت في الوقت المناسب قبلها.
لقد ذهب الضجيج المحيط بـ TCN إلى أبعد من الطبيعة ، مع منشور حديث لـ Jan et al. (2020) حول استخدام TCN في التنبؤ بالطقس. أجرى المؤلفون في عملهم تجربة مقارنة بين TCN و LSTM. كانت إحدى النتائج هي الاستنتاج بأن TCN تقوم بعمل جيد في التنبؤ بالسلسلة الزمنية.
تعرض الأقسام التالية تنفيذ وتمديد TCN الكلاسيكي.
تنبؤ أفضل بحركة المرور
يمكن لخدمات مشاركة الركوب والملاحة عبر الإنترنت تحسين التنبؤ بحركة المرور وتحسين تجربة الطريق. إن الحد من الازدحام المروري ، وتقليل التلوث ، والقيادة بأمان وبسرعة ليست سوى عدد قليل من الأهداف التي يمكن تحقيقها من خلال تحسين التنبؤ بحركة المرور. نظرًا لأن هذه المشكلة تستند إلى بيانات الوقت الفعلي ، يجب استخدام بيانات حركة المرور المتراكمة. لهذا السبب ، قدم Dai et al. (2020) مؤخرًا شبكة تلافيفية للرسم البياني الزمني والمكاني (H-STGCN). الفكرة الأساسية هي الاستفادة من نسبة كثافة التدفق الخطي المنزلق متعدد التعريفات وتحويل حجم حركة المرور القادمة إلى ما يعادل وقت حركة المرور.أحد الأساليب الأكثر إثارة للاهتمام التي استخدموها في عملهم هو التفاف الرسم البياني للحصول على الاعتماد على الوقت. تعكس مصفوفة التقارب المركبة الخصائص الكامنة في تقريب حركة المرور (اقرأ مقالة Lee لعام 2017 لمزيد من المعلومات). توفر البنية التالية أربع وحدات لوصف عملية التنبؤ بأكملها.
توطين وكشف الأحداث الصوتية
يستمر مجال توطين الصوت واكتشافه (SELF) في النمو. في التنقل دون اتصال بالإنترنت ، يلعب فهم البيئة دورًا كبيرًا. اقترح Girjis et al. (2020) مؤخرًا بنية أحداث صوتية جديدة من نوع SELF-TCN. تدعي مجموعة من الباحثين أن إطار العمل الخاص بهم يتفوق على الحلول الحالية في هذا المجال ، مما يقلل من وقت التدريب. في شبكة SELDnet الخاصة بهم (الهندسة موضحة أدناه) ، يستخرج الصوت متعدد القنوات الذي تم أخذ عينات منه عند 44.1 كيلو هرتز الطور وحجم الطيف باستخدام تحويل فورييه قصير المدى ويستخرجهما كميزات إدخال منفصلة. ثم يتم توصيل الكتل التلافيفية والكتل المتكررة (وحدات GRU ثنائية الاتجاه) ، ثم تأتي كتلة متصلة بالكامل. عند الخروج من SELDnet ، يمكنك الكشف عن الأحداث الصوتية والاتجاه الذي جاء منه الصوت.
ومن أجل التفوق على الحل الحالي ، قدم المؤلفون SELD-TCN:
نظرًا لأن التلافيف الممتدة تسمح للشبكة بمعالجة المدخلات المختلفة ، فقد تكون هناك حاجة إلى شبكة أعمق (والتي ستتأثر بالتدرجات غير المستقرة أثناء الانتشار العكسي للأخطاء). تمكن مؤلفو الدراسة من حل هذه المشكلة عن طريق تكييف بنية WaveNet (Dario et al. ، 2017). لقد أظهروا أن الطبقات المتكررة ليست مطلوبة لمهام SELD ، وكانوا قادرين على تحديد أوقات البدء والنهاية لأحداث الصوت النشطة.
التنبؤ الاحتمالي
يمكن تطبيق إطار جديد تم تطويره بواسطة Chen et al. (2020) لتقدير كثافة الاحتمال. يحسن التنبؤ بالسلاسل الزمنية العديد من سيناريوهات قرارات الأعمال (على سبيل المثال ، إدارة الموارد). يسمح لك التنبؤ الاحتمالي باستخراج المعلومات من البيانات التاريخية وتقليل عدم اليقين في الأحداث المستقبلية. عندما تكون مهمة التنبؤ هي التنبؤ بالملايين من السلاسل الزمنية ذات الصلة (كما هو الحال في تجارة التجزئة) ، فإن الأمر يتطلب عمالة باهظة وموارد حوسبة لتقدير المعلمات. لحل هذه الصعوبات ، اقترح المؤلفون نظام تقدير الكثافة والتنبؤ المستند إلى CNN. يمكن أن يتعلم هيكلها العلاقة الخفية بين السلسلة. تكمن الحداثة العلمية في عملهم في TCN العميق المقترح والمتمثل في هندستهم:
يمكن أن يساعد تنفيذ وحدات مفكك التشفير في تطوير تطبيقات واسعة النطاق.
خاتمة
في هذا المقال ، استعرضنا أحدث الأعمال المتعلقة بالشبكات التلافيفية الزمنية ، والتي تتفوق بطريقة أو بأخرى على مناهج CNN و RNN الكلاسيكية في حل مشاكل السلاسل الزمنية.
المصادر
- ليا ، كولين ، وآخرون. "الشبكات التلافيفية المؤقتة: نهج موحد لتجزئة العمل". المؤتمر الأوروبي للرؤية الحاسوبية. سبرينغر ، شام ، 2016.
- ليا ، كولين ، وآخرون. "الشبكات التلافيفية المؤقتة لتجزئة العمل وكشفه". وقائع مؤتمر IEEE حول رؤية الكمبيوتر والتعرف على الأنماط. 2017.
- يان وجينينج وآخرون. "الشبكات التلافيفية المؤقتة للتنبؤ المسبق بـ enSo." التقارير العلمية 10.1 (2020): 1-15.
- Li, Yaguang, et al. “Diffusion convolutional recurrent neural network: Data-driven traffic forecasting.” arXiv preprint arXiv:1707.01926 (2017).
- Rethage, Dario, Jordi Pons, and Xavier Serra. “A wavenet for speech denoising.” 2018 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP). IEEE, 2018.
- Chen, Yitian, et al. “Probabilistic forecasting with temporal convolutional neural network.” Neurocomputing (2020).
- Guirguis, Karim, et al. “SELD-TCN: Sound Event Localization & Detection via Temporal Convolutional Networks.” arXiv preprint arXiv:2003.01609 (2020).
