ما هو الذكاء الاصطناعي المفقود؟

هذا سؤال لاحق ، حاولت فيه صياغة المشاكل الرئيسية للشبكات العصبية ، والتي يمكن أن يؤدي حلها إلى اختراق في تكنولوجيا الذكاء الاصطناعي. بشكل أساسي ، نحن نتحدث عن الشبكات التي تعمل مع النص (GPT ، BERT ، ELMO ، إلخ). كما تعلم ، فإن الصياغة الجيدة للمشكلة هي نصف حلها. لكنني لا أستطيع أن أجد هذه الحلول. آمل أن أحصل على "مساعدة الجمهور" ، حيث أن هناك العديد ممن يواجهون نفس المشاكل وربما "يرون" حلهم.



وبالتالي.



1. الأكثر بساطة على ما يبدو ، ولكن الشبكة العصبية لا تأخذ في الاعتبار الحقائق. تتعلم الشبكة العصبية من حقائق معينة ، ولكن لا يبدو أنها تعلم عنها. في اللغة المعرفية ، تمتلك NN ذاكرة دلالية ، وليست عرضية ، تقريبًا.

قد يكون الحل بسيطًا ، لكن الشبكة العصبية عبارة عن مصنف ، ولا يمكن أن تكون السوابق فئات ، وهذا تناقض. وغالبًا ما تكون هناك حاجة إلى مثل هذه الاستجابة من الروبوتات ، فهي تعمل بشكل سيء للغاية مع الحقائق ، إذا لم نتحدث عن نموذج "الاستجابة". تتفاقم المشكلة بسبب حقيقة أن هناك دائمًا استثناءات لا يمكن للشبكة أخذها في الاعتبار إذا لم يكن لديها أمثلة استثناءات كافية. وإذا كانت هناك أمثلة كافية ، فهذا ليس استثناء. بشكل عام ، يمكن لـ NN أن يقول أن هذه قبعة ، لكنه لا يستطيع تحديد أي قبعة هي لي (كان هناك مثال واحد فقط).



2. "الفطرة السليمة". هناك مشكلة معروفة تسمى "المادة المظلمة بالذكاء الاصطناعي". هناك طرق مثيرة للاهتمام للحل ، على سبيل المثال ، في هذه المقالة، الذي يصف محاولة الجمع بين أساليب الذكاء الاصطناعي والشبكات العصبية الرمزية (المنطقية). لكن هذه محاولة للتراجع بدلاً من الأمام. تكمن المشكلة في أن "الفطرة السليمة" هي معرفة ضمنية عن العالم ، والتي لم تكن موجودة في مجموعة بيانات التدريب. لا أحد حتى يلفظ مثل هذه التفاهات ، يتم التعرف عليها في سن 4-6 سنوات ، عندما لا يزالون غير قادرين على الكتابة. تظهر الإخفاقات العالية لمشروعي Kompreno و Cyc أنه من المستحيل وصف جميع الحقائق بوضوح. يتم عرضها بطريقة ما على الطاير. لا توجد أفكار جيدة لحل حتى الآن ، باستثناء محدودية المفردات. على سبيل المثال ، يجب على "تلميذ المدرسة" أن "يوجه" مثل هذه "المرشحات" إلى مفردات الإجابة بحيث لا تحتوي الخيارات المختارة على كلمة "جيش" أو "زواج" إذا كان الأمر يتعلق بنفسه ، وليس عن حضور أخيه الأكبر في حفل الزفاف. كيفية القيام بذلك في NN ليست واضحة (بالنسبة لي).



3.هناك مشكلة لا تقل أهمية ، وربما تتعلق بالمشكلة السابقة ، وهي مشكلة بناء التفكير. لا تعرف الشبكات العصبية كيفية صنع القياس المنطقي ، أي أبسط الاستنتاجات مع التفكير المتسق (الاستنتاجات الوسيطة). نفس المشكلة ، من ناحية أخرى ، هي عدم القدرة على متابعة هدف التفكير أو على الأقل التمسك بمعنى معين. يمكن لـ GPT إنشاء نص إخباري حول موضوع معين ، ولكن من غير المجدي أن تقول ، "اكتب أخبارًا لتشويه سمعة X". في أفضل الأحوال ، ستكتب عن تشويه سمعة الآخرين ، وبين السطور بشكل صريح ، وليس مثلنا نحن البشر. إن استنتاج القياس المنطقي هو أيضًا هدف - من الضروري ربط المبنى بالنتيجة. ضع ذلك في الاعتبار عند النطق الأول (المقدمة). ليس من الواضح حتى "من أي جانب" ينبغي وضع هذا في الشبكة. ربما شخص ما يعرف؟



4.ومشكلة أخرى ، وهي ليست مادة مظلمة ، بل ثقب أسود يعمل بنظام الذكاء الاصطناعي. هذه تشبيهات واستعارات. لا يفهم الذكاء الاصطناعي كل شيء إلا حرفياً. من غير المجدي لها أن تقول "مثل X". يمكن للشبكة أن تضيف إلى الوصف ، لكنها لا تصف التناظرية. ربما هي مجرد مشكلة في مجموعة البيانات المقابلة. ولكن يبدو لي أنه أعمق ويظهر "الخلل" الجذري لبنيات الذكاء الاصطناعي الحالية بالإضافة إلى العنصر 3. لغتنا مجازية بالكامل ، ومن هنا تنبت "لعنة اللغويين" - التجانس من هنا. يتم استخدام نفس المعاجم من خلال الاستعارات في مجموعة من "المفاهيم" المختلفة. ويمكننا التنقل بسهولة في هذا. يتم حل هذا جزئيًا في مهمة تحديد النوايا ، ولكن هذا مرة أخرى هو تعريف "السمة" ، وليس المفهوم بالكامل ، والذي لا يتكون فقط من اسم النية وقوالب الاستجابة المرتبطة بها كما في برامج الروبوت.



حتى الآن ، ستكون هذه الأربعة كافية للمناقشة ، على سبيل المثال ، هناك مشاكل أكثر تحديدًا ، ولكنها ليست أقل أهمية في بناء الروبوتات. يكفي التحدث مع أليس وتصبح واضحة بشكل حدسي. لكن مع صياغتها ، كل شيء ليس بهذه البساطة - لتخمين المشكلة التي يجب تخمينها وكيفية حلها. هذا أصعب. شكرا على التعليقات البناءة على الموضوع.