تكريما ليوم المبرمج ، قررنا الاسترخاء قليلاً وإعادة قراءة القصص المفضلة لإيزاك أسيموف. ثم انتظرنا اكتشاف: اتضح أن كاتب الخيال العلمي منذ أكثر من نصف قرن وصف العديد من حقائق التطور الحديث بدقة كافية. كيف هذا ممكن ، تسأل؟ دعونا نفهمها معًا.
من بين العديد من قصص كاتب الخيال العلمي الشهير ، المسلسل الذي تدور أحداثه حول شركة “Yu. S. Robots "وموظفيها. تحكي العديد من القصص عن الحياة اليومية للمختبرين باول ودونوفان - نوع من مختبري الروبوتات ، وآخرون - عن عالم النفس الآلي الرئيسي ، الدكتور كالفن. إن نطاق المشكلات التي يواجهونها واسع ومألوف للعديد من زملائهم المعاصرين حتى يومنا هذا.
واحدة من هذه المشاكل الشائعة هي بيان العمل الذي تمت صياغته بشكل غير دقيق في مهمة. لقد تناول أزيموف هذا الموضوع أكثر من مرة ، وهذا ليس مفاجئًا - فروبوتاته أكثر ذكاءً و "أكثر إنسانية" من الآلات الحديثة ، والأشخاص الذين يعملون معهم ينسون بسهولة أن الروبوت يفكر بشكل مختلف. نتيجة لذلك ، يمكن أن تتحول صياغة الإهمال للمشكلة إلى كارثة ، كما حدث في قصة "Round Dance" .
وقد بدأ كل شيء ، كما بدا للمختبرين ، جيدًا. لترتيب قاعدة مهجورة على عطارد ، كل ما يتطلبه الأمر هو كيلوغرام من السيلينيوم لإصلاح الخلايا الضوئية. وستكون هناك كهرباء ، ومعها - تبريد القاعدة ، والتي بدونها لا توجد وسيلة للبقاء على قيد الحياة على عطارد. سيلينا مليئة بالحي ، بحيرات كاملة ... فقط الروبوت المرسل إلى أقرب واحد هو مجنون ويعمل في دوائر ، أسوأ من ذلك - إنه هذيان مخمور ، على الرغم من أن الروبوتات لا تشرب. أثناء الرحلة بالخارج مع خطر القلي ، يكتشف الأبطال أن الروبوت قد عثر على ظروف خطرة لنفسه في طريقه إلى البحيرة. لكن هناك أمر مباشر ، ما الأمر؟
- قلت ... انتظر ... قلت: "السرعة ، نحتاج إلى السيلينيوم. سوف تجده هناك وهناك. اذهب واحصل عليه. " هذا كل شئ. ماذا كان علي أن أقول؟
- ألم تقل أنه مهم جدا وعاجل؟
- لاجل ماذا؟ الأمر بسيط.
أدت هذه "البساطة" إلى معضلة في برنامج الروبوت: كانت أولوية المهمة "غير المهمة" أقل من الشعور بالحفاظ على الذات (القانون الثالث ، الذي ينص على تجنب الضرر). ونتيجة لذلك ، أصبح الروبوت يركز على الاختيار ، للوفاء بالأمر أو البقاء على قيد الحياة ، وكان على المختبرين المحتملين تصحيح خطأهم من خلال اتخاذ إجراءات محفوفة بالمخاطر - التحول إلى القانون الأول ، الذي له الأولوية القصوى. ببساطة ، وضع نفسه في خطر وإجبار الروبوت على تأجيل المهام الأخرى والاندفاع لإنقاذ المالكين. بعد هذه التجربة ، تعامل المختبرين مع الاختصاصات بشكل أكثر تفكيرًا - وسار كل شيء كالساعة:
- أرسلته إلى بحيرة سيلينيوم أخرى - هذه المرة بأمر للحصول على السيلينيوم بأي ثمن. لقد أحضره خلال اثنين وأربعين دقيقة وثلاث ثوانٍ - قمت بضبطه.
بعد عطارد ، يبدو أن المهمة الجديدة للأبطال ليست خطيرة جدًا (في محطة ما بين الكواكب ، حيث تدور قصة "المنطق" ، يكون الأمر أكثر برودة ، فقط "مائتان وثلاث وسبعون درجة تحت الصفر") ، لكن سيتعين عليهم مواجهة مشكلة لا يمكن للمطورين رؤيتها إلا في كوابيس. على الأقل لم يخبر أي برنامج مبدعيه أن مثل هذه الكائنات الناقصة لا تستطيع كتابته.
ومع ذلك ، فإن روبوت Cutie ، وهو تطور جديد لخدمة محول الطاقة ، لم يؤمن بمشاركة الناس في إنشائه. حسنًا ، حقًا ، كيف يمكن لهذه المخلوقات الضعيفة أن تخلق شيئًا أكثر كمالًا من نفسها؟ هذا غير منطقي. لديه نسخة أكثر منطقية:
- خلق السيد الناس أولاً - الأنواع الأكثر تعقيدًا ، والتي هي أسهل في الإنتاج. تدريجيا ، استبدلهم بالروبوتات. كانت خطوة إلى الأمام. أخيرًا ، خلقني لأحل محل بقية الناس. من الآن فصاعدا أخدم الرب!
يحاول الأبطال إقناع الروبوت ، من خلال جذب الكتب والحقائق (كما يعتقدون) ، وإثبات وجود الأرض. حتى تجميع روبوت جديد في وجود Cutie لا يعمل - لم يكونوا مقتنعين. ربما يكون هذا بسبب عدم وجود افتراضات حول أصله وأهدافه المختبرة في الدماغ البوزيتروني. يسهل تفسير هذا الخطأ المعماري - بالكاد توقع المطورون أن يشك الروبوت في حجج الناس. لكن الخلل ، الذي لم يلعب دورًا في الأجيال السابقة من المنتج ، في الجيل الجديد أدى إلى إنشاء سلسلة مختلفة من المسلمات في دماغ الآلة:
وافق باول بحزن: "أنا لا أصدق ذلك". - هذا روبوت عقلاني ، اللعنة! إنه يؤمن بالمنطق فقط ، وهذا هو بيت القصيد ...
- ماذا؟
- يمكن للتفكير المنطقي الصارم أن يثبت أي شيء تريده - اعتمادًا على الافتراضات الأولية المقبولة. لدينا منهم ، وكتي لديها راتبها.
ومع ذلك ، على الرغم من حقيقة أن الروبوت يدرك مهمته من خلال متغيرات أخرى ، فإنه يؤدي وظائفه بالكامل. إنه يفعل ذلك فقط ليس لأن الناس أمروه به ، ولكن لأن هذه هي إرادة الرب.
ويواجه الناس معضلة كلاسيكية: هل يستحق إصلاح شيء ما إذا نجح؟ لذلك توصل الأبطال ، عند التفكير ، إلى الاستنتاج - لا يستحق ذلك:
– , - . , .
– ?
– ! , ?
– ?
– , …
– !
القصة الثالثة حول المختبرين - "اصطياد الأرنب" - تبين جيدًا ما يحدث عندما لا يتم اختبار الضغط على المنتج قبل طرحه. تصف القصة التجارب الميدانية لعامل منجم الروبوت الخاص بـ Dave ، بتصميم جديد - تصميم مركب (يتحكم قائد روبوت واحد في ستة روبوتات أخرى ، مثل اليد والأصابع). ولكن بمجرد ترك الروبوت دون مراقبة ، فإنه يتوقف عن العمل. علاوة على ذلك ، بدأ في السير مع الفريق بأكمله - وهو نشاط مشبوه للغاية بالنسبة لعامل منجم.
أفضل وصف لمشكلة المختبرين هو اقتباس من القصة نفسها:
– . – ! – . – : . : «. . » , . : . : , «. . » . : , , .
تحت التهديد بفقدان وظيفة جيدة ، فإن المختبِر قادر على القيام بأشياء كثيرة - حقيقة. ذهب أبطال القصة ورفضوا العديد من خيارات التحقق - من اختبار الوحدة في الموقع (يمكن فصلها واختبارها بشكل منفصل ، ولكن هناك 10 أيام فقط وليس من المعروف بعد ما إذا كان هذا سيعطي أي شيء) إلى بيئة اختبار خاصة (والتي هو ، ولكن على الأرض البعيدة ويزن 10 أطنان). ماذا تبقى؟ قم بمحاكاة الظروف التي يظهر فيها الخطأ ، وابحث عن السبب. هذا ، للأسف ، هو نصيب العديد من المختبرين الحديثين. صحيح أنهم كانوا أكثر حظًا - على عكس أبطال القصة ، لا يضطر المتخصصون اليوم على الأقل إلى تفجير المنجم معهم عن عمد. لكن تحت أنقاض الحجارة ، يفكر الشخص بشكل أكثر كفاءة ، ومن الجيد ألا يتبنى المطورون هذه التقنية بعد.
لم يساعد الحادث المعبأ في التسبب في الخلل فحسب ، بل ساعد أيضًا في تخمين سببها ، وحتى بطريقة متطرفة - عن طريق تفجير أحد "أصابع" الروبوت - لتقليل الحمل والقضاء على المشكلة:
- هذا ما أتحدث عنه. تم إرسال الأوامر في وقت واحد على ست قنوات! في ظل الظروف العادية ، يقوم "إصبع" واحد أو أكثر بعمل بسيط لا يتطلب مراقبة دقيقة. حسنًا ، تمامًا مثل حركات المشي المعتادة. وفي الظروف القصوى ، يجب وضع الستة جميعًا موضع التنفيذ على الفور وفي وقت واحد. وهنا يستسلم شيء ما. الباقي بسيط. أي نقص في المبادرة المطلوبة منه ، على سبيل المثال ، ظهور الإنسان ، يجلبه إلى نفسه. لقد دمرت أحد الروبوتات ، وكان على ديف أن يقود خمسة فقط ، وتضاءلت المبادرة وأصبح طبيعيًا!
ومع ذلك ، ليس المختبرين فقط - "المختبرين" هم من ينجزون المهام الصعبة في قصص أزيموف. في قصة "How the Robot Got Lost" ، يتعين على كبيرة علماء النفس الآليين سوزان كالفن أن تبحث ليس عن عطل ، ولكن عن الروبوت بأكمله. لا ، لم يختف دون أثر - اختبأ بين آخرين مثله وتظاهر بأنه واحد منهم. فقط من أصل 63 روبوتًا ، 62 منهم يقولون الحقيقة ، وواحد يكذب ، وهذا خطأ خطير.
تم العثور على سبب الفشل بسرعة: قام العميل بإجراء تغييرات على برنامج الروبوت. وليس في مكان ما هناك ، ولكن في الجزء الرئيسي منه - في صياغة القانون الأول. لم يعد الروبوت الجديد ملزمًا بحماية الإنسان (حتى لا يصعد إلى أشعة غاما للعلماء ويفسد). ولكن ، كما هو الحال غالبًا في الحياة الواقعية ، فإن مثل هذه التغييرات غير المتسقة ، التي تتم بدون علم الخبير الرائد ، تنطوي على عواقب وخيمة. في هذه الحالة ، انتهك التدخل المنطق الواضح للقوانين ، وأصبح النظام الذي تم تصحيحه مرة واحدة غير مستقر. لذا فإن الترتيب العاطفي "اذهب بعيدًا ولا تظهر نفسك حتى لا أراك مرة أخرى" يعطي الروبوت ثغرة ، فهو يطيع - ويفعل كل شيء لتنفيذ الأمر.
علينا تطوير سلسلة من الاختبارات للالتزام بالقانون الأول وإنشاء مصيدة بناءً على خطأ آخر في التغييرات في برنامج الروبوت - إحساس بالتفوق ليس من سمات الآلات العادية:
– . , -, . , . -10 . , . - , -2 , . , . , . , , , , , -10 , . - , , … .
يجبر الأبطال على البحث عن الخلل في قصة "الخطر" . تخضع السفينة ذات المحرك الفائق للتحقق ، والتي لسبب ما لم تقفز أثناء الاختبار. بالنسبة للبشر ، مثل هذه القفزات خطيرة ، لذلك تم قيادة السفينة بواسطة روبوت. الآن يجب عليك إرسال شخص ما إلى السفينة لمعرفة سبب الفشل.
أثارت هذه القصة العديد من قضايا البرمجة. أولاً ، الاختبار - آلي (في هذه الحالة - بواسطة روبوت) أو يدوي (عالم). للوهلة الأولى ، يبدو أن الروبوت هو الخيار الأنسب - فالآلة أسرع وأكثر موثوقية من الإنسان المتخصص. لكن عالم النفس الآلي يصر على إجراء فحص بشري. وأوضحت موقفها فيما بعد على النحو التالي:
– , , . : . , , . . . , , .
, , . , . , . , , , , ? « » – , . , , .
جزئيًا ، لا تزال هذه المبادئ ذات صلة اليوم - على الرغم من استخدام الاختبار الآلي على نطاق أوسع وله العديد من المزايا ، في بعض الحالات ، لا يزال الاختبار اليدوي منطقيًا ويسمح لك بتحديد المشكلات التي يصعب العثور عليها باستخدام الآلات ، نظرًا لخصوصيتها. في القصة ، يستحيل على الروبوت إعداد سيناريو كامل للعثور على خطأ ، حيث لا يوجد فهم لما يمكن أن يحدث بالضبط على السفينة ، ولن يلاحظ ببساطة أي مشاكل محتملة غير معلومة. لكن يمكن لأي شخص توجيه نفسه بالفعل على الفور ، بناءً على ما رآه والاعتماد على استنتاجاته الخاصة.
ثانيًا ، تثير القصة مرة أخرى مسألة الاختصاصات الصحيحة. كان فيه سبب الخطأ - تم تسجيل خوارزمية بدء تشغيل المحرك للروبوت دون مراعاة اختلافاته عن الشخص. نتيجة لذلك ، باتباع أمر تمت صياغته بشكل غير صحيح ، تجاوزه - وكسر الزناد:
– , . , «. . » . , . ! , , . . : , .
– …
– , , . , . , …
هناك العديد من القصص المتشابهة ، التي يبدو أنها عفا عليها الزمن جزئيًا ، ولكنها تتنبأ بأحداث المستقبل من نواحٍ عديدة ، سواء في أسيموف وغيره من الكتاب. إنه لأمر مؤسف أننا ما زلنا لا نملك مثل هذه الروبوتات عالية التطور ، والمشاكل والمواعيد النهائية معنا دائمًا ، لاحظ كاتب الخيال العلمي العظيم هذا بشكل صحيح.