إذا لم تكن قد قرأته ، فاقرأه. النهاية تثير مشاعر قوية حقًا. بالنسبة لي ، لقد تفاقمت بسبب حقيقة أنني منخرط بشكل احترافي نسبيًا في الذكاء الاصطناعي وتوليد النصوص ومشكلة المعاني - لذلك اعتقدت بشكل معقول أنه يمكنني التعرف بسهولة على النص الناتج عن آلة ...
نعم ، نعم ، اشتريته. نص مقال "GPT-3 من OpenAI يمكن أن يكون أعظم شيء منذ أن تم إنشاء Bitcoin (ربما) بواسطة AI ، لكنني لم أره ، على الرغم من أنني ، بشكل عام ، أفعل ذلك بشكل احترافي وأعرف التقنيات الأساسية المستخدمة في الجهاز توليد النص.
بعد أن نمت أول صدمة لي ، أود أن أشارككم عددًا من الاعتبارات.
هذا ليس نصًا آليًا ، ولكنه نص معالج بواسطة الإنسان
ربما كان رد الفعل الأول على النص هو الإنكار ، وعدم الرغبة في قبول أن هذا النص من صنع آلة. بدأ عقلي بوتيرة محمومة لإيجاد حجة مناسبة لهذا. بشكل عام ، أنا أعتبرهم ضعفاء نوعًا ما ، لكني ما زلت أريد الاستشهاد بهم:
- لا يُعرف عدد بالمائة من النص وكيف قام المؤلف بتحريره . هناك أمثلة على نص يبدو أنه تم إنشاؤه بواسطة آلة ، ولكن تم تصحيحه بواسطة شخص - على سبيل المثال ، كانت هناك قصة حول سيناريو فيلم / كتاب تم إنشاؤه بواسطة الذكاء الاصطناعي. كانت الدقة دائمًا في التفاصيل - إذا قرأت المراجعة ، فدائمًا ما يقال شيئًا ما بروح أن الذكاء الاصطناعي جعل بداية القصة ، ثم قامت مجموعة من الكتاب بإنهائها . لطالما عزت جودة النتيجة إلى حقيقة أن الكتاب جلبوا ببساطة إحساسًا خاصًا بهم في اللمسات الأخيرة ، لأنه في اللوحات التجريدية ، برغبة قوية ، يمكنك العثور على شيء ما . ربما لا تعمل هذه الحجة هنا ، لأنه ، وفقًا لتأكيدات المؤلف ، قام فقط بتصحيح تنسيق النص.
- . , , . , « ?» . , , .
- . , , . GPT-2, , - . - , , , . , «» GPT-3 , …
ومع ذلك ، أنا على استعداد أيضًا للاعتراف بأن هذه الحجج ضعيفة نوعًا ما ، ويمكن للآلة الآن بالفعل إنشاء نصوص إخبارية طويلة نسبيًا مماثلة للنصوص البشرية.
وضعت كوب الشاي جانبًا وفكرت ، "ماذا يعني هذا؟ ما الدرس الذي يمكنني تعلمه من هذه القصة؟ هل يمكنني الآن تقديم بعض النصائح على الأقل حول القدرة على التمييز بين النصوص الجيدة والسيئة أو التي لا معنى لها؟ "
معهد السمعة وتدقيق الحقائق
بالعودة إلى المشاعر التي نشأت أثناء عملية القراءة ، تذكرت أن جزء المقال الذي بدأت بعده "أؤمن" بما كان يحدث كان وصفًا للتجربة في منتدى bitcointalk. لم تزعجني بداية المقال - فهي مكرسة للحقائق حول إنشاء GPT-3 ، وأنا معتاد بالفعل على حقيقة أن هذه الحقائق لا تقول أي شيء عن المؤلف أو فهمه للموضوع ، حيث يمكن استعارةها من أي مكان.
لكن وصف التجربة كان مثيرًا للاهتمام. في الواقع ، تم إنشاء "محتوى" المقالة - قواعد النشر ، ورد فعل الأشخاص الآخرين من المنتدى ...
ونتيجة لذلك ، نفهم أنه لم تكن هناك تجربة.
قادني هذا إلى أفكار مثيرة للاهتمام. لقد كتبت منذ وقت طويل عن نمذجة دورات الأعمال بناءً على نمو الثقة... خلاصة القول هي أن النمو يحدث فقط طالما تم الوفاء بالتزامات الأطراف - أو ببساطة أكثر ، إذا قلت لك "سأشحن هذا المنتج إليك في غضون أسبوع بسعر X" ، فأنت تثق بي ، وسأفعل ذلك حقًا. كل شيء يعتمد فقط على الثقة - إذا كنت لا تثق بي ، أو سأخدعك ، يمكننا بالطبع محاولة حل القضية من خلال المحكمة ، ولكن هذا سيصاحب ذلك تكاليف HELLO. تخيل ما سيكون عليه الحال إذا كانت كل عملية شراء للزبادي في أحد المتاجر مصحوبة بإمكانية جدية للتقاضي ...
وهنا نأتي ، في رأيي ، إلى مشكلة خطيرة في العالم الحديث. بمعنى ما ، لم يتبق لدينا تقريبًا أي مؤسسات سمعة فيما يتعلق بالكلمات والنصوص ، مما يعني أننا لا نعرف حقًا بمن يمكننا الوثوق به على الإطلاق .
تخيل أن ممثلًا عن مشغل الهاتف الخلوي يتصل بك. أو بنك. مع عرض جديد وفريد ومفيد لك. هل تصدق أنه مفيد لك؟
قد تضع وسائل الإعلام عن طريق الخطأ الصورة "الخطأ". يمكنهم النظر في الموقف من جانب واحد. انشر مقالًا استفزازيًا على الصفحة الرئيسية مع كتابة صغيرة في الأسفل "هذا هو عمود المؤلف. ولا يجوز أن يتطابق رأي المؤلف مع رأي هيئة التحرير ". يمكنهم الرجوع إلى أستاذ غير معروف في المعهد العالمي في كوكويفو بعبارة "لقد تعلم العلماء ..." ولن يحصلوا على أي شيء مقابل ذلك. في أسوأ الحالات ، سيشتكون من عدم وجود تدقيق للحقائق ، وربما ينشرون دحضًا في زاوية لم تجدها أبدًا بعد شهرين.
حتى وجود أشخاص "أكفاء" لا يساعد. ربما أتذكر أفضل قصة ثيرانوس ( عن حبري ) ، التي وعدت بثورة شبه طبية وشكلت مجلس إدارة مثيرًا للإعجاب (ضم مجلس إدارة الشركة شخصيات مشهورة مثل وزيري الخارجية الأمريكيين السابقين هنري كيسنجر وجورج شولتز). بدا للجميع أن مثل هؤلاء الأشخاص لا يمكن أن يكونوا مخطئين - لكن في الواقع ، لقد اعتمدوا أيضًا على التأكيدات اللفظية ، في حين أن التكنولوجيا ، في الواقع ، لم تنجح. لا تعتقد أنه يمكنك الوثوق بشيء ما حتى لو استثمرت 700 مليون دولار هناك.
لسوء الحظ ، النقطة المهمة هي أننا لم نعد نثق برأي شخص ما. السمعة تكلف القليل جدا ويتم تبادلها بكل سرور مقابل المال. في الواقع ، تظل عائلتنا وأحبائنا مساحة الثقة الوحيدة الجيدة - ولحسن الحظ ، اختفت أفكار التسويق الشبكي (أوريفليم ، وما إلى ذلك) ، التي تستغل الثقة الشخصية ، من حياتنا بشكل أو بآخر.
لكن بالعودة إلى المقال ... توصلت إلى استنتاجين لنفسي:
سلاسة النص والحوار
أقوم بتجميع مجموعتي من النصوص التي تم إنشاؤها ومولداتها. لكنني لست مهتمًا جدًا بمناقشة كيفية تأثير النصوص المزيفة والمزيفة على المجتمع - على الرغم من أن هذا الموضوع قد يكون مدفوعًا بشكل جيد. بالنسبة لي ، كل مثال على النص الذي تم إنشاؤه هو سؤال: "أي جزء من التفكير البشري تمكنا من إضفاء الطابع الرسمي عليه؟" و "ما الذي بقي في عداد المفقودين وما زال من اختصاص الإنسان؟"
GPT-3 والشبكات العصبية الحديثة ، نظرًا لأنها تتدرب على النصوص ، وليس على المعاني المضمنة في هذه النصوص ، فهي أحفاد بعيدة عن جيل النصوص بسبب شبكات N-grams أو شبكات Markov ، والتي يُفترض أنها تُستخدم في Yandex . الملخصات . إذا نظرت إلى المبادئ الأساسية والأمثلة للنصوص المُنشأة ، يمكنك تقديم عدة قواعد مهمة:
- . , . (.) 4-7 , GPT-3, , , . , – , , .
- . , , , . - , «, » « Apple, , ». , . !
- . « , , » « , » .
بالإضافة إلى ذلك ، أود أن أقول بشكل منفصل عن الحوار مع منظمة العفو الدولية. على وجه الخصوص ، يعرف أي معلم أنه لا يمكن قول أي شيء عن معرفته بناءً على الملخص الذي يقدمه الطالب. ولكن إذا تحدثت معه لمدة 5-10 دقائق ، فمن السهل أن تفهم ما إذا كان "يتحسس" أم لا.
في مقالتي حول روبوتات الدردشة ، أشرت إلى أن المشكلة الرئيسية للذكاء الاصطناعي الآن هي مراعاة سياق الحوار وفهم المحاور.... من السهل تخيل ذكاء اصطناعي يستجيب جيدًا لعبارة معينة - لكن يبدو أنه شخص سمع القليل عن كل شيء ، لكنه لا يفهم جوهره. بين الطلاب ، هناك أيضًا مثل - الاستجابة للعبارات الرئيسية. إذا لم تتطرق إلى مواضيع معقدة ، ولم تقم بتقييم المعرفة والفهم الشخصيين ، فقد تشعر أن المحاور مفكر ويعرف ما يتحدث عنه ، على الرغم من أنه في الواقع يكرر فقط الحقائق التي سمعها في مكان ما .
من الواضح أن الإنسان لا يحدده ما يقول. يتم تحديد الشخص من خلال حقيقة أنه يستطيع التصرف بناءً على معتقداته. يمكنه تحليل تجربته أو إدراك تجربة شخص آخر.
لا يشارك حصريًا في المحادثات ، دون أن يتحمل أي مسؤولية عن كلماته