يدعي مطورو الأداة الجديدة القائمة على الذكاء الاصطناعي أنها تكتشف صور إساءة معاملة الأطفال بدقة تصل إلى 99 بالمائة.
Safer هي أداة طورتها Thorn ، وهي منظمة غير ربحية ، لمساعدة الشركات التي ليس لديها أنظمة تصفية خاصة بها على اكتشاف هذه الصور وإزالتها.
وفقًا لمؤسسة Internet Watch Foundation في المملكة المتحدة ، زادت التقارير عن إساءة معاملة الأطفال أثناء الحجر الصحي لـ COVID-19 بنسبة 50 بالمائة. في 11 أسبوعًا بدءًا من 23 مارس ، تلقى الخط الساخن 44809 تقريرًا تم استرداده ، ارتفاعًا من 29698 في العام الماضي. العديد من هذه الصور من أطفال أمضوا الكثير من الوقت على الإنترنت وكان عليهم نشر صورهم.
أندي بوروز، رئيس سلامة الأطفال على الإنترنت في NSPCC، في الآونة الأخيرة أخبرت بي بي سي: "يمكن تخفيض الضرر إذا استثمرت وسائل الاعلام الاجتماعية أكثر ذكاء في مجال التكنولوجيا، والاستثمار في تصميم أكثر أمانا يتميز في أوقات الأزمات."
أكثر أمانًا هي إحدى الأدوات التي تساعدك على الإبلاغ بسرعة عن محتوى إساءة معاملة الأطفال لتقليل الضرر الذي يحدث.
تشمل خدمات الاكتشاف الأكثر أمانًا ما يلي:
- مطابقة تجزئة الصورة: خدمة رئيسية تقوم بإنشاء تجزئات تشفير وإدراك للصور وتقارن هذه التجزئة بتجزئة CSAM المعروفة. في وقت النشر ، تضمنت قاعدة البيانات 5.9 مليون تجزئة. يحدث التجزئة في البنية التحتية للعميل للحفاظ على خصوصية المستخدم.
- CSAM (CSAM Image Classifier): , Thorn Safer, , CSAM. , , CSAM , CSAM.
- (Video Hash Matching): , , CSAM. 650 . CSAM.
- SaferList : Safer, Safer , Safer, . , - .
ومع ذلك ، لا تقتصر المشكلة على وضع علامات على المحتوى. لقد تم توثيق أن المشرفين على منصات التواصل الاجتماعي يحتاجون في كثير من الأحيان إلى العلاج أو حتى المساعدة في منع الانتحار بعد تعرضهم للمحتوى الأكثر إزعاجًا المنشور على الإنترنت يومًا بعد يوم.
يدعي Thorn أن Safer مصمم مع مراعاة رفاهية الوسطاء. تحقيقًا لهذه الغاية ، يتم تعتيم المحتوى تلقائيًا (تقول الشركة إنها تعمل حاليًا مع الصور فقط).
تتوفر لدى Safer واجهات برمجة تطبيقات متاحة للمطورين "تم تصميمها لتوسيع المعرفة العامة بمحتوى إساءة معاملة الأطفال من خلال إضافة علامات التجزئة والمسح الضوئي باستخدام تجزئات من الصناعات الأخرى وإرسال تعليقات إيجابية خاطئة".
يعد Flickr أحد أشهر عملاء Thorn في الوقت الحالي. باستخدام Safer ، وجدت Flickr صورة لإساءة معاملة الأطفال على منصتها ، والتي أسفرت ، بعد تحقيق إنفاذ القانون ، عن ضبط 21 طفلاً تتراوح أعمارهم بين 18 شهرًا و 14 عامًا واعتقال المجرمين.
أكثر أمانًا متاح حاليًا لأي شركة تعمل في الولايات المتحدة. تخطط ثورن لتوسيع عملياتها إلى دول أخرى العام المقبل ، بعد التكيف مع متطلبات إعداد التقارير الوطنية لكل بلد.
يمكنك قراءة المزيد عن هذه الأداة وكيفية البدء هنا .