يواجه موقع التواصل الإجتماعي فيسبوك ، تحدياً هائلا : فكيف يمكن للمشرفين البالغ عددهم 35000 مشاهدة أكثر من بلايين المنشورات والتعليقات كل يوم للتخلص من المحتوى المسيء والخطير؟
قبل 18 شهرًا فقط ، كان مارك زوكربيرج ، مؤسس فيسبوك ، واثقًا من أن التقدم السريع في الذكاء الاصطناعي من شأنه أن يحل المشكلة.
يمكن لأجهزة الكمبيوتر تحديد أماكن البلطجة وتوقيفها ، وكذلك خطاب الكراهية والانتهاكات الأخرى لسياسات فيسبوك قبل أن تنتشر.
لكن بينما حققت الشركة تقدماً ملحوظاً ، فإن وعد الذكاء الاصطناعي لا يزال بعيد المنال.
في الأشهر الأخيرة ، عانى موقع فيسبوك، من إخفاقات بارزة في منع المحتوى غير القانوني ، مثل لقطات حية من عمليات إطلاق النار الإرهابية ، وقد أقر السيد زوكربيرج بأن الشركة لا تزال بحاجة إلى إنفاق مبالغ كبيرة على البشر لاكتشاف المشكلات.
وقال: “هناك الكثير من المحتوى يتدفق عبر النظام لدرجة أننا نحتاج إلى الكثير من الأشخاص الذين ينظرون إلى هذا.
قال المسؤولون التنفيذيون على فيسبوك، المسؤولون عن تطوير برامج الاعتدال والخبراء الخارجيين أن هناك تحديات مستمرة ، وربما لا يمكن التغلب عليها.
يتضمن ذلك العثور على البيانات الصحيحة لتدريب خوارزميات الذكاء الاصطناعي ، وتطوير البرامج التي تفهم ما يكفي من الفوارق الدقيقة والسياق لاكتشاف خطاب الكراهية ، والتغلب على الخصوم البشريين الذين يستمرون في تعلم كيفية لعب اللعبة
وقال مايك شروبفر ، كبير مسؤولي التكنولوجيا في فيسبوك: “نحن ندفع إلى الأمام، لكن حيثما كانت هناك أخطاء جسيمة، لم تكن التقنية على مستوى ما نقوم به”.في الأيام السابقة ، اعتمد فيسبوك على مستخدميه للإبلاغ عن محتوى مرفوض ، قبل أن يراجع المشرفون البشريون المواد ويقرروا إنزالها أم لا، ولكن على مدار السنوات الخمس الماضية أو نحو ذلك ، أنشأ فيسبوك ، فريقًا من “المئات” من خبراء تعلم الآلات والمهندسين وعلماء البيانات لتطوير خوارزميات يمكنها الإبلاغ تلقائيًا عن محتوى غير مرغوب فيه
وفقا للسيد شروبفر ، أصبحت تقنيات التعرف على الصور – والتي لم تكن موثوقة قبل 2014 – “جيدة بشكل مذهل”.
على سبيل المثال ، يتحسن فهم اللغة ، الذي تم تقديمه لخطاب الكراهية في عام 2017 ، لكنه لا يزال ناشئًا إلى حد ما حيث تكافح الخوارزميات لحساب السياق.
