تعكف شركة فيس بوك حالياً على تطوير طريقة تلقائية تسمح بتحديد المواد غير القانونية والمسيئة والتجاوزات في فيديوهات البث المباشر التابع للشركة “لايف” Facebook Live عبر استخدام تقنيات الذكاء الصناعي التي ستوجه إلى مراقبة المحتوى، وذلك وفقاً لخواكين كانديلا مدير تقنيات تعلم الآلة التطبيقية.
وواجهت منصة التواصل الإجتماعي هذا العام عدداً من الخلافات والمشاكل المتعلقة بالإشراف على المحتوى، حيث تعرضت لموجة غضب دولي بعد إزلتها لصورة متعلقة بالحرب الفيتنامية بسبب العري إلى جانب المشاكل المتعلقة بسماحها بانتشار الأخبار المزيفة على موقعها.
واعتمدت فيس بوك تقليدياً على مستخدمي المنصة في سبيل إبلاغ الشركة عن التدوينات والمشاركات العدوانية المخالفة لسياسات الموقع، ليتم بعدها فحصها من قبل موظفي فيس بوك فيما إذا كانت تتماشى مع معايير مجتمع فيس بوك.
ويتولى كبار المسؤولين التنفيذيين في المنصة الإجتماعية اتخاذ القرارات المتعلقة بقضايا المحتوى، وخصوصاً الشائكة منها، والتي قد تتطلب تغييرات في السياسية المتبعة ضمن الشركة.
وأشار كانديلا إلى أن فيس بوك تعمد بشكل متزايد إلى استخدام الذكاء الصناعي لتحديد وإيجاد المحتوى والمواد المسيئة، وذلك عن طريق خوارزمية تقوم بالكشف عن العري والعنف أو أي شئ من الأشياء التي لا تتناسب مع سياسة مجتمع فيس بوك.
وتعمل الشركة بشكل فعلي منذ عدة أشهر على استخدام الأتمتة لتحديد محتوى الفيديوهات المتطرفة، ويجري حالياً اختبار ذلك النظام الآلي على خدمة البث المباشر التابعة لمنصة التواصل الإجتماعي “فيس بوك لايف”.
ووفقاً لكانديلا فإن “استخدام الذكاء الصناعي لتحديد فيديوهات البث المباشر المسيئة مازال في مرحلة الأبحاث، ويواجه حالياً عدة تحديثات مثل وجوب كون خوارزمية الرؤية الحاسوبية سريعة بما فيه الكفاية ويمكننا العمل على هذه الجزئية، كما اننا بحاجة إلى تحديد الأولويات بشكل صحيح بتشابه مع ما يراه الإنسان الخبير الفاهم لسياسة الموقع ويأخذ القرار بناءً على تلك الرؤية”.
وتستخدم فيس بوك الأتمتة أيضاً لمعالجة عشرات الملايين من التقارير التي تصل إليها كل أسبوع وذلك في سبيل ترتيب وتنظيم تلك التقارير وتحديد التكرار فيها وتوجيه المحتوى المحدد إلى المراجعين من ذوي الخبرة المناسبة للموضوع