مع الاستخدام المتزايد لمنصات التواصل الاجتماعي، أصبح التنمر وخطابات الكراهية، التي تنشر على تلك المنصات، مشكلة مؤرقة، خصوصًا أن هناك اختلافا بين ثقافات مستخدمي تلك المنصات، مما يعني أنه لا يوجد تعريف واضح ومحدد لما يعتبر تنمرا، أو خطاب كراهية، أو حتى خطاب عنصرية، ضد فئة معينة من الناس، فما هو مقبول في ثقافة ما، قد لا يكون مقبولا في ثقافة أخرى.
التعامل التقليدي مع التنمر الإلكتروني، وخطابات الكراهية، على منصات التواصل الاجتماعي، يشمل حذف المحتوى غير الملائم، أو إلغاء حساب المستخدم، إلا أن مثل هذه الطرق قد لا تكون عادلة في بعض الأحيان، مما يتسبب في ضرر أكبر من النص الذي كان الهدف التخلص منه.
ومن الأساليب الحديثة للتعامل مع خطابات الكراهية، أن يقوم أشخاص مدربون، بالرد المباشر، بمعلومات أو حقائق أو حتى بشكل فكاهي، على تلك الخطابات، وهو ما يعرف بالسرد المضاد «counter narrative»، والذي أثبت فاعلية، أعلى من مجرد حذف، أو حجب المستخدم صاحب خطابات النمر أو الكراهية، إلا أنه لا طاقة بشرية تستطيع مواكبة المحتوى الذي يُصنع كل ثانية، على منصات التواصل الاجتماعي، وهذا ما يدعو إلى إيجاد حلول أكثر استدامة كاستخدام التقنية للكتابة الآلية للسرد المضاد.
محاولات كتابة السرد المضاد بشكل آلي قد بدأت بالفعل منذ عدة سنوات، ومن أحدث المحاولات في هذا المجال ما قامت به الدكتورة سيرا تيكيروقو (Serra Tekiroglu) الباحثة في مركز أبحاث المستقبل المبني على المعرفة (Future Build of Knowledge) وبالتعاون مع فريق بحثي من جامعة ترينتو (University of Trento) بإيطاليا، حيث قام الفريق البحثي، ببناء نظام يعتمد على تقنيات الذكاء الاصطناعي، والذي يمكنه تحليل المحتوى المكتوب، على منصات التواصل الاجتماعي، وتحديد منها ما يحتوي على خطاب كراهية، ومن ثم كتابة، وبشكل آلي، سرد مضاد لمحتوى لذلك النص.
غالبية أنظمة الذكاء الاصطناعي تعتمد على التعلم من قواعد بيانات معرفية لتتمكن من العمل، وهذا ما حصل بالفعل في نظام الدكتورة سيرا، ولكن الجدير بالذكر، أن بناء قواعد معرفية أو بيانات لتدريب نظامهم، هو ما احتاج إلى الكثير من الجهد والعمل، بل إن الفريق البحثي لم يحتج إلى بناء خوارزمية ذكاء اصطناعي بنفسه من الصفر، ولكن استخدام أحد الخوارزميات المتخصصة في الكتابة الآلية للنصوص، والتي تم تدريبها على قواعد البيانات التي تم بناؤها، ومن ثم تم تطبيقها على نطاق واسع.
التعامل التقليدي مع التنمر الإلكتروني، وخطابات الكراهية، على منصات التواصل الاجتماعي، يشمل حذف المحتوى غير الملائم، أو إلغاء حساب المستخدم، إلا أن مثل هذه الطرق قد لا تكون عادلة في بعض الأحيان، مما يتسبب في ضرر أكبر من النص الذي كان الهدف التخلص منه.
ومن الأساليب الحديثة للتعامل مع خطابات الكراهية، أن يقوم أشخاص مدربون، بالرد المباشر، بمعلومات أو حقائق أو حتى بشكل فكاهي، على تلك الخطابات، وهو ما يعرف بالسرد المضاد «counter narrative»، والذي أثبت فاعلية، أعلى من مجرد حذف، أو حجب المستخدم صاحب خطابات النمر أو الكراهية، إلا أنه لا طاقة بشرية تستطيع مواكبة المحتوى الذي يُصنع كل ثانية، على منصات التواصل الاجتماعي، وهذا ما يدعو إلى إيجاد حلول أكثر استدامة كاستخدام التقنية للكتابة الآلية للسرد المضاد.
محاولات كتابة السرد المضاد بشكل آلي قد بدأت بالفعل منذ عدة سنوات، ومن أحدث المحاولات في هذا المجال ما قامت به الدكتورة سيرا تيكيروقو (Serra Tekiroglu) الباحثة في مركز أبحاث المستقبل المبني على المعرفة (Future Build of Knowledge) وبالتعاون مع فريق بحثي من جامعة ترينتو (University of Trento) بإيطاليا، حيث قام الفريق البحثي، ببناء نظام يعتمد على تقنيات الذكاء الاصطناعي، والذي يمكنه تحليل المحتوى المكتوب، على منصات التواصل الاجتماعي، وتحديد منها ما يحتوي على خطاب كراهية، ومن ثم كتابة، وبشكل آلي، سرد مضاد لمحتوى لذلك النص.
غالبية أنظمة الذكاء الاصطناعي تعتمد على التعلم من قواعد بيانات معرفية لتتمكن من العمل، وهذا ما حصل بالفعل في نظام الدكتورة سيرا، ولكن الجدير بالذكر، أن بناء قواعد معرفية أو بيانات لتدريب نظامهم، هو ما احتاج إلى الكثير من الجهد والعمل، بل إن الفريق البحثي لم يحتج إلى بناء خوارزمية ذكاء اصطناعي بنفسه من الصفر، ولكن استخدام أحد الخوارزميات المتخصصة في الكتابة الآلية للنصوص، والتي تم تدريبها على قواعد البيانات التي تم بناؤها، ومن ثم تم تطبيقها على نطاق واسع.
