من المشكلات التي تفاقمت مع الانتشار الواسع لشبكة الإنترنت، خطاب الكراهية، والذي يمكن أن يتواجد في بعض المنشورات على عدد من المنصات، كمنصات التواصل الاجتماعي، ليس ذلك فحسب، بل إن المشكلة تتعاظم إذا كان هناك مواقع أو صفحات ويب أو حتى تطبيقات مخصصة لمثل هذه الخطابات، وهذا ما تم ملاحظته في الآونة الأخيرة على مستوى العالم.
خطاب الكراهية على الإنترنت كما عرفته البروفيسورة جوليا هيرشبيرق (Julia Hirschberg) بجامعة كولومبيا في بحث نشرته مع أحد طلابها، هو الاعتداء اللفظي الموجه إلى مجموعة محددة أو أحد أفرادها لانتمائه لتلك المجموعة.
هناك عدد من المحاولات التي تسعى إلى مواجهة خطاب الكراهية على شبكة الإنترنت، منها ما يحاول بشكل يدوي تحديده والتعرف عليه، ومنها ما يعتمد على الطرق الآلية لاكتشاف هذا النوع من العنصرية، وأيًا كانت الطرق المستخدمة لمحاربة خطاب الكراهية، إلا أنه وبحسب مسح بحثي أجرته جامعة سارلاند (Saarland University) في العام 2020 فإن مجمل الطرق المستخدمة ليست بالكفاءة المطلوبة، للتخلص من تلك الخطابات.
كانت أحدث المساهمات في مجال التعرف على خطاب الكراهية، لفريق مشترك بين عدد من الجامعات البريطانية من بينها جامعة أوكسفورد (University of Oxford)، والتي بها يذكر الباحثون أن أحد أهم المشكلات التي تواجه التعرف خطابات الكراهية على الإنترنت هي التعريف الحقيقي لها، وهنا لا يعني الباحثون إيجاد وصف محدد لمصطلح «خطاب الكراهية»، على النقيض من ذلك، فإن الباحثين يذكرون أن محاولة تأطير العنصرية اللفظية أو الكتابية على الإنترنت، هو تقليل من حجم المشكلة أصلاً.
كان الفريق البحثي المشترك مهتم في التعرف الآلي على خطاب الكراهية، وذكروا أن عددًا من المحاولات السابقة في ذات المجال، تفتقر إلى القدرة على التوسع والتطبيق، في حال خروجها من أروقة معامل الأبحاث إلى الواقع الحقيقي، وعزوا ذلك إلى أن خوارزميات الذكاء الاصطناعي التي تم تطويرها في تلك المعامل، تعمل بكفاءة على قواعد بيانات محددة، وفق تعاريف محددة، ولكن عالم الإنترنت له طابع متغير، مما يعني أن الخوارزميات ستتعرض لعبارات أو نصوص غير تلك التي كانت تألفها في قواعد البيانات سابقة الذكر.
اقترح الفريق البحثي 29 معيارًا تقنيًا يلزم أي خوارزمية ذكاء اصطناعي اتباعها، للتعرف على خطاب الكراهية في اللغة الإنجليزية، وقد تم تطوير تلك المعايير من خلال إجراء مقابلات مع 18 جمعية أوروبية متخصصة في المراقبة والحماية من الكراهية على الإنترنت، ومن خلال تلك الجهود تم بناء قاعدة بيانات متخصصة في خطاب الكراهية متماشية مع المعايير.
ولاختبار الطريقة المبتكرة التي اتبعها الباحثون، قاموا باستخدام أحد الخوارزميات المطورة مسبقًا من قبل باحثين آخرين في نفس المجال، وقد وجد الفريق البحثي أن أداء تلك الخوارزمية وصل لمستويات عالية، خصوصًا حين تطبيقها على نطاق واسع على شبكة الإنترنت.
خطاب الكراهية على الإنترنت كما عرفته البروفيسورة جوليا هيرشبيرق (Julia Hirschberg) بجامعة كولومبيا في بحث نشرته مع أحد طلابها، هو الاعتداء اللفظي الموجه إلى مجموعة محددة أو أحد أفرادها لانتمائه لتلك المجموعة.
هناك عدد من المحاولات التي تسعى إلى مواجهة خطاب الكراهية على شبكة الإنترنت، منها ما يحاول بشكل يدوي تحديده والتعرف عليه، ومنها ما يعتمد على الطرق الآلية لاكتشاف هذا النوع من العنصرية، وأيًا كانت الطرق المستخدمة لمحاربة خطاب الكراهية، إلا أنه وبحسب مسح بحثي أجرته جامعة سارلاند (Saarland University) في العام 2020 فإن مجمل الطرق المستخدمة ليست بالكفاءة المطلوبة، للتخلص من تلك الخطابات.
كانت أحدث المساهمات في مجال التعرف على خطاب الكراهية، لفريق مشترك بين عدد من الجامعات البريطانية من بينها جامعة أوكسفورد (University of Oxford)، والتي بها يذكر الباحثون أن أحد أهم المشكلات التي تواجه التعرف خطابات الكراهية على الإنترنت هي التعريف الحقيقي لها، وهنا لا يعني الباحثون إيجاد وصف محدد لمصطلح «خطاب الكراهية»، على النقيض من ذلك، فإن الباحثين يذكرون أن محاولة تأطير العنصرية اللفظية أو الكتابية على الإنترنت، هو تقليل من حجم المشكلة أصلاً.
كان الفريق البحثي المشترك مهتم في التعرف الآلي على خطاب الكراهية، وذكروا أن عددًا من المحاولات السابقة في ذات المجال، تفتقر إلى القدرة على التوسع والتطبيق، في حال خروجها من أروقة معامل الأبحاث إلى الواقع الحقيقي، وعزوا ذلك إلى أن خوارزميات الذكاء الاصطناعي التي تم تطويرها في تلك المعامل، تعمل بكفاءة على قواعد بيانات محددة، وفق تعاريف محددة، ولكن عالم الإنترنت له طابع متغير، مما يعني أن الخوارزميات ستتعرض لعبارات أو نصوص غير تلك التي كانت تألفها في قواعد البيانات سابقة الذكر.
اقترح الفريق البحثي 29 معيارًا تقنيًا يلزم أي خوارزمية ذكاء اصطناعي اتباعها، للتعرف على خطاب الكراهية في اللغة الإنجليزية، وقد تم تطوير تلك المعايير من خلال إجراء مقابلات مع 18 جمعية أوروبية متخصصة في المراقبة والحماية من الكراهية على الإنترنت، ومن خلال تلك الجهود تم بناء قاعدة بيانات متخصصة في خطاب الكراهية متماشية مع المعايير.
ولاختبار الطريقة المبتكرة التي اتبعها الباحثون، قاموا باستخدام أحد الخوارزميات المطورة مسبقًا من قبل باحثين آخرين في نفس المجال، وقد وجد الفريق البحثي أن أداء تلك الخوارزمية وصل لمستويات عالية، خصوصًا حين تطبيقها على نطاق واسع على شبكة الإنترنت.
