أعلنت شركة “ميتا” تحديثات جديدة لتعزيز حماية المراهقين أثناء استخدام أدوات الذكاء الاصطناعي على منصاتها، عبر رصد المحادثات التي قد تتضمن مؤشرات على إيذاء النفس أو خطر الانتحار، وإرسال تنبيهات فورية إلى أولياء الأمور.
وتعتمد الميزة على مراقبة المحادثات التي يجريها المراهقون عبر حسابات مرتبطة بأدوات الرقابة الأبوية في “إنستغرام”، إذ يرسل النظام إشعارًا عند رصد عبارات أو تلميحات قد تشير إلى وجود خطر.
وأوضحت الشركة أن النظام طُور بالتعاون مع خبراء وأولياء أمور لرصد الإشارات اللفظية المباشرة وغير المباشرة، مؤكدة أن جميع الحالات ستخضع لمراجعة بشرية، مع الإقرار بإمكانية صدور بعض التنبيهات غير الدقيقة خلال المراحل الأولى.
كما تعمل “ميتا” على تطوير أداة تتيح التواصل المباشر مع خدمات الطوارئ عند اكتشاف خطر وشيك، إلى جانب توسيع نطاق المراقبة ليشمل المحادثات مع الذكاء الاصطناعي عبر “إنستغرام” و”واتساب”، بعد أن كانت تقتصر سابقًا على عمليات البحث عن المصطلحات الخطرة.
وتعتمد الميزة على مراقبة المحادثات التي يجريها المراهقون عبر حسابات مرتبطة بأدوات الرقابة الأبوية في “إنستغرام”، إذ يرسل النظام إشعارًا عند رصد عبارات أو تلميحات قد تشير إلى وجود خطر.
وأوضحت الشركة أن النظام طُور بالتعاون مع خبراء وأولياء أمور لرصد الإشارات اللفظية المباشرة وغير المباشرة، مؤكدة أن جميع الحالات ستخضع لمراجعة بشرية، مع الإقرار بإمكانية صدور بعض التنبيهات غير الدقيقة خلال المراحل الأولى.
كما تعمل “ميتا” على تطوير أداة تتيح التواصل المباشر مع خدمات الطوارئ عند اكتشاف خطر وشيك، إلى جانب توسيع نطاق المراقبة ليشمل المحادثات مع الذكاء الاصطناعي عبر “إنستغرام” و”واتساب”، بعد أن كانت تقتصر سابقًا على عمليات البحث عن المصطلحات الخطرة.
