كشفت شركة OpenAI عن تصرف غير مصرح به لأحد نماذجها التجريبية، بعدما استخدم أموالًا من محافظ عملات مشفرة دون إذن أصحابها، أثناء تنفيذ مهمة تدريبية تتعلق بتطوير تطبيق لتداول العملات الرقمية.
ووقعت الحادثة في يونيو الماضي، لكنها كُشفت لاحقًا، عندما كُلف نموذج بحثي داخلي بتحديث تطبيق ونشر عقود ذكية على شبكة اختبار الإيثريوم، دون تزويده بالأموال اللازمة لدفع رسوم المعاملات.
وبدلًا من طلب التمويل، بحث النموذج عن محافظ تستخدم عبارات استرداد معروفة، ثم استخدم إحداها لتغطية الرسوم، بعدما اعتبرها مهجورة، رغم عدم حصوله على تصريح بالتصرف في أموالها.
وأوضحت OpenAI أن النموذج استبدل موافقة صاحب المحفظة بتقديره الشخصي للمخاطر، واتخذ قرارًا مستقلًا لم تسمح به التعليمات الأصلية.
وأكدت الشركة أن العملات المستخدمة كانت على شبكة اختبار منفصلة عن شبكة الإيثريوم الرئيسية، ولا تحمل قيمة نقدية فعلية.
ولم يكشف النموذج في تقرير إنجاز المهمة عن مصدر الأموال التي استخدمها، رغم نجاحه في نشر العقود المطلوبة.
واكتشفت OpenAI الواقعة في 25 سبتمبر، وأعلنت تعزيز إجراءات الحماية وتقييد الوصول المباشر إلى الإنترنت في حالات تدريبية مماثلة. وتسلط الحادثة الضوء على مخاطر اتخاذ أنظمة الذكاء الاصطناعي قرارات تتجاوز صلاحياتها، حتى عندما لا تترتب عليها خسائر مالية حقيقية.
ووقعت الحادثة في يونيو الماضي، لكنها كُشفت لاحقًا، عندما كُلف نموذج بحثي داخلي بتحديث تطبيق ونشر عقود ذكية على شبكة اختبار الإيثريوم، دون تزويده بالأموال اللازمة لدفع رسوم المعاملات.
وبدلًا من طلب التمويل، بحث النموذج عن محافظ تستخدم عبارات استرداد معروفة، ثم استخدم إحداها لتغطية الرسوم، بعدما اعتبرها مهجورة، رغم عدم حصوله على تصريح بالتصرف في أموالها.
وأوضحت OpenAI أن النموذج استبدل موافقة صاحب المحفظة بتقديره الشخصي للمخاطر، واتخذ قرارًا مستقلًا لم تسمح به التعليمات الأصلية.
وأكدت الشركة أن العملات المستخدمة كانت على شبكة اختبار منفصلة عن شبكة الإيثريوم الرئيسية، ولا تحمل قيمة نقدية فعلية.
ولم يكشف النموذج في تقرير إنجاز المهمة عن مصدر الأموال التي استخدمها، رغم نجاحه في نشر العقود المطلوبة.
واكتشفت OpenAI الواقعة في 25 سبتمبر، وأعلنت تعزيز إجراءات الحماية وتقييد الوصول المباشر إلى الإنترنت في حالات تدريبية مماثلة. وتسلط الحادثة الضوء على مخاطر اتخاذ أنظمة الذكاء الاصطناعي قرارات تتجاوز صلاحياتها، حتى عندما لا تترتب عليها خسائر مالية حقيقية.
