أعلنت شركة OpenAI، المطورة منصة ChatGPT، نيتها تعيين «رئيس للجاهزية»، لمواجهة التحديات الأمنية والاجتماعية المرتبطة بتطور تقنيات الذكاء الاصطناعي، براتب أساسي يبلغ 555 ألف دولار، بالإضافة إلى حصص ملكية في الشركة. ويهدف هذا المنصب إلى الإشراف على برامج الأمان، وضمان مواكبتها التطور السريع لقدرات النماذج الجديدة.
ووصف الرئيس التنفيذي للشركة، سام ألتمان، هذه المهمة بأنها «مرهقة»، مشيراً إلى أنها تتعامل مع تحديات حقيقية تتعلق بكيفية إساءة استخدام التقنيات، ولا سيما في مجالات حساسة مثل الصحة النفسية والأمن السيبراني، حيث أظهرت تقارير لجوء بعض الأشخاص في أزمات عاطفية إلى ChatGPT طلباً للدعم، ما يثير مخاوف من آثار سلبية محتملة، إلى جانب قدرة النماذج المتقدمة على اكتشاف ثغرات رقمية خطيرة.
وأوضح ألتمان أن الشركة تعتمد على ما تسميه «ضمانات أمنية متزايدة التعقيد»، وأن دور رئيس الجاهزية سيكون توسيع هذه الضمانات، وتطوير معايير جديدة للأمان، في محاولة لتحقيق توازن بين الابتكار التقني السريع والمسؤولية الأخلاقية تجاه المجتمع.
ووصف الرئيس التنفيذي للشركة، سام ألتمان، هذه المهمة بأنها «مرهقة»، مشيراً إلى أنها تتعامل مع تحديات حقيقية تتعلق بكيفية إساءة استخدام التقنيات، ولا سيما في مجالات حساسة مثل الصحة النفسية والأمن السيبراني، حيث أظهرت تقارير لجوء بعض الأشخاص في أزمات عاطفية إلى ChatGPT طلباً للدعم، ما يثير مخاوف من آثار سلبية محتملة، إلى جانب قدرة النماذج المتقدمة على اكتشاف ثغرات رقمية خطيرة.
وأوضح ألتمان أن الشركة تعتمد على ما تسميه «ضمانات أمنية متزايدة التعقيد»، وأن دور رئيس الجاهزية سيكون توسيع هذه الضمانات، وتطوير معايير جديدة للأمان، في محاولة لتحقيق توازن بين الابتكار التقني السريع والمسؤولية الأخلاقية تجاه المجتمع.
