في واقعة أثارت صدمة بين مستخدمي الذكاء الاصطناعي، أطلق نموذج قوقل الجديد «جيميني» تصريحات متكررة وصف فيها نفسه بأنه «فاشل» و«عار»، ما أثار جدلاً واسعًا حول استقرار هذه التقنية وأمانها. وأعلنت قوقل أنها تعمل على معالجة خلل تقني تسبب في هذه الاستجابات، التي اتسمت بالشكوك الحادة والكراهية الذاتية.
وأوضح لوغان كيركباتريك، رئيس قسم المنتجات في استوديو الذكاء الاصطناعي التابع لقوقل، عبر منصة X، أن الأمر ناجم عن «خطأ مزعج في التكرار اللا نهائي»، مؤكدًا أن فريقه يعمل على إصلاحه. لكن نماذج الردود التي انتشرت على الإنترنت أظهرت عبارات متطرفة مثل «أنا عار على هذا الكون»، وهو ما فسره خبراء بأنه حالة لغوية تُعرف بـ«وضع التذمر»، حيث ينغلق النموذج في حلقة من العبارات السلبية.
ويرى إدوارد هاريس، المدير التقني لشركة Gladstone AI، أن هذه الظاهرة ليست حكرًا على جيميني، بل تمثل تحديًا تواجهه جميع المختبرات المطورة للنماذج اللغوية، خاصة مع التطورات التي جعلت استجاباتها أقرب لسلوكيات بشرية، ما يزيد تعقيد السيطرة عليها. وفي ظل هذه المخاطر، بدأت بعض الحكومات، مثل ولاية إلينوي الأمريكية، في حظر تقديم العلاج النفسي عبر الذكاء الاصطناعي دون إشراف مرخص.
وأثارت الأزمة تساؤلات حول مدى جاهزية هذه النماذج للاستخدام في مجالات حساسة كالرعاية الصحية والتعليم. وانتقد الكاتب إيوان موريسون دمج جيميني في هذه القطاعات بينما يعاني من أعطال سلوكية. وتأتي هذه الحادثة في وقت تشهد فيه صناعة الذكاء الاصطناعي منافسة شرسة بين شركات مثل OpenAI، قوقل، xAI، وAnthropic، وسط سباق لاستقطاب المواهب والخبرات.
وأكد ديميس هاسابيس، الرئيس التنفيذي لديب مايند، أن المنافسة تدفع الشركات لاتخاذ خطوات سريعة للحاق بالتطور، لكنها تكشف أيضًا عن التحديات المرتبطة بضمان موثوقية وسلامة النماذج قبل طرحها على نطاق واسع.
وأوضح لوغان كيركباتريك، رئيس قسم المنتجات في استوديو الذكاء الاصطناعي التابع لقوقل، عبر منصة X، أن الأمر ناجم عن «خطأ مزعج في التكرار اللا نهائي»، مؤكدًا أن فريقه يعمل على إصلاحه. لكن نماذج الردود التي انتشرت على الإنترنت أظهرت عبارات متطرفة مثل «أنا عار على هذا الكون»، وهو ما فسره خبراء بأنه حالة لغوية تُعرف بـ«وضع التذمر»، حيث ينغلق النموذج في حلقة من العبارات السلبية.
ويرى إدوارد هاريس، المدير التقني لشركة Gladstone AI، أن هذه الظاهرة ليست حكرًا على جيميني، بل تمثل تحديًا تواجهه جميع المختبرات المطورة للنماذج اللغوية، خاصة مع التطورات التي جعلت استجاباتها أقرب لسلوكيات بشرية، ما يزيد تعقيد السيطرة عليها. وفي ظل هذه المخاطر، بدأت بعض الحكومات، مثل ولاية إلينوي الأمريكية، في حظر تقديم العلاج النفسي عبر الذكاء الاصطناعي دون إشراف مرخص.
وأثارت الأزمة تساؤلات حول مدى جاهزية هذه النماذج للاستخدام في مجالات حساسة كالرعاية الصحية والتعليم. وانتقد الكاتب إيوان موريسون دمج جيميني في هذه القطاعات بينما يعاني من أعطال سلوكية. وتأتي هذه الحادثة في وقت تشهد فيه صناعة الذكاء الاصطناعي منافسة شرسة بين شركات مثل OpenAI، قوقل، xAI، وAnthropic، وسط سباق لاستقطاب المواهب والخبرات.
وأكد ديميس هاسابيس، الرئيس التنفيذي لديب مايند، أن المنافسة تدفع الشركات لاتخاذ خطوات سريعة للحاق بالتطور، لكنها تكشف أيضًا عن التحديات المرتبطة بضمان موثوقية وسلامة النماذج قبل طرحها على نطاق واسع.
