منذ دخول الذكاء الاصطناعي إلى حياتنا، تغيّرت أشياء كثيرة في وقت قصير، لم تتغير الأدوات التي نستخدمها فقط، بل بدأت تتغير معها مفاهيمنا عن المعرفة والمهارة والإنجاز، وحتى عن الأمانة والمسؤولية.
لا أعتقد أن المشكلة في الذكاء الاصطناعي نفسه؛ فهو أداة عظيمة يمكن أن تساعدنا على التعلم، وتختصر الوقت، وتحسن جودة العمل. لكن المشكلة تبدأ عندما لا نستخدمه ليساعدنا على التفكير، بل نطلب منه أن يفكر ويكتب ويقرر بدلًا منا، ثم ننسب النتيجة إلى أنفسنا.
تأملوا ما يحدث في التعليم مثلًا:
قد يستخدم الأستاذ الذكاء الاصطناعي في إعداد الأسئلة، ثم يستخدمه الطالب في الإجابة عنها، وربما يعود الأستاذ إلى الأداة نفسها لتصحيح الإجابات وتحليل النتائج. في النهاية تكون الآلة قد كتبت السؤال، وأجابت عنه، وأسهمت في تصحيحه، بينما يعتقد كل طرف أنه أدى دوره.
وكله صار يضحك على كله!
وقد يطلب الأستاذ من طلابه إعداد بحث أو تقرير حتى يقيس قدرتهم على القراءة والتحليل والكتابة. يسلّم الطالب تقريرًا أعدّه الذكاء الاصطناعي، ثم يستخدم الأستاذ الذكاء الاصطناعي لتلخيصه أو تقييمه وكتابة الملاحظات عليه. يحصل الطالب على درجة مقابل مهارة لم يمارسها، ويضع الأستاذ تقييمًا لنص ربما لم يقرأه قراءة كاملة، وتحتفظ المؤسسة بنتيجة تقول إن العملية التعليمية تمت بنجاح، مع أن التعلم الحقيقي قد لا يكون قد حدث أصلًا.
ولا يختلف الأمر كثيرًا في بعض المؤسسات. فقد يكتب الموظف تقرير الأداء بالذكاء الاصطناعي، ويستخدم المدير الأداة لتلخيص التقرير، ثم يستعين بها المراجع أو المستشار لتحليل المؤشرات وكتابة التوصيات. وبعد ذلك تُعرض تقارير أنيقة، ورسوم بيانية ملونة، ومؤشرات أداء تبدو ممتازة، لكن السؤال الذي يجب أن نسأله هو: هل قام أحد فعلًا بفحص الواقع الذي تتحدث عنه هذه التقارير؟
أخشى أن نتعلم مع الوقت كيف نحسن شكل التقارير بدلًا من تحسين العمل نفسه، وكيف نكتب عن الإنجاز بدلًا من تحقيقه. وقد تصبح لدينا تقارير عن تقارير، ومراجعات لتلخيصات، واجتماعات تناقش وثائق صاغتها الآلة وراجعتها آلة أخرى.
ويتكرر الأمر في البحث العلمي. قد يستخدم الباحث الذكاء الاصطناعي في صياغة الفكرة، وكتابة أجزاء من البحث، ومناقشة النتائج، ثم يستخدم المحكّم الأداة نفسها لتقييم البحث وصياغة ملاحظاته. وهنا يصبح السؤال مشروعًا: من الذي أنتج المعرفة فعلًا؟ ومن الذي قرأها وفحصها؟ ومن يتحمل المسؤولية إذا كانت النتيجة خاطئة؟
وفي الهندسة، يستطيع الذكاء الاصطناعي اقتراح التصاميم، وإجراء الحسابات، وكتابة المواصفات والتقارير الفنية. وهذا مفيد جدًا عندما يستخدمه مهندس يفهم ما يفعله ويتحقق من النتائج. لكن الخطورة تبدأ عندما يكتفي المهندس بإجابة تبدو مقنعة، ثم يستخدم المراجع أداة أخرى للموافقة عليها من دون أن يفهم أي منهما الافتراضات والقيود التي بُنيت عليها.
وفي الطب، يمكن للذكاء الاصطناعي أن يساعد الطبيب في تلخيص التاريخ المرضي، وتنظيم المعلومات، واقتراح بعض الاحتمالات. لكن لا ينبغي أن يحل محل الفحص والخبرة والحكم السريري. فالآلة لا ترى المريض كما يراه الطبيب، ولا تتحمل المسؤولية الأخلاقية عن القرار، ولا تواجه المريض وأسرته عندما تكون النتيجة غير صحيحة.
ويمكن أن نجد الصورة نفسها في الإعلام والمحاماة والإدارة والاستشارات والتوظيف وغيرها. شخص يستخدم الذكاء الاصطناعي ليظهر أكثر معرفة أو كفاءة مما هو عليه، ثم يأتي شخص آخر ليقيّمه باستخدام التقنية نفسها.
وهنا تظهر مشكلة أخلاقية حقيقية: قد يبرز بعض الأشخاص على حساب غيرهم، لا لأنهم أكثر علمًا أو خبرة، بل لأنهم أقدر على استخدام الذكاء الاصطناعي لإنتاج صورة مقنعة عن أنفسهم. وقد يتقدم من يجيد صناعة الانطباع، بينما يتراجع من يملك الخبرة الحقيقية لكنه لا يجيد تسويقها بالطريقة نفسها.
ومع الوقت قد يصبح من الصعب التمييز بين من يعرف فعلًا، ومن يعرف فقط كيف يبدو كأنه يعرف.
لكن الخطر الأكبر في رأيي هو ما قد يحدث لعقولنا. نحن نتعلم عندما نحاول، ونخطئ، ونعيد التفكير، ونقارن بين الاحتمالات، ونبحث عن الكلمة المناسبة، ونبني الفكرة خطوة خطوة. فإذا سلّمنا كل هذه العمليات للآلة، فقد نحصل على إجابات سريعة وجميلة، لكننا قد نفقد تدريجيًا قدرتنا على التفكير وإنتاج تلك الإجابات بأنفسنا.
لست مع رفض الذكاء الاصطناعي، ولا أظن أن رفضه ممكن أو مفيد. لكننا بحاجة إلى التمييز بين استخدامه أداةً تساعد العقل، واستخدامه بديلًا عن العقل؛ وبين أن يحسن عملنا، وأن يمنحنا مظهرًا زائفًا بالإنجاز.
يمكن للذكاء الاصطناعي أن يقترح، ويلخص، ويراجع، ويحلل، لكن يجب أن يبقى الإنسان هو من يفهم ويتحقق ويقرر ويتحمل المسؤولية.
كما يجب أن نعيد التفكير في طرق التعليم والتقييم والعمل المؤسسي. لا يكفي أن نقيس جودة النص أو جمال التقرير، بل ينبغي أن نبحث عن الفهم الحقيقي والأثر الموجود على أرض الواقع.
الخطر ليس فقط أن تصبح الآلة أكثر ذكاءً، بل أن يعتاد الإنسان أن يبدو ذكيًا من دون أن يمارس التفكير.
وعندما تكتب الآلة السؤال، وتكتب الإجابة، وتصححها، ثم تمنحنا التقارير والمؤشرات التي تؤكد أن كل شيء يسير بصورة ممتازة، فقد نكتشف أننا كنا جميعًا نشارك في مشهد واحد:
«كله صار يضحك على كله»
لا أعتقد أن المشكلة في الذكاء الاصطناعي نفسه؛ فهو أداة عظيمة يمكن أن تساعدنا على التعلم، وتختصر الوقت، وتحسن جودة العمل. لكن المشكلة تبدأ عندما لا نستخدمه ليساعدنا على التفكير، بل نطلب منه أن يفكر ويكتب ويقرر بدلًا منا، ثم ننسب النتيجة إلى أنفسنا.
تأملوا ما يحدث في التعليم مثلًا:
قد يستخدم الأستاذ الذكاء الاصطناعي في إعداد الأسئلة، ثم يستخدمه الطالب في الإجابة عنها، وربما يعود الأستاذ إلى الأداة نفسها لتصحيح الإجابات وتحليل النتائج. في النهاية تكون الآلة قد كتبت السؤال، وأجابت عنه، وأسهمت في تصحيحه، بينما يعتقد كل طرف أنه أدى دوره.
وكله صار يضحك على كله!
وقد يطلب الأستاذ من طلابه إعداد بحث أو تقرير حتى يقيس قدرتهم على القراءة والتحليل والكتابة. يسلّم الطالب تقريرًا أعدّه الذكاء الاصطناعي، ثم يستخدم الأستاذ الذكاء الاصطناعي لتلخيصه أو تقييمه وكتابة الملاحظات عليه. يحصل الطالب على درجة مقابل مهارة لم يمارسها، ويضع الأستاذ تقييمًا لنص ربما لم يقرأه قراءة كاملة، وتحتفظ المؤسسة بنتيجة تقول إن العملية التعليمية تمت بنجاح، مع أن التعلم الحقيقي قد لا يكون قد حدث أصلًا.
ولا يختلف الأمر كثيرًا في بعض المؤسسات. فقد يكتب الموظف تقرير الأداء بالذكاء الاصطناعي، ويستخدم المدير الأداة لتلخيص التقرير، ثم يستعين بها المراجع أو المستشار لتحليل المؤشرات وكتابة التوصيات. وبعد ذلك تُعرض تقارير أنيقة، ورسوم بيانية ملونة، ومؤشرات أداء تبدو ممتازة، لكن السؤال الذي يجب أن نسأله هو: هل قام أحد فعلًا بفحص الواقع الذي تتحدث عنه هذه التقارير؟
أخشى أن نتعلم مع الوقت كيف نحسن شكل التقارير بدلًا من تحسين العمل نفسه، وكيف نكتب عن الإنجاز بدلًا من تحقيقه. وقد تصبح لدينا تقارير عن تقارير، ومراجعات لتلخيصات، واجتماعات تناقش وثائق صاغتها الآلة وراجعتها آلة أخرى.
ويتكرر الأمر في البحث العلمي. قد يستخدم الباحث الذكاء الاصطناعي في صياغة الفكرة، وكتابة أجزاء من البحث، ومناقشة النتائج، ثم يستخدم المحكّم الأداة نفسها لتقييم البحث وصياغة ملاحظاته. وهنا يصبح السؤال مشروعًا: من الذي أنتج المعرفة فعلًا؟ ومن الذي قرأها وفحصها؟ ومن يتحمل المسؤولية إذا كانت النتيجة خاطئة؟
وفي الهندسة، يستطيع الذكاء الاصطناعي اقتراح التصاميم، وإجراء الحسابات، وكتابة المواصفات والتقارير الفنية. وهذا مفيد جدًا عندما يستخدمه مهندس يفهم ما يفعله ويتحقق من النتائج. لكن الخطورة تبدأ عندما يكتفي المهندس بإجابة تبدو مقنعة، ثم يستخدم المراجع أداة أخرى للموافقة عليها من دون أن يفهم أي منهما الافتراضات والقيود التي بُنيت عليها.
وفي الطب، يمكن للذكاء الاصطناعي أن يساعد الطبيب في تلخيص التاريخ المرضي، وتنظيم المعلومات، واقتراح بعض الاحتمالات. لكن لا ينبغي أن يحل محل الفحص والخبرة والحكم السريري. فالآلة لا ترى المريض كما يراه الطبيب، ولا تتحمل المسؤولية الأخلاقية عن القرار، ولا تواجه المريض وأسرته عندما تكون النتيجة غير صحيحة.
ويمكن أن نجد الصورة نفسها في الإعلام والمحاماة والإدارة والاستشارات والتوظيف وغيرها. شخص يستخدم الذكاء الاصطناعي ليظهر أكثر معرفة أو كفاءة مما هو عليه، ثم يأتي شخص آخر ليقيّمه باستخدام التقنية نفسها.
وهنا تظهر مشكلة أخلاقية حقيقية: قد يبرز بعض الأشخاص على حساب غيرهم، لا لأنهم أكثر علمًا أو خبرة، بل لأنهم أقدر على استخدام الذكاء الاصطناعي لإنتاج صورة مقنعة عن أنفسهم. وقد يتقدم من يجيد صناعة الانطباع، بينما يتراجع من يملك الخبرة الحقيقية لكنه لا يجيد تسويقها بالطريقة نفسها.
ومع الوقت قد يصبح من الصعب التمييز بين من يعرف فعلًا، ومن يعرف فقط كيف يبدو كأنه يعرف.
لكن الخطر الأكبر في رأيي هو ما قد يحدث لعقولنا. نحن نتعلم عندما نحاول، ونخطئ، ونعيد التفكير، ونقارن بين الاحتمالات، ونبحث عن الكلمة المناسبة، ونبني الفكرة خطوة خطوة. فإذا سلّمنا كل هذه العمليات للآلة، فقد نحصل على إجابات سريعة وجميلة، لكننا قد نفقد تدريجيًا قدرتنا على التفكير وإنتاج تلك الإجابات بأنفسنا.
لست مع رفض الذكاء الاصطناعي، ولا أظن أن رفضه ممكن أو مفيد. لكننا بحاجة إلى التمييز بين استخدامه أداةً تساعد العقل، واستخدامه بديلًا عن العقل؛ وبين أن يحسن عملنا، وأن يمنحنا مظهرًا زائفًا بالإنجاز.
يمكن للذكاء الاصطناعي أن يقترح، ويلخص، ويراجع، ويحلل، لكن يجب أن يبقى الإنسان هو من يفهم ويتحقق ويقرر ويتحمل المسؤولية.
كما يجب أن نعيد التفكير في طرق التعليم والتقييم والعمل المؤسسي. لا يكفي أن نقيس جودة النص أو جمال التقرير، بل ينبغي أن نبحث عن الفهم الحقيقي والأثر الموجود على أرض الواقع.
الخطر ليس فقط أن تصبح الآلة أكثر ذكاءً، بل أن يعتاد الإنسان أن يبدو ذكيًا من دون أن يمارس التفكير.
وعندما تكتب الآلة السؤال، وتكتب الإجابة، وتصححها، ثم تمنحنا التقارير والمؤشرات التي تؤكد أن كل شيء يسير بصورة ممتازة، فقد نكتشف أننا كنا جميعًا نشارك في مشهد واحد:
«كله صار يضحك على كله»
