كلما اتسعت قدرات الذكاء الاصطناعي، زادت معها المساحة التي تمنحه إياها داخل عملية اتخاذ القرار، وهنا يجب أن نسأل:
أين يقف الإنسان وأين دوره؟ من هذا التساؤل، يمكن قراءة ما كشفته تقارير إعلامية أمريكية أخيرا، عن واقعة حدثت قبل فترة، حين أشار تقرير استخباراتي إلى أن سفينة صينية في الشرق الأوسط تحمل مكونات مرتبطة ببرنامج أسلحة نووية، قبل أن تكشف مراجعة أخيرة، جاءت بعدما بدأت الاستعدادات الفعلية لاعتراض السفينة، أن التقرير أعده محلل بمساعدة أداة ذكاء اصطناعي، صنفت الحمولة تصنيفا خاطئا.
ما استوقفني في الواقعة ليس الخطأ التقني بذاته بل طبيعته. فالأداة لم تختلق معلومة من فراغ، بل دمجت بيانات من مصادر مختلفة ثم بنت عليها استنتاجا ظهر متماسكا ومقنعا. لكنه كان استنتاجا خاطئا لا يستند لحقيقة! وهذا هو جوهر التحدي، إذ لا يأتي الخطأ دائما في صورة نقص ظاهر يسهل كشفه، بل قد يأتي في صورة نتيجة مصقولة، تحمل علامات الموثوقية، فتقرأ بوصفها حقيقة مطلقة.
في تقديري، الدرس الأعمق لا يتعلق بالآلة وحدها، بل بالمسافة التي ينبغي أن تبقى بين ما تقترحه الأداة وما يقرره الإنسان، فالتقنية مهما تطورت تظل مساعدة على اتخاذ القرار لا بديلا عنه، والفارق بين الاستخدامين دقيق لكنه حاسم. فحين يتحول ما تنتجه الأداة من رأي تتم مراجعته، إلى نتيجة يتم تبنيها مباشرة، تكون المؤسسة قد استغنت عن جزء من حكمها المهني دون أن تنتبه.
لا يكفي هنا الاطمئنان لوجود إنسان ضمن مسار القرار. فالرقابة البشرية لا تكتمل بمجرد الحضور، بل بامتلاك أدوات التحقق، والوقت الكافي، والوعي بحدود الأداة.
حين تغيب هذه العناصر أو أحدها، قد يتحول دور الإنسان إلى مجرد تصديق على ما أنتجته الآلة، بدلا من مراجعته فعليا. والمراجعة التي تأتي في اللحظة الأخيرة قد تنجح أحيانا، لكنها لا تصلح أساسا تبنى عليه قرارات متكررة.
الاتجاه العالمي يسير بشكل متسارع نحو مزيد من الاعتماد عليها، فقد أعلنت مؤسسات دفاعية كبرى إستراتيجيات لتسريع دمج الذكاء الاصطناعي في أعمالها، انطلاقا من قناعة بأن التأخر في هذا المجال يمثل مخاطرة بحد ذاته. لكن السرعة في تبني التقنية لا تعني التخفف من الحوكمة. المطلوب أن تتقدم القدرة والضوابط معا، لأن التقنية كلما اتسع استخدامها، أصبحت الحاجة إلى مراجعة مخرجاتها أكثر أهمية.
من هنا تبرز أهمية أن تتبنى الدول، بالتوازي مع قدراتها التقنية، أطرا واضحة تحدد أين يستخدم الذكاء الاصطناعي، وكيف تراجع مخرجاته، وأين تنتهي وظيفة الأداة ويبدأ حكم الإنسان.
هذا ما تعكسه التجربة السعودية من خلال تطوير أطر وإرشادات لحوكمة الذكاء الاصطناعي، من بينها الأدلة التي أصدرتها «سدايا» لاستخدام الذكاء الاصطناعي التوليدي، بالتوازي مع التوسع في تبني هذه التقنيات. فالثقة في الذكاء الاصطناعي لا تأتي من قدرته على إنتاج الإجابة بسرعة، بل من وجود آليات واضحة لمراجعتها وفهم حدودها.
ما جرى في هذه الواقعة ليس مجرد أداة أخطأت، بل درس في العلاقة التي ينبغي أن تحكم تعاملنا مع أدوات أصبح حضورها في اتخاذ القرار أوسع كل يوم.
الذكاء الاصطناعي يمكن أن يرفع جودة القرار وسرعته، ويمنح المؤسسات قدرات لم تكن متاحة من قبل، لكنه لا يعفي الإنسان من مسؤوليته عنه. وهذه هي الحدود التي ينبغي ألا تتلاشى مهما تطورت قدرات الأداة.
أين يقف الإنسان وأين دوره؟ من هذا التساؤل، يمكن قراءة ما كشفته تقارير إعلامية أمريكية أخيرا، عن واقعة حدثت قبل فترة، حين أشار تقرير استخباراتي إلى أن سفينة صينية في الشرق الأوسط تحمل مكونات مرتبطة ببرنامج أسلحة نووية، قبل أن تكشف مراجعة أخيرة، جاءت بعدما بدأت الاستعدادات الفعلية لاعتراض السفينة، أن التقرير أعده محلل بمساعدة أداة ذكاء اصطناعي، صنفت الحمولة تصنيفا خاطئا.
ما استوقفني في الواقعة ليس الخطأ التقني بذاته بل طبيعته. فالأداة لم تختلق معلومة من فراغ، بل دمجت بيانات من مصادر مختلفة ثم بنت عليها استنتاجا ظهر متماسكا ومقنعا. لكنه كان استنتاجا خاطئا لا يستند لحقيقة! وهذا هو جوهر التحدي، إذ لا يأتي الخطأ دائما في صورة نقص ظاهر يسهل كشفه، بل قد يأتي في صورة نتيجة مصقولة، تحمل علامات الموثوقية، فتقرأ بوصفها حقيقة مطلقة.
في تقديري، الدرس الأعمق لا يتعلق بالآلة وحدها، بل بالمسافة التي ينبغي أن تبقى بين ما تقترحه الأداة وما يقرره الإنسان، فالتقنية مهما تطورت تظل مساعدة على اتخاذ القرار لا بديلا عنه، والفارق بين الاستخدامين دقيق لكنه حاسم. فحين يتحول ما تنتجه الأداة من رأي تتم مراجعته، إلى نتيجة يتم تبنيها مباشرة، تكون المؤسسة قد استغنت عن جزء من حكمها المهني دون أن تنتبه.
لا يكفي هنا الاطمئنان لوجود إنسان ضمن مسار القرار. فالرقابة البشرية لا تكتمل بمجرد الحضور، بل بامتلاك أدوات التحقق، والوقت الكافي، والوعي بحدود الأداة.
حين تغيب هذه العناصر أو أحدها، قد يتحول دور الإنسان إلى مجرد تصديق على ما أنتجته الآلة، بدلا من مراجعته فعليا. والمراجعة التي تأتي في اللحظة الأخيرة قد تنجح أحيانا، لكنها لا تصلح أساسا تبنى عليه قرارات متكررة.
الاتجاه العالمي يسير بشكل متسارع نحو مزيد من الاعتماد عليها، فقد أعلنت مؤسسات دفاعية كبرى إستراتيجيات لتسريع دمج الذكاء الاصطناعي في أعمالها، انطلاقا من قناعة بأن التأخر في هذا المجال يمثل مخاطرة بحد ذاته. لكن السرعة في تبني التقنية لا تعني التخفف من الحوكمة. المطلوب أن تتقدم القدرة والضوابط معا، لأن التقنية كلما اتسع استخدامها، أصبحت الحاجة إلى مراجعة مخرجاتها أكثر أهمية.
من هنا تبرز أهمية أن تتبنى الدول، بالتوازي مع قدراتها التقنية، أطرا واضحة تحدد أين يستخدم الذكاء الاصطناعي، وكيف تراجع مخرجاته، وأين تنتهي وظيفة الأداة ويبدأ حكم الإنسان.
هذا ما تعكسه التجربة السعودية من خلال تطوير أطر وإرشادات لحوكمة الذكاء الاصطناعي، من بينها الأدلة التي أصدرتها «سدايا» لاستخدام الذكاء الاصطناعي التوليدي، بالتوازي مع التوسع في تبني هذه التقنيات. فالثقة في الذكاء الاصطناعي لا تأتي من قدرته على إنتاج الإجابة بسرعة، بل من وجود آليات واضحة لمراجعتها وفهم حدودها.
ما جرى في هذه الواقعة ليس مجرد أداة أخطأت، بل درس في العلاقة التي ينبغي أن تحكم تعاملنا مع أدوات أصبح حضورها في اتخاذ القرار أوسع كل يوم.
الذكاء الاصطناعي يمكن أن يرفع جودة القرار وسرعته، ويمنح المؤسسات قدرات لم تكن متاحة من قبل، لكنه لا يعفي الإنسان من مسؤوليته عنه. وهذه هي الحدود التي ينبغي ألا تتلاشى مهما تطورت قدرات الأداة.
