الذكاء الاصطناعي المؤسسي لا يجيد الحساب — LG Electronics قاسته. وهذا هو الحل

ما الذي اختبرته LG فعلًا — ولماذا هو اختبارك أنت أيضًا

الورقة — تقييم اتساق الحقائق في توليد نص-إلى-SQL لذكاء الأعمال (arXiv:2505.00060) — ليست معيارًا نظريًا. بنى الباحثون 219 سؤال أعمال في خمسة مستويات تعقيد، مأخوذة من بيئة BigQuery حقيقية، لكل منها استعلام مرجعي وإجابة صحيحة موثّقة. ثم قيّموا ليس فقط ما إذا كان الاستعلام يعمل، بل ما إذا كانت الإجابة صحيحة فعلًا.

الإخفاقات لم تكن عشوائية؛ تجمّعت بالضبط حيث يهمّ المدير المالي: منطق حسابي خاطئ (دقة 4% في الفئة الأصعب)، وفلترة ناقصة، وتجميع خاطئ (31%). النموذج لم يتعطّل — أنتج أرقامًا خاطئة بثقة وتنسيق جميل. وخلاصة الباحثين صريحة: الاستخدام المؤسسي يحتاج إلى طبقات تحقق من اتساق الحقائق — طريقة لمعرفة أن الإجابة صحيحة قبل أن تصل إلى من سيتصرف بناءً عليها.

الفيلم نفسه، على أرض الواقع في منطقتنا

منصة رواتب خليجية ربطت مساعدًا ذكيًا بقاعدة بيانات الموارد البشرية وسألت أبسط سؤال: كم عدد موظفينا؟ أجاب الذكاء الاصطناعي: 100 — بثقة وسرعة وصياغة متقنة. الإجابة الحقيقية كانت 80. عشرون من تلك الصفوف لموظفين أُنهيت خدماتهم — مُعلَّمين كذلك في عمود الحالة، لكن لا شيء في قاعدة البيانات يخبر الذكاء الاصطناعي أن «منتهية خدمته» تعني «لا يُحسب». كانت تلك القاعدة تعيش في كود التطبيق وفي رأس أحد المطورين. الاستعلام كان سليمًا نحويًا؛ والإجابة خاطئة بنسبة 25% — ولم يكن أحد ليكتشف ذلك حتى يصل الرقم إلى اجتماع مجلس الإدارة.

القصة نفسها في شركة أخرى: موظفة سألت عن رصيد أيام عملها التجريبية. الرقم غير موجود أصلًا في قاعدة البيانات — كان يُحسب في الواجهة الأمامية ولا يُخزَّن أبدًا. والذكاء الاصطناعي، متعاونًا كعادته، أنتج رقمًا على أي حال. طليقًا، ودودًا، مختلَقًا. هذه ليست حالات حدّية؛ هذا ما ينتجه «ربط النموذج بقاعدة البيانات» على بيانات شركات حقيقية، في أول يوم عمل.

الحل بنيوي، وله شقّان

أولًا، قواعد العمل يجب أن تصبح حقائق صريحة قابلة للقراءة الآلية. «عدد الموظفين يستبعد المنتهية خدمتهم والمحذوفين». «أيام العمل = تاريخ التعيين حتى اليوم، ناقص عطلات نهاية الأسبوع والأعياد». حين تُكتب هذه كتعريفات مُعتمدة — يراجعها ويوقّعها صاحب العمل ولا يخمّنها النموذج — فإن فئة خطأ 100 مقابل 80 لا تصغر؛ بل تختفي. يتحوّل سؤال «كم عدد الموظفين؟» من مشكلة توليد إلى مشكلة توجيه: نفّذ الاستعلام المُثبت مسبقًا، وأظهر الفلتر الذي طُبّق.

ثانيًا، كل إجابة تحتاج إلى إثبات. ليس «ثق بي» — بل سطر يقول ما الذي سُئل، وما البيانات التي لُمست، وما التعريف المستخدم، وما الذي غادر البيئة (لا شيء). حين تحمل الإجابة دليلها معها، يكتشف من يعرف الحقيقة القاعدةَ الخاطئة في ثوانٍ، بدلًا من أن تظهر في مراجعة ربع سنوية. هذا ما يسميه باحثو LG طبقة التحقق من اتساق الحقائق، مترجمةً من الأكاديمية إلى التشغيلية: إجابات مُعتمدة، مع إثبات، أو «لا أعرف» صادقة.

لماذا يهمّ هذا في منطقتنا أكثر من أي مكان آخر

الخليج ليس سوقًا تُحسب فيه الأرقام الخاطئة الواثقة هامش خطأ. نظام حماية البيانات الشخصية السعودي — النافذ كليًا منذ سبتمبر 2024 مع 48 قرار مخالفة من سدايا في 2025 — تصل غراماته إلى 5 ملايين ريال. والتنظيم العاشر في مركز دبي المالي العالمي — الصادر في سبتمبر 2023 والمعدَّل في يوليو 2025 — يطبّق التزامات حماية البيانات على الأنظمة المستقلة وشبه المستقلة أصلًا، ويُراجَع الآن عبر مشاورة عامة فُتحت في يونيو 2026. ومصرف قطر المركزي يمكنه تدقيق أنظمة الذكاء الاصطناعي في القطاع المالي مباشرة.

والمال على المحك جيليّ: تقدّر PwC أن الذكاء الاصطناعي سيسهم بـ320 مليار دولار في اقتصاد الشرق الأوسط بحلول 2030، منها 135.2 مليار في السعودية وحدها، ويُتوقع نمو سوق الذكاء الاصطناعي الخليجي من 6.2 مليار إلى 23 مليار دولار بحلول 2034. كل ريال من ذلك يمرّ بأسئلة مثل «كم عدد الموظفين؟» — آلاف المرات يوميًا، في آلاف الشركات. الشركات التي ستكسب هذا العقد لن تكون صاحبة أبهج عرض تجريبي؛ بل تلك التي يستطيع ذكاؤها الاصطناعي إثبات إجاباته.

المبدأ يتقارب

لسنا الوحيدين الذين يرون ذلك. ففي وقت سابق هذا العام، نشرت IBM معمارية «الحوكمة بالبناء» للوكلاء العموميين (arXiv:2605.20874) — فرض السياسات قبل التخطيط، وموافقة بشرية للإجراءات عالية المخاطر، وضبط المخرجات — وهي تصل إلى مبدأ مشابه إلى حد لافت. وورقة مرافقة عن الاستدلال الحاكم قبل الفعل (arXiv:2604.25684) تسجّل دقة امتثال 95% بصفر تصعيد خاطئ. حين تتقارب أكبر المختبرات المؤسسية على الواجب نفسه، يتوقف السؤال عن «هل هذا حقيقي؟» ويصبح «من ينفّذه الأفضل لبياناتي ولغتي ومنظّمي؟»