سامي محروم : مؤسس شركة Spark X ورئيسها التنفيذي، شغل سابقا عِدّة مناصب في INSEAD (المعهد الأوروبي لإدارة الأعمال)، ومنظمة التعاون الاقتصادي والتنمية (OECD)، ومؤسسة Nesta.
منذ إطلاق ChatGPT في عام 2022، أصبحت الكتابة الـمُوَلَّدة باستخدام الذكاء الاصطناعي منتشرة في كل مكان. والآن، تكافح المؤسسات لمواكبة هذا التطور. وتتجلى الضغوط التي يفرضها هذا الانتشار بأعظم قدر من الوضوح في المحاكم. في الولايات المتحدة، ارتفعت نسبة الدعاوى القضائية الفيدرالية الـمُقامة دون الاستعانة بمحام من متوسط 11% في الفترة 2005–2022 إلى 16.8% في عام 2025، ويربط الباحثون هذه الزيادة بظهور الذكاء الاصطناعي. كما وجدت الدراسة ذاتها أن نسبة الشكاوى المدنية الفيدرالية التي تحتوي على نصوص مكتوبة آليا ارتفعت من 1% في عام 2023 إلى 18% اليوم.
في يوليو/تموز، حذر مكتب محاسبة الحكومة في الولايات المتحدة من أن مصلحة الضرائب الأميركية (مصلحة الإيرادات الداخلية IRS) تواجه خطر الغرق في سيل من التعليقات العامة المولدة باستخدام الذكاء الاصطناعي حول اللوائح الضريبية. وأشار المكتب إلى أن رصد التعليقات التي تكاد تكون متطابقة أصبح صعبا على نحو متزايد لأن النماذج اللغوية الضخمة قادرة على توليد تنويعات غير محدودة تقريبا لذات النص.
كما تتعرض الجهات الممولة للأبحاث لفيض مماثل. فقد ارتفعت طلبات الحصول على المنح المقدمة إلى 12 منظمة تمويلية في المملكة المتحدة وأوروبا بنسبة 57% منذ عام 2022، مدفوعة بزيادة كبيرة في الطلبات المدعومة بالذكاء الاصطناعي.
في الاستجابة لهذا الفيض من النصوص المولدة بالاستعانة بالذكاء الاصطناعي، بدأت الحكومات في أتمتة الجزء الخاص بها من العملية (تشغيله آليا). وكشفت دراسة استقصائية أجرتها منظمة التعاون الاقتصادي والتنمية (OECD) شملت 58 هيئة ضريبية وطنية أن 69% منها كانت تستخدم الذكاء الاصطناعي في عام 2023، مقابل 9% فقط في عام 2016. ومع تقدم قدرات الذكاء الاصطناعي، تطورت استخداماته أيضا، حيث تعتمد السلطات الضريبية الآن على هذه التكنولوجيا لدعم العمل التحليلي واختيار الحالات، وتحسين الخدمات المقدمة للمكلفين (دافعي الضرائب) بالاستعانة بمساعدين افتراضيين، وأتمتة المهام المتكررة الكبيرة الحجم.
لكن زيادة السعة تستدعي زيادة في الطلب. فقد تجد وكالة حكومية قادرة على معالجة ضعف عدد التعليقات العامة نفسها قريبا تتلقى ضعف هذا العدد. يطلق الباحث في مجال السلامة ديفيد وودز على هذه الحال وصف “قانون الأنظمة المجهدة“: فعندما يُدفع نظام ما إلى أقصى حدود سعته، سرعان ما يُـسـتَغَل كل تحسين للتشغيل على نطاق أضخم. ويربط وودز هذا المفهوم بما يسميه “أسطورة الاستبدال”، التي تزعم أن الأتمتة تحل ببساطة محل العمال البشريين، في حين أنها في الممارسة العملية تغير طبيعة العمل، وتخلق مزيدا منه غالبا.
ولكن من غير الممكن توسيع نطاق الإشراف البشري بذات القدر من السهولة. يشترط قانون الذكاء الاصطناعي في الاتحاد الأوروبي تصميم الأنظمة العالية المخاطر على نحو يجعل من الممكن الإشراف عليها بفعالية من قِـبَل “أشخاص طبيعيين”. كما يمنح قانون حماية البيانات في الاتحاد الأوروبي الأفراد الحق في الامتناع عن الخضوع لقرارات تستند حصريا إلى معالجة آلية.
ولا تستطيع الشركات والمؤسسات تلبية هذه المتطلبات من خلال وضع شخص بشري عند نهاية العملية. في حكمها الصادر عام 2023 في قضية SCHUFA، بشأن التصنيفات الائتمانية الآلية، قضت محكمة العدل الأوروبية بأن ما يهم هو ما إذا كان القرار النهائي يعتمد على التقييم الآلي، حتى لو احتفظ شخص من البشر رسميا بسلطة اتخاذ القرار. فالتوقيع الذي يقتصر على المصادقة على قرار آلي لا يرقى إلى كونه إشرافا حقيقيا.
باجتماع هاتين القوتين، تنشأ عقبة. فكل ما يسبق الشخص المسؤول ــ البحث، والفرز، والصياغة، والتدقيق، والتوجيه ــ يصبح أسرع، في حين لا ينطبق هذا على الشخص المسؤول. يؤدي سيل المحتوى المولد باستخدام الذكاء الاصطناعي إلى زيادة الطلب على الحكم البشري، لكن معدل اتخاذ القرارات يظل دون تغيير.
توضح دراسة هندسية حديثة هذه المشكلة. في وضع النماذج لعملية ترخيص المفاعلات النووية، قارن مؤلفو الدراسة بين العملية اليدوية الحالية وعمل بديلين آليين. ووجدوا أن الجدول الزمني المتوقع حتى مع الأنظمة الآلية الأكثر تكاملا ــ حوالي 15 شهرا ــ لم يتغير حتى مع تحسن قدرات الذكاء الاصطناعي المفترضة من تقدير متحفظ إلى تقدير متفائل. كان عنق الزجاجة متمثلا في طابور كبار المراجعين المسؤولين عن الموافقات النهائية على الحالات الأكثر تعقيدا، والذين لم يتمكنوا من إنجاز سوى حوالي ثلاث حالات في اليوم. بعبارة أخرى، لن تساهم مضاعفة قدرات الآلات إلا قليلا في تسريع عملية المراجعة.
استخدمت الحكومات حتى الآن الذكاء الاصطناعي في دراسة الوثائق، وتلخيص القضايا، وفرز التعليقات، وصياغة المراسلات. هذه مهام طبيعية للذكاء الاصطناعي لآن تشغيلها آليا ممكن دون تفويض قرارات عظيمة الأثر إلى آلات. ولكن عندما لا تتوسع القدرة على اتخاذ القرار بذات المعدل، فإن التشغيل الآلي لا يُـفضي إلا إلى نقل عنق الزجاجة بدلا من إزالته، بل وقد يتسبب في تفاقمه.
البديل ليس السماح للآلات باتخاذ القرار، وهو ما يحظره القانون في حالات معينة، كما أنه تصرف غير حكيم في عموم الأمر، بل استخدامها لتخفيف العبء المعرفي الذي تفرضه ضرورة التوصل إلى قرار، مع ترك الحكم ذاته لشخص من البشر.
يقدم نموذج الذاكرة العاملة الذي وضعه عالم النفس البريطاني آلان بادلي طريقة مفيدة للتأمل في هذا الأمر. تحتفظ أجزاء من ذاكرتنا العاملة بالمعلومات اللفظية والبصرية وتعالجها، بينما يتولى جزء آخر، يطلق عليه بادلي مسمى “السلطة التنفيذية المركزية”، توجيه وتوزيع انتباهنا المحدود. الذكاء الاصطناعي قادر الآن بالفعل على قراءة، وتنظيم، ومقارنة، وعرض المعلومات، ولكن يظل تحديد ما يستحق الانتباه وممارسة الحكم وظيفتين بشريتين بامتياز.
لذا، ينبغي أن يكون الهدف من تبني الذكاء الاصطناعي تسهيل عملية اتخاذ القرارات على المسؤولين الحكوميين من خلال تطوير أدوات تحدد المفاضلات وأوجه انعدام اليقين، وتقدم الحجج المتنافسة بشكل عادل، وتعترف بحدودها الخاصة. من المؤسف أن بناء مثل هذا النظام أصعب من بناء أداة تلخيص، كما أنه لا يشكل حجة مبيعات مؤثرة، لأن مخرجاته ستبدو أشبه بمذكرات موجزة أفضل من كونها ذريعة لإلغاء أقسام بأكملها.
هذه المشكلة ليست جديدة. في عام 1983، حذرت عالمة النفس الإدراكي ليسان باينبريدج من “مفارقات الأتمتة”: فمع تولي الآلات معالجة الحالات الأسهل، يُترك للبشر التعامل مع الحالات الصعبة. ورغم أن باينبريدج كانت تكتب عن أنظمة التحكم في العمليات الصناعية، فإن المنطق ذاته ينطبق على الذكاء الاصطناعي. تقيس الوكالات الحكومية عدد الطلبات التي خضعت للمعالجة، والقضايا المغلقة، وأوقات الاستجابة، وبشكل متزايد، المهام التي يجري تشغيلها آليا. لكنها لا تقيس حجم العمل الإضافي الذي يُطلب من صُـنّاع القرار التعامل معه.
كلما ازداد حجم العمل الذي تستطيع نماذج الذكاء الاصطناعي معالجته، يزداد ما يُترك للبشر اتخاذ القرار بشأنه. وما لم تضع الحكومات هذا الاختلال في الحسبان، فقد تكتشف أنها شغلت كل شيء آليا دون أن تحقق مكاسب تذكر.
