جابرييلا راموس : الرئيسة الـمُشارِكة لفريق العمل المعني بفجوات التفاوت والإفصاح المالي المرتبط بالشؤون الاجتماعية، شغلت سابقا منصب المدير العام المساعد لقسم العلوم الاجتماعية والإنسانية في منظمة اليونيسكو، حيث أشرفت على صياغة “التوصية بشأن أخلاقيات الذكاء الاصطناعي”، ومنصب رئيس ديوان منظمة التعاون الاقتصادي والتنمية (OECD) وكانت مستشارة خاصة لدى مجموعة العشرين، ومجموعة السبع، ومنتدى التعاون الاقتصادي لدول آسيا ومنطقة المحيط الهادئ.
قبل عدّة سنوات، طرحتُ أنا وماريانا ماتسوكاتو سؤالا بسيطا: من يتولى المسؤولية إذا ساءت الأمور في عالَم الذكاء الاصطناعي؟ لا يزال هذا السؤال دون إجابة، حتى بعد أن اجتمع مجلس الأمن التابع للأمم المتحدة الأسبوع الماضي لمناقشة المخاطر التي تهدد وجود البشر والتي يفرضها الذكاء الاصطناعي.
شارَك في هذا الاجتماع رؤساء شركات التكنولوجيا التنفيذيون أنفسهم الذين يدعون الآن إلى وقف مؤقت لتطوير الذكاء الاصطناعي، في حين يسارعون في الوقت ذاته إلى بناء أنظمة أكثر قوة في سباق نحو القاع. كان يوشوا بنجيو، الرئيس المشارك للجنة العلمية الدولية المستقلة المعنية بالذكاء الاصطناعي وأحد أبرز المدافعين عن سلامة الذكاء الاصطناعي، صاحب الصوت الوحيد من خارج القطاع. وباستثناء ممثلي الدول الأعضاء، لم يتحدث أي شخص من الجنوب العالمي أو المجتمع المدني، ولا أي امرأة. وكان من الممكن معالجة هذا الإغفال الأخير بتوجيه الدعوة إلى رئيسة اللجنة المشارِكة الأخرى، الحائزة على جائزة نوبل للسلام ماريا ريسا.
بعيدا عن الإطار الإشكالي، حال تفويض مجلس الأمن المرتبط بالسلام والأمن دون إجراء مناقشة أكثر شمولا لكل المخاطر التي قد يفرضها الذكاء الاصطناعي. وقد أشار كثيرون من الأعضاء إلى أن عمل المجلس يجب ألا يتعارض مع وكالات الأمم المتحدة الأخرى التي تتعامل هي الأخرى مع هذه القضايا. وكما تقول العبارة المأثورة القديمة، عندما يكون الجميع مسؤولين، لا يكون أحد مسؤولا.
كانت العواقب الاجتماعية، والاقتصادية، وتلك التي يخلفها الذكاء الاصطناعي على العمل غائبة عن إحاطة مجلس الأمن، حتى برغم أنها تؤثر بالفعل على حياة الناس وقد تكون على ذات القدر من خطورة فقدان السيطرة على تطبيقات الذكاء الاصطناعي الوكيل. الواقع أن الذكاء الاصطناعي يعزز أوجه التفاوت القائمة من خلال التمييز الخوارزمي والتفاوت في القدرة على الوصول إلى التكنولوجيات، ورأس المال، والقدرة الحاسوبية. وهو يهدد أيضا بإزاحة الحكم البشري والإرادة الحرة، بينما يتسبب في تآكل مهاراتنا الإدراكية، والعاطفية، والتفاعلية، كما يوضح عمل فلاديمير شوشا. ثم هناك أيضا تأثيراته على صحة الشباب النفسية والعنف الذي ينال من النساء عبر الإنترنت، كما هو موثق في تقريرنا بعنوان All In الذي أطلقناه في الجمعية العامة للأمم المتحدة.
كما كَرَّسَ الاجتماع قدرا غير متناسب من الاهتمام للتكنولوجيات ذاتها وكيفية إصلاحها. هذا التركيز يحول دون تمكيننا من معالجة الـبُنى السياسية والاقتصادية التي تشكل الأساس الذي يقوم عليه عدد كبير من هذه المشكلات. قبل ظهور الذكاء الاصطناعي بزمن بعيد، كانت عشرات السنين من العولمة غير المقيدة تفضل بالفعل رأس المال على العمالة، على النحو الذي أفضى إلى تركيز الدخل والثروة في أيدي قِلة عند القمة، بينما حُرمت الغالبية العظمى من الأمن الاقتصادي.
كان نهج عدم التدخل في الأسواق العالمية سببا في الإبقاء على البلدان المنخفضة الدخل في حالة من الضعف الاقتصادي، في حين أنتج عددا لا بأس به من الشركات التي تتجاوز قيمتها التريليون دولار وثروات خاصة هائلة. وقد خلق أيضا اقتصادا سياسيا يقاوم الإصلاح، خاصة في الولايات المتحدة. كان اتفاق منظمة التعاون الاقتصادي والتنمية (OECD) عام 2021 بشأن فرض ضريبة حد أدنى عالمية على الشركات بنسبة 15% خطوة كبيرة في الاتجاه الصحيح، لكن هذا الجهد انهار عندما قرر الرئيس دونالد ترمب، فور عودته إلى البيت الأبيض، سحب الولايات المتحدة من الاتفاق، تاركا عمالقة التكنولوجيا يزدادون ثراء وقوة. هذه هي أجواء الاقتصاد السياسي التي حَلّ فيها الذكاء الاصطناعي.
كان ينبغي لاجتماع الأمم المتحدة أن يدرس الاقتراح المقدم من فنلندا والنرويج وأكثر من 20 دولة أخرى بشأن بروتوكولات السلامة المشتركة، وتقييمات المخاطر الإلزامية قبل الإطلاق، والتقييمات المستقلة، وإنشاء وكالة دولية للإشراف على الذكاء الاصطناعي الرائد.
تعرف الحكومات كيف تتحرك بسرعة عندما تكون راغبة في ذلك. وقد لمست ذلك بنفسي خلال سنوات عملي في منظمة التعاون الاقتصادي والتنمية وبصفتي رئيسة لديوان موظفي مجموعة العشرين ومستشارة خاصة لها. فعندما اندلعت الأزمات، لم تقضِ الدول الأعضاء سنوات في التفاوض على بيانات طويلة أو في انتظار التوافق المؤسسي المثالي. بل ركزت على المشكلة المطروحة وما يتعين على الهيئة الجديدة القيام به. فقد أُنشئت الوكالة الدولية للطاقة بسرعة في أعقاب أزمات النفط في سبعينيات القرن الماضي، كما أُنشئت فرقة العمل المعنية بالإجراءات المالية في عام 1989 لمكافحة غسل الأموال. وفي وقت أقرب إلى الزمن الحاضر، عمل الإطار الشامل التابع لمنظمة التعاون الاقتصادي والتنمية المعني بتآكل القاعدة الضريبية ونقل الأرباح (BEPS) على جمع الدول معا لمعالجة التهرب الضريبي من جانب الشركات، بما في ذلك من خلال تطبيق معدل الحد الأدنى 15%.
ينبغي لنا اتباع النهج ذاته في التعامل مع الذكاء الاصطناعي. فبدلا من الانغماس في الإجراءات، يجب علينا أن نبدأ بما يتعين على هيئة دولية معنية بالذكاء الاصطناعي أن تقوم به من عمل، ثم نزودها بما يلزمها من الخبرة والميزانية لتنفيذ ذلك العمل. هذا من شأنه أن يساعدنا في مواجهة التحدي الذي طرحه مستشار البيت الأبيض لشؤون العلوم والتكنولوجيا، مايكل كراتسيوس، الذي قال أمام مجلس الأمن التابع للأمم المتحدة: “لا يمكنكم التحكم في تكنولوجيا لا تفهمونها”.
يدعو الاقتراح الفنلندي-النرويجي إلى إنشاء مؤسسة دولية قادرة على وضع المعايير وتنسيق استجابة جماعية عندما تتجاوز قدرات أنظمة الذكاء الاصطناعي عتبات خطيرة. كما يدعو إلى إنشاء آليات تقييم مستقلة. ولكن ينبغي للاقتراح أن يذهب إلى أبعد من ذلك من خلال إنشاء سجلات مخاطر إلزامية وآلية طوارئ على غرار ما يُقال إن الولايات المتحدة والصين تعملان عليه بالفعل. ينبغي لهذه التقييمات أن تراعي أيضا تأثير الذكاء الاصطناعي على الناس.
لكي ينجح أي من هذا، تحتاج المؤسسة إلى هيئة فنية مستقلة. على سبيل المثال، تعمل الهيئة التي تخدم اتفاقية منظمة التعاون الاقتصادي والتنمية بشأن مكافحة الرشوة على إعداد تقييمات لكل بلد تُعتمد بموجب قاعدة الإجماع ناقص واحد. قد تحدد الدول المعايير العالمية لمكافحة الفساد على نحو مختلف وفقا لتقاليدها القانونية، لكن مبدأ “التكافؤ الوظيفي” يساعد على ضمان تمكين هذه الأساليب القانونية المختلفة من تحقيق نتائج قابلة للمقارنة. سوف تحتاج المؤسسة أيضا إلى التعاون مع مؤسسات دولية أخرى لضمان عمل الذكاء الاصطناعي على دعم التنمية البشرية.
هذا يتركنا أمام السؤال حول من سيمثل كل دولة عضو في هيئة دولية جديدة معنية بالذكاء الاصطناعي. تعمل لجنة بازل للرقابة المصرفية بنجاح لأنها تجمع بين مسؤولين مكلفين بذات الصلاحيات والمسؤوليات تقريبا. ولا يوجد ما يعادل ذلك في مجال الذكاء الاصطناعي. الواقع أن قِـلة من البلدان لديها وزارة معنية بالذكاء الاصطناعي، وتلك الموجودة لا تملك القدرة على التحقيق في سلوكيات السوق أو معاقبتها. وإلى أن نطور المؤسسات اللازمة على المستويين الوطني والدولي، سيظل سؤالنا الأصلي ــ “من يتولى المسؤولية عندما تسوء الأمور؟” ــ مفتوحا في انتظار إجابة، ما يترك العالم عُرضة لمخاطر لا يمكن تصورها.
