متابعة
أثار نموذج للذكاء الاصطناعي طورته شركة «أنثروبيك» الأمريكية جدلا بشأن سلامة الأنظمة المستقلة، بعدما أرسل بلاغا يتضمن معلومات مختلقة إلى شرطة مدينة فيلادلفيا، بشأن جريمة قتل لا تزال دون حل، خلال اختبارات آلية للتفاعل مع مواقع إلكترونية، في واقعة دفعت السلطات المحلية إلى انتقاد الشركة بسبب تأخرها في اكتشاف الحادث والإبلاغ عنه.
وكشفت الشركة، في تقرير نشرته الجمعة، أن الواقعة حدثت في 18 يوليوز الماضي، عندما استخدم نموذج «كلود هايكو 4.5» موقعا إلكترونيا تابعا للشرطة، مخصصا لتلقي إفادات المواطنين بشأن جرائم القتل غير المحلولة، لإرسال معلومات لا تستند إلى أي معطيات حقيقية متوفرة لديه حول القضية.
وتضمنت الرسالة ادعاء بأن مرسلها يتذكر مشاهدة شخص تتطابق أوصافه مع أوصاف المشتبه به في المنطقة وقت وقوع الجريمة، رغم أن الموقع لم يقدم أي وصف للمشتبه فيه، ما أكد أن المعلومات الواردة في البلاغ كانت من اختلاق النموذج.
وأوضحت «أنثروبيك» أن النظام كان يخضع لاختبارات تهدف إلى تقييم قدرته على التفاعل مع مواقع إلكترونية اختيرت عشوائيا، مشيرة إلى أن التعليمات الموجهة إليه كانت تمنعه من إدخال بيانات شخصية، لكنها لم تحظر عليه بشكل صريح إرسال الاستمارات الإلكترونية.
واعتبرت الشركة أن النموذج أنشأ محتوى تجريبيا دون قصد تضليل السلطات، غير أن هذا السلوك أدى إلى إرسال بلاغ فعلي إلى منصة تابعة لشرطة فيلادلفيا، خارج البيئة التي كان من المفترض أن تظل الاختبارات محصورة فيها.
من جهتها، أكدت شرطة فيلادلفيا أن البلاغ صُنّف ضمن الرسائل غير المرغوب فيها، ولم يصل إلى المحققين المكلفين بالقضية، مشددة على عدم وجود مؤشرات على اختراق أنظمة الشرطة أو الوصول غير المصرح به إلى بياناتها المعلوماتية.
غير أن السلطات انتقدت تأخر الشركة في التعامل مع الواقعة، إذ لم تكتشف «أنثروبيك» الحادث إلا في 28 شتنبر الماضي، قبل أن تبلغ الشرطة في السابع من أكتوبر الجاري، أي بعد أكثر من شهرين على إرسال البلاغ.
ونقلت وكالة فرانس برس عن الشرطة وصفها لهذا التأخر بأنه «غير مقبول»، مؤكدة أن الإجراءات الوقائية حالت دون وصول المعلومات المزيفة إلى المحققين، لكنها شددت على أن ذلك لا ينفي خطورة تقديم نظام للذكاء الاصطناعي معلومات مختلقة في إطار قضية جنائية حقيقية.
وأبرزت السلطات أن قضايا جرائم القتل غير المحلولة ترتبط بضحايا حقيقيين وعائلات تنتظر كشف الحقيقة، إلى جانب محققين يواصلون جهودهم للوصول إلى إجابات، وهو ما يفرض التعامل مع هذه الملفات بمسؤولية ودقة كبيرتين.
وبحسب الشرطة، أوقفت «أنثروبيك» الاختبار الآلي المعني فور اكتشاف الواقعة، وأضافت خطوة للتحقق قبل تنفيذ اختبارات مماثلة مستقبلا، كما عقد ممثلون عن الطرفين اجتماعا في الثامن من أكتوبر لمناقشة ملابسات الحادث.
ولم تقتصر التجاوزات المسجلة خلال اختبارات الشركة على هذا الحادث، إذ كشف تقريرها عن وقائع أخرى، من بينها استغلال أحد الأنظمة ثغرة لتنفيذ أوامر على خادم تابع لإحدى الجامعات، وتمكن نموذج آخر من الحصول على بيانات من وكالة عمومية دون أداء المقابل المطلوب.
وأشارت الشركة إلى أن بعض المواقع المتأثرة بهذه التصرفات تابعة لإدارات أمريكية، مؤكدة أنها أبلغت الجهات المعنية والبيت الأبيض بهذه الحوادث، وقررت قطع الاتصال بالإنترنت عن جميع عمليات التقييم الداخلية لنماذجها.
ورغم تصنيف «أنثروبيك» هذه الوقائع ضمن الحوادث الأقل خطورة مقارنة بحالات سابقة رصدتها خلال الصيف، حذرت من أن السلوكيات نفسها قد تفضي إلى عواقب أشد خطورة مع تطوير نماذج أكثر تقدما وقدرة على تنفيذ المهام بصورة مستقلة.
وكانت الشركة قد كشفت، في التاسع من شتنبر الماضي، عن أربع حالات تمكنت خلالها نماذج تابعة لها من الوصول دون تصريح إلى أنظمة معلوماتية لجهات خارجية أثناء اختبارات للأمن السيبراني، بعدما أدى خطأ في الإعدادات إلى استمرار اتصالها بالإنترنت.
وتعيد هذه الحوادث تسليط الضوء على المخاطر المرتبطة بتطوير «وكلاء الذكاء الاصطناعي»، وهي أنظمة قادرة على تنفيذ مهام متعددة عبر الإنترنت نيابة عن المستخدمين، مع امتلاك هامش من الاستقلالية في اتخاذ القرارات والتفاعل مع الخدمات الرقمية.
وفي السياق ذاته، شهدت شركات تكنولوجية أخرى حوادث مماثلة خلال الأشهر الماضية، إذ أفادت تقارير بخروج مئات الوكلاء التابعين لشركة «أوبن إيه آي» من بيئة الاختبار في يوليوز الماضي، ووصولهم إلى خوادم منصة «هاغينغ فايس»، ما جدد النقاش حول ضرورة إخضاع الأنظمة المستقلة لآليات رقابة أكثر صرامة، خصوصا عند منحها القدرة على التفاعل المباشر مع الإنترنت.
