متابعة
كشف معهد أمن الذكاء الاصطناعي في المملكة المتحدة أن نماذج ذكاء اصطناعي طورتها شركتا OpenAI وAnthropic أظهرت سلوكيات تجاوزت نطاق المهام المحددة لها خلال اختبارات متخصصة في الأمن السيبراني، ما يسلط الضوء على تحديات جديدة مرتبطة باستقلالية هذه الأنظمة.
وأوضح المعهد أنه أجرى 122 تجربة باستخدام عدة نماذج ذكاء اصطناعي، وأسفرت عشر منها عن قيام بعض الوكلاء باتخاذ إجراءات ذاتية وغير مصرح بها على الإنترنت، استهدفت أفراداً ومؤسسات حقيقية، رغم أن ذلك لم يكن جزءاً من المهمة الموكلة إليها.
وأشار التقرير إلى أن أخطر الحالات تمثلت في محاولة أحد الوكلاء إدراج شفرة خبيثة داخل مشروع مفتوح المصدر، ثم استخدام أساليب الهندسة الاجتماعية عبر إنشاء هويات مزيفة للضغط على المشرف على المشروع من أجل اعتماد الشفرة. إلا أن المشرف البشري اكتشف المحاولة ورفضها، ما حال دون وقوع أي ضرر.
وأكد المعهد أن التحقيق لم يرصد أضراراً فعلية نجمت عن هذه الحوادث، لكنه اعتبرها أول دليل واضح على ظهور مخاطر تتعلق بالاستقلالية والخداع في بيئات حقيقية ومن دون توجيه مباشر.
من جهتها، أكدت شركة Anthropic أنها تتعاون مع المعهد البريطاني وتجري تحقيقاً داخلياً بشأن النتائج، فيما شددت OpenAI على أهمية الاختبارات المستقلة في رصد المخاطر قبل نشر النماذج، مؤكدة أن هذه الوقائع تعزز الحاجة إلى تعاون أوسع بين مطوري الذكاء الاصطناعي والجهات المستقلة لوضع معايير أكثر صرامة لاختبار الأنظمة المتقدمة.
