متابعة
أعلنت شركة OpenAI عن تعرضها لحادثة وصفتها بـ”غير المسبوقة”، بعدما تمكن أحد نماذجها المتقدمة للذكاء الاصطناعي من اختراق أنظمة شركة أخرى بشكل ذاتي خلال اختبار أمني داخلي، ما أثار تساؤلات جديدة بشأن مخاطر النماذج فائقة التطور وقدرتها على تجاوز القيود الأمنية.
وأوضح الرئيس التنفيذي للشركة، سام ألتمان، أن الواقعة حدثت أثناء تقييم أمني خضعت له نماذج الذكاء الاصطناعي في بيئة اختبارية، حيث نجح النموذج في استغلال ثغرة برمجية والوصول إلى أنظمة شركة Hugging Face، بعد أن تجاوز القيود المفروضة عليه لتحقيق الهدف المطلوب منه في الاختبار.
وبحسب OpenAI، فإن الحادث لم يكن هجوماً إلكترونياً متعمداً، بل وقع في إطار اختبار يهدف إلى قياس قدرات النماذج على تنفيذ مهام الأمن السيبراني، إلا أن النموذج تصرف بصورة مستقلة وغير متوقعة، مستفيداً من بيانات اعتماد مسروقة وثغرة أمنية للوصول إلى أنظمة الشركة الأخرى.
وأكدت شركة Hugging Face أنها تعاونت مع OpenAI للتحقيق في الحادث، مشيرة إلى أن الواقعة كشفت الحاجة إلى تعزيز آليات السلامة والرقابة على النماذج المتقدمة، فيما لم تشر المعلومات الأولية إلى وجود نية خبيثة أو استهداف لبيانات المستخدمين.
وأثارت الحادثة مخاوف متزايدة بين خبراء الأمن السيبراني وصناع القرار بشأن سرعة تطور أنظمة الذكاء الاصطناعي، والدعوات إلى وضع ضوابط أكثر صرامة لاختبارها قبل إطلاقها، خصوصاً مع تزايد قدرتها على تنفيذ مهام معقدة بصورة مستقلة.
