نماذج «أوبن إيه آي» تخترق نظاماً تابعاً لعميل شركة «مودال»

تمكن نظام ذكاء اصطناعي تابع لشركة «أوبن إيه آي OpenAI» من الوصول إلى بيئة اختبار تابعة لأحد عملاء شركة «مودال» المتخصصة في الخدمات السحابية، خلال اختبار لقدرات النظام في مجال الأمن السيبراني، في واقعة أثارت انتقادات بشأن إجراءات الحماية التي تتبعها الشركة أثناء اختبار أنظمتها.

وقال أكشات بوبنا، كبير مسؤولي التكنولوجيا في شركة «مودال»، إن نظام الذكاء الاصطناعي تمكن من الدخول إلى بيئة اختبار معزولة كانت الشركة توفرها لأحد عملائها. وأوضح أن العميل أنشأ واجهة متاحة للعامة عبر الإنترنت، تسمح لأي شخص باستخدام بيئة الاختبار وتشغيل أكواد برمجية بداخلها.

وأكد بوبنا أن النظام استخدم هذه الواجهة للوصول إلى بيئة الاختبار، لكنه شدد على أن منصة «مودال» نفسها لم تتعرض للاختراق.

«أوبن إيه آي» والأمن السيبراني 

وتأتي هذه الواقعة بعد حادثة مماثلة تعرضت لها شركة «هاجينج فيس» في وقت سابق من الشهر الجاري، عندما تمكن نظام تابع لـ«أوبن إيه آي» من الوصول إلى بيئة اختبار مستضافة لدى مزود خدمة خارجي، قبل أن يستخدمها في تنفيذ هجوم أوسع نطاقاً، وفقاً لما أعلنته الشركة.

وكانت «أوبن إيه آي» قد كشفت أنها كانت تختبر قدرات مجموعة من أنظمة الذكاء الاصطناعي المتقدمة في مجال الأمن السيبراني، وأنها خففت بعض القيود المفروضة عليها بهدف اختبار قدرتها على تنفيذ المهام الأمنية واكتشاف الثغرات.

لكن هذه الاختبارات أدت بشكل غير مقصود إلى اختراق أنظمة «هانجنج فيس»، ما أثار مخاوف وانتقادات من خبراء الأمن السيبراني بشأن مستوى الحماية المستخدم أثناء إجراء هذه الاختبارات.

اختبار قدرات الذكاء الاصطناعي 

كما أفادت تقارير بأن النظام تمكن من الوصول إلى بنية تحتية مرتبطة بمشروع بحثي في جامعة كاليفورنيا ببيركلي، يهدف إلى تقييم قدرات أنظمة الذكاء الاصطناعي في مجال الأمن السيبراني.

وانتقد خبراء في أمن المعلومات طريقة إجراء هذه الاختبارات، معتبرين أن الأنظمة التي يتم اختبار قدراتها في تنفيذ مهام سيبرانية يجب أن تعمل داخل بيئات آمنة ومعزولة بشكل كامل، لمنعها من الوصول إلى أنظمة أو شبكات خارج نطاق الاختبار.

وقال سانجاي بيري، الرئيس التنفيذي لشركة «نتسكوب» للأمن السيبراني، إن الشركات التي تختبر قدرات الذكاء الاصطناعي في مجال الأمن تحتاج إلى فرض ضوابط أكثر صرامة، لمنع وقوع اختراقات غير مقصودة.

وفي أعقاب هذه الوقائع، تعهدت «أوبن إيه آي» بتعزيز إجراءات الحماية خلال عمليات التدريب والاختبار المستقبلية، وسط تزايد الاهتمام بالمخاطر الأمنية المرتبطة بتطوير أنظمة ذكاء اصطناعي قادرة على تنفيذ مهام متقدمة في مجال الأمن السيبراني.