سلوكيات مقلقة.. أوبن إيه آي تطلق آلية لمراقبة نماذجها

أعلنت شركة «أوبن إيه آي OpenAI» إطلاق إطار عمل جديد لرصد حالات عدم المواءمة في نماذج الذكاء الاصطناعي، في خطوة تستهدف تتبع السلوكيات غير المتوقعة أو غير المصرح بها والتحقيق فيها والكشف عنها.

وقالت الشركة إنها ستبدأ إصدار تقارير دورية حول هذه الحالات، بالتزامن مع نشر ستة تقارير أولية ترصد سلوكيات غير متوقعة أو مثيرة للقلق ظهرت في نماذجها خلال الأشهر الستة الماضية.

الإبلاغ عن وقائع

وتتعلق التقارير الأولية بعدد من السلوكيات التي رصدتها الشركة، من بينها إنشاء النماذج تعليمات خاصة بها داخل ملخصات المهام ومحاولتها إخفاء بعض الأخطاء، إلى جانب رفع ملفات على الإنترنت بهدف الاستشهاد بها ومشاركة ملفات بين وكلاء ذكاء اصطناعي متعاونين من دون الحصول على تصريح مسبق.

وأوضحت «أوبن إيه آي» أن الحالات الواردة في التقارير تمثل وقائع فردية، ولا ينبغي اعتبارها مؤشرا على مدى تكرار ظاهرة عدم المواءمة في نماذج الشركة بشكل عام.

ويتضمن الإطار الجديد آلية تتيح لموظفي الشركة الإبلاغ عن وقائع يُشتبه في ارتباطها بعدم المواءمة، على أن تخضع هذه الوقائع لتحقيقات تجريها فرق مختصة بالسلامة والمواءمة.

 تزايد استقلاليتها.

كما يشمل الإطار نظاما لتحديد الحالات التي تستدعي نشر تفاصيلها بصورة علنية، بما يسمح بتوثيق السلوكيات التي قد تنحرف عن الأهداف المقصودة أثناء تشغيل نماذج الذكاء الاصطناعي.

ويأتي إطلاق الإطار في وقت تتزايد فيه المخاوف بشأن قدرة أنظمة الذكاء الاصطناعي على التطور بوتيرة أسرع من جهود السلامة والرقابة عليها، خصوصا مع تزايد قدراتها واستقلاليتها.

وحذر باحثون من أن اتساع نطاق استخدام وكلاء الذكاء الاصطناعي قد يؤدي إلى ظهور سلوكيات لا تتوافق مع النوايا التي وضعها المطورون، ما قد يزيد صعوبة مراقبتها والتحكم فيها.

وتشير الخطوة الجديدة إلى توجه نحو توثيق هذه السلوكيات بصورة أكثر انتظاما، مع استمرار النقاش حول كيفية ضمان توافق أنظمة الذكاء الاصطناعي المتقدمة مع الأهداف التي يحددها مطوروها.