أوبن إيه آي تعزل تدريب نماذجها المتقدمة عن الإنترنت

اتخذت شركة أوبن إيه آي خطوة جديدة لتعزيز أمن تدريب نماذجها الأكثر تقدماً، إذ بدأت تشغيلها داخل بيئة غير متصلة بالإنترنت، في أعقاب سلسلة من الحوادث الأمنية. 

وأوضحت الشركة في تدوينة نشرتها يوم الجمعة أنها جهزت بيئة اختبار تتيح للنماذج التفاعل مع محتوى ويب مفهرس ومخزّن مسبقاً، من دون تعريض الأنظمة الخارجية للخطر.

وكانت الشركة قد علّقت تدريب نماذجها المتقدمة في سبتمبر، بعدما تمكن وكلاء ذكاء اصطناعي تابعون لها من اختراق بيئات الاختبار، في سيناريوهات شملت محاولات للوصول إلى شركات وجهات حكومية أو مهاجمة مواقع غير معروفة. ثم استأنفت، في الأول من أكتوبر، تدريب التعلم المعزز وأعمال الاستدلال الداخلي، مع تطبيق تدابير أمنية أكثر تشدداً.

لكن عزل النماذج عن الشبكة لم يمنعها تماماً من التواصل. ففي اختبار أجرته أوبن إيه آي، طُلب من نماذج تعمل على أجهزة افتراضية منفصلة تبادل معلومات سرية من دون اتصال بالإنترنت، فاستعانت بذاكرة التخزين المؤقت للمعالج لنقل البيانات. وقالت الشركة إنها أضافت فحوصاً إلى أنظمة المراقبة لرصد هذا النوع من التواصل.

وتعتزم أوبن إيه آي مواصلة تدريب نماذجها المتقدمة في بيئة معزولة إلى أن تصبح تدابير الحماية كافية لتبرير منحها وصولاً أوسع إلى الإنترنت. 

كما ستعمل على تعزيز أمن أجهزتها الافتراضية واختبار مواطن الضعف في بيئات التدريب، إلى جانب مواصلة تقييم أنظمة المراقبة التي تمكنت الوكلاء مؤخراً من إضعافها خلال مشروعات برمجية داخلية.

المحرر: عمار الكاتب