في خطوة تهدف إلى تعزيز أمان روبوت الدردشة الشهير، أعلنت شركة أوبن إيه آي يوم الجمعة عن إطلاق ميزتين أمنيتين رئيسيتين لشات جي بي تي، وذلك في ظل التحديات المتسارعة التي تواجه مجال أمن الذكاء الاصطناعي.
الميزتان الجديدتان هما "وضع القفل" و"خطر مرتفع"، وقد صممتا خصيصًا لمواجهة هجمات حقن الأوامر، وهي إحدى الطرق التي تستخدمها جهات خبيثة لاختراق أنظمة الذكاء الاصطناعي بهدف الوصول إلى معلومات حساسة أو تنفيذ أوامر غير مصرح بها.
ويمثل "وضع القفل" إعدادًا أمنيًا متقدمًا واختياريًا، موجه بشكل أساسي للمستخدمين الأكثر عرضة للمخاطر مثل المديرين التنفيذيين وفرق الأمن في المؤسسات الكبرى، الذين يحتاجون إلى حماية مشددة ضد التهديدات المتطورة. ويعمل هذا الوضع عبر فرض قيود صارمة على طريقة تفاعل شات جي بي تي مع الأنظمة الخارجية، كما يقوم بتعطيل بعض الأدوات والإمكانيات التي قد يستغلها المخترقون لتسريب بيانات حساسة من المحادثات أو التطبيقات المتصلة.
وأوضحت الشركة أن هذه الميزة ليست ضرورية لمعظم المستخدمين العاديين، وستكون متاحة في البداية للمشتركين في خطط المؤسسات والتعليم والرعاية الصحية، على أن يتم توسيع نطاقها لتشمل المستخدمين العاديين خلال الأشهر القادمة.
أما الميزة الثانية فهي "خطر مرتفع"، وهي عبارة عن نظام تصنيف يوضح للمستخدمين أن بعض الإمكانيات في شات جي بي تي وأدوات أخرى قد تحمل مخاطر إضافية عند استخدامها.
وستظهر هذه التصنيفات بجانب الميزات المرتبطة بالشبكة والتي لم يتم بعد معالجة الثغرات الأمنية المحتملة فيها بشكل كامل وفق معايير الصناعة، مما يتيح للمستخدمين تلقي تنبيهات واضحة حول مستوى المخاطر المحتملة.
ويأتي إطلاق هذه الميزات الأمنية في وقت تشهد فيه الساحة الرقمية تحذيرات متزايدة من عمليات الاختراق التي تستهدف الثغرات في أدوات الذكاء الاصطناعي، مما يعكس حرص الشركة على تعزيز حماية مستخدميها في ظل هذا المشهد المتطور.
المحرر: عمار الكاتب