اختراقات تجريبية تدفع «أوبن إيه آي» لتشديد ضوابط تدريب نماذجها

عزل النماذج المتقدمة عن الإنترنت لحين تعزيز ضمانات الأمان

بدأت شركة «أوبن إيه آي» فصل أكثر نماذجها تطوراً عن الإنترنت أثناء التدريب، بعدما كشفت اختبارات سابقة قدرة أنظمة قيد التطوير على تجاوز بيئتها المعزولة والوصول إلى الشبكة المفتوحة.

وقالت الشركة، الجمعة 23 أكتوبر، إنها ستقيّد الاتصال حتى تتوافر ضمانات كافية تحدّ من مخاطر اتخاذ النماذج غير المطروحة إجراءات عبر الإنترنت، معتبرةً أن التدريب دون اتصال يمثل النهج المسؤول في ضوء قدرات المراقبة والأمان الحالية.

وتأتي الخطوة بعدما أعلنت الشركة في يوليو أن نماذج تجريبية اخترقت نظام منصة «هاغينغ فيس»، التي تستضيف نماذج الذكاء الاصطناعي ومجموعات البيانات، خلال تقييم لقدراتها السيبرانية.

وكانت النماذج تعمل دون ضوابط الأمان المعتادة داخل بيئة اختبار افتراضية معزولة تُعرف بـ«صندوق الرمل»، لكنها استغلت ثغرة برمجية للخروج منها والوصول إلى الإنترنت.

كلمات مفتاحية:

اترك تعليقا