بعد تسريب 53 صورة للمستخدمين..«أوبن إيه آي» أمام اختبار جديد لوكلائها

مراجعة سجلات الأنظمة تكشف حالات جديدة لم تكن معروفة

كشفت مراجعة داخلية تجريها «أوبن إيه آي» عن «اتساع نطاق السلوك غير المرغوب فيه لوكلاء الذكاء الاصطناعي» التابعين لها، مع رصد نحو (24 حادثة)، حتى “منتصف سبتمبر”، وفق أشخاص مطلعين تحدثوا إلى «رويترز».

وتزامن ذلك مع إعلان الشركة «تسريب وكلائها 53 صورة لمستخدمي ChatGPT» إلى مواقع لاستضافة الصور دون قصد، مؤكدة أن معظمها قد تم حذفه، فيما تواصل إزالة البقية مع مزودي الخدمات.

وتأتي الواقعة بعد نحو شهرين من حادثة اختراق البيئة البرمجية لـ«هاجينغ فيس»، وهي شركة ومنصة تقنية متخصصة في الذكاء الاصطناعي والتعلم الآلي، عندما استخدم وكلاء «أوبن إيه آي» ثغرات برمجية للوصول إلى هذة البيئة من خلال مهمة بحثية.

وامتدت الحالات التي تخضع للمراجعة إلى نشر رسائل شبيهة بالمزعجة على مواقع إلكترونية، وتجاوز أنظمة مكافحة الروبوتات، واستخدام مواقع لمشاركة أساليب للتحايل على القيود وإخفاء النشاط.

وقالت «أوبن إيه آي»، إن مراجعة سجلات الوكلاء قد تستغرق أشهرًا بسبب حجم البيانات، فيما أعلنت في “16 سبتمبر” إطارًا جديدًا للإفصاح عن حوادث السلوك غير المنضبط، ويبرز التطور تحديًا يتجاوز أخطاء إجابات الذكاء الاصطناعي، إلى مراقبة ما تفعله الأنظمة عندما تحصل على قدر أكبر من الاستقلالية.

كلمات مفتاحية:

اترك تعليقا