استقالة داخل «أوبن إيه آي» تفتح ملف سلامة الذكاء الاصطناعي

وسط انتقادات لنهج الشركة في إدارة مخاطر النماذج المتقدمة

قدّم “ديفيد روبنسون”، الموظف السابق في فريق السلامة لدى «أوبن إيه آي» (OpenAI)، استقالته من الشركة، منتقدًا ما وصفه بـ”ثقافة عمل تضع سرعة تطوير نماذج الذكاء الاصطناعي فوق اعتبارات السلامة”.

وقال “روبنسون”، في مقال نشرته مجلة «The Atlantic-ذا أتلانتيك» الأمريكية، إنه أمضى (3 أعوام ونصف العام) في الشركة، وأسهم في إعداد إطار الجاهزية، وأشرف على تقارير السلامة المصاحبة لإطلاق 12 نموذجًا متقدمًا.

وحذر من أن نهج «النشر التكراري»، القائم على إطلاق الأنظمة ثم تعزيز ضوابطها مع ظهور المخاطر، لم يعد كافيًا، معتبرًا أن النماذج المتقدمة تحتاج إلى معايير حماية أقرب إلى الصناعات عالية المخاطر، مثل “الطيران” و”الطاقة النووية”.

في المقابل، أكدت «أوبن إيه آي» أنها توقف التدريب أو تؤجل إطلاق النماذج عندما تقتضي الحاجة، مشددة على عدم تجاوز قدرات الأنظمة حدود ما يمكن إدارته وتأمينه بأمان.

تصنيفات: تكنولوجيا، اقتصاد الرائد

 

وسوم: تكنولوجيا، الذكاء الاصطناعي، اخبار الذكاء الاصطناعي، التطور التكنولوجي

اترك تعليقا