رقابة مستقلة داخل شركات الذكاء الاصطناعي.. مقترح أمودي يحظى بتأييد منافسيه

دعوة لإبطاء نمو قدرات النماذج ومنح اختبارات السلامة وقتًا أطول

حظي مقترح داريو أمودي لإدخال رقابة مستقلة إلى شركات الذكاء الاصطناعي بتأييد سام ألتمان وإيلون ماسك، وسط نقاش متصاعد حول سرعة تطوير النماذج وقدرة إجراءات السلامة على مواكبتها.

وطالب رئيس أنثروبيك، السبت، بتخفيف وتيرة تحسين قدرات النماذج. ويضع مقترحه المراجعين الخارجيين في موقع يتيح لهم فحص المخاطر من داخل الشركات، مع استمرار التقدم التقني ضمن ضوابط أشد.

من التعهدات إلى التحقق

تعتزم أنثروبيك منح فرق التقييم وصولًا إلى أدوات وعمليات تستخدمها فرقها الداخلية، لمراجعة الالتزام بمعايير السلامة والإبلاغ عن الحوادث. ويشمل التصور مراجعة أساليب التدريب، وليس المنتج النهائي وحده.

وقال ألتمان إن أوبن إيه آي ستلتزم أيضًا بمقيّمين مستقلين يتمتعون بوصول شبيه بما يتاح للموظفين. وأعلن ماسك موافقته على دعوة أمودي.

تنسيق يتجاوز شركة واحدة

يقترح أمودي أن تتفق المختبرات الرائدة على قواعد مشتركة، ثم تسعى الحكومات إلى تنسيق دولي بشأن المخاطر. وتستهدف هذه الخطوات منح الاختبارات والرقابة وقتًا أطول قبل توسيع قدرات الأنظمة.

ويأتي النقاش عقب استقالة الباحث جاكوب كوكسون من أنثروبيك، وبعد تحذيرات من سوء استخدام الأدوات المتقدمة. ولم تُعلن مهلة موحدة ملزمة للصناعة، كما لا تعني دعوة الإبطاء تعليق جميع عمليات تدريب الذكاء الاصطناعي.

كلمات مفتاحية:

اترك تعليقا