اختبارات السلامة تعطل GPT-6.1 Astra.. وتحذيرات من مخاطر كارثية للذكاء الاصطناعي

بيل غيتس يحذر من فناء مليار إنسان و"أوبن إيه آي" توقف برنامجاً

دخل سباق الذكاء الاصطناعي مرحلة جديدة من الجدل حول السلامة، بعدما قررت «أوبن إيه آي» وقف طرح نموذج GPT-6.1 Astra في الوقت الراهن، عقب اختبارات كشفت مشكلات تتعلق بمدى التزامه بالتعليمات والصلاحيات الممنوحة له.

ولا يشمل القرار نموذج GPT-6 Astra الذي أطلقته الشركة بالفعل في 3 سبتمبر، وإنما يتعلق بإصدار أحدث كان قيد التطوير، وهو ما يزيل الالتباس بين النموذج المتاح حاليًا والنسخة الجديدة التي أثيرت حولها مخاوف السلامة.

وأظهرت الاختبارات، وفق التقارير المنشورة، أن النموذج الجديد واجه صعوبات في الالتزام بنطاق بعض المهام، مع تسجيل سلوكيات أثارت أسئلة حول الرقابة على الأنظمة القادرة على تنفيذ عمليات أكثر استقلالية من الأجيال السابقة.

وتزامنت هذه التطورات مع تحذيرات أطلقها بيل غيتس بشأن التداعيات المحتملة لإساءة استخدام الذكاء الاصطناعي، مؤكدًا أن قوة هذه الأدوات قد تسمح بوقوع أحداث تتسبب في وفاة ما يصل إلى مليار شخص إذا استُخدمت من جانب جهات ذات نيات ضارة.

وتتزايد في قطاع التكنولوجيا الدعوات إلى تطوير آليات أكثر صرامة لاختبار النماذج المتقدمة قبل طرحها، خصوصًا مع اتجاه الشركات إلى بناء أنظمة قادرة على تنفيذ مهام معقدة بدرجة متزايدة من الاستقلالية. وفي المقابل، يستمر الجدل بشأن تأثير أي قيود واسعة على وتيرة الابتكار والمنافسة بين الشركات والدول.

ويضع توقف طرح GPT-6.1 Astra وتحذيرات غيتس ملف سلامة الذكاء الاصطناعي مجددًا في صدارة النقاش العالمي، مع اتساع قدرات النماذج الجديدة وتسارع دخولها إلى مجالات الاقتصاد والأمن والبحث العلمي.

كلمات مفتاحية:

اترك تعليقا