سباق نحو أخطر حدود التكنولوجيا..الذكاء الاصطناعي يختبر الأمان البيولوجي

«أنثروبيك» ترصد محاولات لاستخدام «كلود» في أبحاث حساسة

 “الذكاء الاصطناعي”… لم يعد الخوف منه يدور فقط حول فقدان الوظائف، أو تفوق الآلات على البشر، بل يقترب من سيناريو أكثر خطورة.. وهو تسخير قدرات النماذج المتقدمة في علوم الأحياء لصناعة مخاطر يصعب احتواؤها، وكشفت وقائع حديثة عن استخدامات فعلية للنماذج في أبحاث حساسة، بالتزامن مع تحذيرات متزايدة من أن التطور السريع للذكاء الاصطناعي، يسبق قدرة الحكومات على بناء منظومة رقابة قادرة على مواكبته.

تجارب حساسة تفتح باب الخطر..

كشفت شركة «أنثروبيك» عن تعطيل «5 حالات محتملة» لاستخدام نماذجها في أنشطة يمكن أن تدعم “تطوير أسلحة بيولوجية”، وذلك في تقييم للتهديدات، استند إلى وقائع حقيقية رصدتها الشركة خلال الفترة (من ديسمبر إلى أغسطس).

وفي حالتين، حاول باحثون استخدام نموذج «Claude-كلود» للحصول على مساعدة في “أبحاث تعديل خصائص فيروسات خطرة”، بهدف فهم سلوكها وقدراتها بصورة أعمق، وهو ما يثير مخاوف بشأن إمكانية إساءة استخدام هذه الأبحاث.

وأكدت الشركة، أن هذه الحالات لا تمثل دليلًا على وجود «تهديد بيولوجي وشيك» مدعوم حاليًا بنماذجها، لكنها تكشف عن محاولات متقدمة للتحايل على ضوابط الوصول، خصوصًا من جهات مرتبطة بجهات حكومية مثيرة للقلق.

وتزداد صعوبة الرقابة مع قدرة الجهات المتطورة على إخفاء أهدافها، بينما تستطيع “نماذج الذكاء الاصطناعي” التعامل مع كم هائل من المعرفة البيولوجية وتحويلها إلى إرشادات أكثر قابلية للتنفيذ.

سباق التكنولوجيا يسبق منظومة الحماية..

تأتي هذه التطورات، في وقت تتسارع فيه تطبيقات الذكاء الاصطناعي داخل علوم الحياة، حيث أفاد باحثون من “جامعة ستانفورد” الشهر الماضي، باستخدام “ذكاء اصطناعي توليدي” لتصميم فيروس اصطناعي، في تجربة أثارت تساؤلات جديدة بشأن قدرة التكنولوجيا على تجاوز الحدود التقليدية للبحث البيولوجي.

كما أظهر استطلاع لـ”معهد الأمن والتكنولوجيا”، وهو مؤسسة بحثية أمريكية غير ربحية تركز على قضايا الأمن القومي والتكنولوجيا والمخاطر الناشئة، ومن بينها مخاطر الذكاء الاصطناعي والأمن البيولوجي، شمل أكثر من (100 خبير) في الأمن القومي، أن (70%) منهم يرون أن الذكاء الاصطناعي يزيد بصورة ملموسة خطر “تطوير أسلحة بيولوجية”، أو قد يفعل ذلك خلال عامين إلى ثلاثة أعوام.

ويرى خبراء، أن الخطر الأكبر لا يكمن بالضرورة في «قدرة الذكاء الاصطناعي على ابتكار سلاح جديد»، بل في خفض حاجز الدخول أمام جهات تفتقر إلى الخبرة اللازمة، ويمكن للنماذج المتقدمة المساعدة في تصميم خصائص فيروسية، والتنبؤ بتطور مسببات الأمراض، واقتراح تسلسلات جينية قد تتجاوز بعض أنظمة الفحص.

ويزداد القلق عندما تقترن هذه القدرات بالاستقلالية، إذ تستطيع «الوكلاء» تنفيذ مهام متعددة والتخطيط لها بأقل تدخل بشري، ويرى خبراء، أن الجمع بين الذكاء المتقدم والاستقلالية قد يخلق مستوى من عدم اليقين يصعب التنبؤ بعواقبه.

لذلك تتزايد الدعوات إلى إخضاع النماذج المتقدمة لمراجعات حكومية ومعايير سلامة أكثر صرامة، بدل الاعتماد بصورة أساسية على التزامات طوعية من شركات الذكاء الاصطناعي، ويبقى السؤال الأكثر إلحاحًا: هل تستطيع منظومة الرقابة اللحاق بتكنولوجيا يتم تطويرها بوتيرة أسرع من قدرة المؤسسات على فهم مخاطرها؟.

كلمات مفتاحية:

اترك تعليقا