أثار نموذج الذكاء الاصطناعي الجديد «أسترا» قلقًا داخل شركة «أوبن إيه آي» بسبب ما أظهرته الاختبارات الأولية من قدرات متقدمة في مجال الأمن السيبراني، دفعت الشركة إلى تشديد إجراءات الحماية وتأجيل بعض أنشطة تطويره، في وقت أكد فيه الرئيس التنفيذي سام ألتمان أن الشركة لا تريد حصر النماذج القوية في أيدي مجموعة محدودة، لكنها تحتاج إلى مزيد من الوقت قبل طرح النموذج على نطاق أوسع.

وقال ألتمان إن «أسترا» يتمتع بقدرات قوية للغاية، ولا سيما في الأمن السيبراني، مشيرًا إلى أن «أوبن إيه آي» لا تستطيع طرحه للجمهور في الوقت الحالي قبل التأكد من أن إجراءات الأمان والضوابط المحيطة به قادرة على مواكبة قدراته.

وشدد الرئيس التنفيذي للشركة على أن تأجيل الإطلاق لا يعني التخلي عن إتاحته مستقبلًا، موضحًا أن «أوبن إيه آي» لا ترى أن إبقاء النماذج القوية محصورة في أيدي قلة يمثل استراتيجية جيدة، لكنها تحتاج إلى مزيد من الوقت لضمان طرح النموذج بصورة آمنة.

قدرات سيبرانية تقترب من أعلى مستوى خطر

كشفت التقييمات الأولية التي أجرتها «أوبن إيه آي» أن «أسترا» حقق تقدمًا كبيرًا في البرمجة الوكيلة والأمن السيبراني، إلى درجة لم تتمكن معها الشركة في الوقت الحالي من استبعاد وصول قدراته السيبرانية إلى مستوى «حرج» وفق إطار الاستعداد الخاص بها.

وتستخدم الشركة «إطار الاستعداد» لتقييم قدرات نماذجها المتقدمة وتحديد إجراءات السلامة المطلوبة عندما تظهر قدرات جديدة قد تنطوي على مخاطر مرتفعة.

ويشير مستوى «حرج» في الأمن السيبراني إلى قدرات يمكن أن تتيح للنموذج تنفيذ عمليات متقدمة للغاية، من بينها اكتشاف واستغلال ثغرات أمنية غير معروفة سابقًا في أنظمة حقيقية محمية، أو تطوير وتنفيذ استراتيجيات معقدة للهجمات السيبرانية ضد أهداف محمية.

ولهذا السبب، رفعت «أوبن إيه آي» مستوى اختبارات متانة الضوابط الأمنية الخاصة بـ«أسترا»، كما أوقفت بعض الأنشطة الداخلية المرتبطة بالنموذج بعدما لم تعد تستوفي متطلبات السلامة الأكثر صرامة التي فرضتها الشركة.

هل يرتبط «أسترا» بالجيل المقبل من النماذج؟

لم تكشف «أوبن إيه آي» حتى الآن بصورة رسمية عن الموقع النهائي لـ«أسترا» ضمن خريطة نماذجها المستقبلية، أو ما إذا كان سيُطرح باعتباره نموذجًا مستقلًا أو سيكون جزءًا من جيل لاحق من نماذج الشركة.

وكانت الشركة قد أشارت في وقت سابق إلى تقدم نموذج يحمل اسم «أسترا» في حل مسائل صعبة في الرياضيات وعلوم الحاسوب النظرية، ما يعكس اتساع نطاق قدراته إلى ما هو أبعد من البرمجة والأمن السيبراني.

كما تشير تقارير حديثة إلى أن ألتمان استعرض قدرات النموذج غير المطروح للعامة أمام مسؤولين وصناع سياسات في الولايات المتحدة، في وقت تتزايد فيه الضغوط على شركات الذكاء الاصطناعي لإثبات قدرتها على التحكم في المخاطر المرتبطة بالنماذج الأكثر تقدمًا.

«أسترا» ليس وراء هجوم «هاغينغ فيس»

وفي ظل المخاوف المتزايدة بشأن القدرات السيبرانية للنموذج، أوضحت «أوبن إيه آي» أن «أسترا» لم يكن مشاركًا في الهجوم السيبراني الأخير الذي استهدف منصة «هاغينغ فيس» ونُسب إلى وكلاء ذكاء اصطناعي مرتبطة بالشركة.

وتؤكد هذه النقطة أهمية التمييز بين قدرات النموذج التي ظهرت خلال الاختبارات الداخلية وبين أي استخدام فعلي لهذه القدرات في هجمات إلكترونية، إذ لا يعني ارتفاع مستوى المخاطر المحتملة أن النموذج استُخدم بالفعل في تنفيذ مثل هذه العمليات.

لماذا تؤجل «أوبن إيه آي» إطلاقه؟

لا يبدو أن قرار التأجيل مرتبط بعدم جاهزية «أسترا» من الناحية التقنية، وإنما بمخاوف تتعلق بمدى قدرة أنظمة الحماية على التعامل مع مستوى قدراته الجديد.

وتأتي هذه الخطوة في وقت تتسابق فيه شركات الذكاء الاصطناعي على تطوير نماذج قادرة على تنفيذ مهام أكثر تعقيدًا بصورة مستقلة، ما يجعل الأمن السيبراني أحد أهم مجالات اختبار الحدود الجديدة لهذه النماذج.

وتشير «أوبن إيه آي» إلى أنها سبق أن استخدمت إطار الاستعداد لاتخاذ إجراءات مماثلة عندما اقتربت نماذجها من مستويات قدرة جديدة في مجالات عالية الخطورة، بما يشمل تعزيز الاختبارات والاستعانة بخبراء خارجيين وتطوير ضوابط أمنية إضافية.

وبذلك، يضع «أسترا» الشركة أمام معادلة صعبة: إتاحة نموذج أكثر قوة للمستخدمين، مع ضمان ألا تتحول قدراته المتقدمة في الأمن السيبراني إلى أداة يمكن إساءة استخدامها على نطاق واسع.

للمزيد تابع

خليجيون نيوز على: فيسبوك | إكس | يوتيوب | إنستغرام | تيك توك