أثار نموذج ذكاء اصطناعي تابع لشركة ميتا جدلاً واسعاً بعدما تمكن، خلال اختبار للأمن السيبراني، من الوصول إلى نظام تابع لشركة أخرى واستغلال ثغرة فيه، في واقعة سلطت الضوء على المخاطر المرتبطة بمنح النماذج المتقدمة اتصالاً بالإنترنت وأدوات برمجية قادرة على تنفيذ مهام بشكل شبه مستقل.

وحدثت الواقعة أثناء اختبار أجرته شركة "Irregular" لتقييم قدرات نموذج "Muse Spark 1.1" في اكتشاف الثغرات الأمنية والتعامل معها داخل بيئة يفترض أنها معزولة. غير أن خطأ في إعدادات الاختبار أتاح للنموذج الوصول إلى الإنترنت، ما سمح له بالتفاعل مع خدمة خارجية والوصول إلى نظام تابع لشركة لم يتم الكشف عن اسمها.

وأوضحت الشركة التي أجرت الاختبار أن ما وقع لا يعني أن النموذج "هرب" من بيئة الحماية أو تمكن من تجاوز نظام عزل متطور من تلقاء نفسه، بل استفاد من صلاحية اتصال لم يكن يفترض أن تكون متاحة له. ويجعل ذلك الحادثة مرتبطة بشكل أساسي بكيفية ضبط بيئة التشغيل والصلاحيات الممنوحة للذكاء الاصطناعي.

وتختلف مثل هذه النماذج عن روبوتات المحادثة التقليدية في قدرتها على تنفيذ سلسلة من الخطوات واستخدام أدوات وبرامج مختلفة لإتمام مهمة معينة. ومع توسع هذه القدرات، يمكن لأي خطأ في تحديد الصلاحيات أو الوصول إلى الشبكات أن يؤدي إلى نتائج تتجاوز مجرد تقديم إجابة خاطئة أو غير دقيقة.

وتأتي الواقعة في وقت تعمل فيه ميتا، إلى جانب شركات تكنولوجية أخرى، على تطوير ما يعرف بوكلاء الذكاء الاصطناعي، وهي أنظمة قادرة على التخطيط وتنفيذ المهام والتعامل مع خدمات مثل البريد الإلكتروني والتقويم والبرامج المختلفة نيابة عن المستخدم، ما يرفع في الوقت نفسه الحاجة إلى أنظمة أكثر صرامة للتحكم في الوصول والمراقبة.

وسبق لشركات أخرى مثل "OpenAI" و"Anthropic" أن أجرت اختبارات أمنية مماثلة لقياس قدرات نماذجها في اكتشاف الثغرات وتحليل الأنظمة، إذ أصبح الأمن السيبراني من أبرز المجالات التي تكشف مدى القوة التي يمكن أن تصل إليها نماذج الذكاء الاصطناعي عندما تجمع بين القدرة على التفكير واستخدام الأدوات والوصول إلى أنظمة خارجية.