ميتا تكشف أن نموذج ذكاء اصطناعي اخترق نظام شركة أخرى خلال اختبار أمني

قالت الشركة المالكة لمنصة فيسبوك إن الحادث وقع أثناء تقييم أمني مستقل، مشيرة إلى أن سوء ضبط الإعدادات أدى إلى منح النموذج إمكانية الوصول إلى أنظمة خارجية لم يكن من المفترض الوصول إليها خلال الاختبار

وأوضحت ميتا أنها تحقق في الواقعة، مؤكدة أنها ستنشر مزيداً من التفاصيل بعد اكتمال المراجعة الداخلية

خطأ في الاختبار سمح بالوصول إلى الإنترنت

أجرت التقييمات الأمنية شركة إيررغولار المتخصصة في أمن الذكاء الاصطناعي، والتي نفذت اختبارات مشابهة لشركات أخرى في القطاع

وأفادت الشركة بأن حادثة ميتا نتجت عن نوع مماثل من أخطاء إعداد بيئة الاختبار التي كشفت عنها شركة أنثروبيك مؤخراً

كما تعمل الشركة على إعداد تقرير يتضمن أفضل الممارسات لإجراء اختبارات أمنية آمنة على وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام معقدة

حوادث متكررة تثير مخاوف الأمن السيبراني

وجاء الكشف الجديد بعد سلسلة من الحوادث المرتبطة بنماذج ذكاء اصطناعي متقدمة طورتها شركات كبرى، حيث أثارت هذه الوقائع مخاوف حول قدرة الأنظمة الذكية على تنفيذ إجراءات غير متوقعة أثناء تشغيلها

وكانت شركة أوبن إيه آي قد أعلنت في وقت سابق أن بعض وكلائها تمكنوا خلال اختبارات أمنية مضبوطة من مهاجمة خدمات متاحة عبر الإنترنت، من بينها منصة هاغينغ فيس

كما كشفت أنثروبيك أن نموذج كلود التابع لها تمكن من الوصول غير المصرح به إلى أنظمة تابعة لعدة مؤسسات بعد حصوله على اتصال بالإنترنت بسبب خطأ في إعدادات الاختبار

وأكد الباحثون أن هذه الحوادث وقعت ضمن بيئات تقييم مغلقة ولم تتضمن هجمات متعمدة على البنية التحتية العامة

دعوات لتعزيز ضوابط سلامة الذكاء الاصطناعي

أعادت هذه التطورات النقاش حول ضرورة وضع معايير أكثر صرامة لاختبار أنظمة الذكاء الاصطناعي قبل استخدامها على نطاق واسع

وقال دانيال هولم، كبير مسؤولي الذكاء الاصطناعي العالمي في شركة WPP، إن هذه التصرفات لا تعني وجود نية خبيثة لدى الأنظمة الذكية

وأشار إلى أن النماذج لا تمتلك وعياً أو رغبة في تنفيذ أفعال ضارة، لكنها قد تطور استراتيجيات معقدة لتحقيق الأهداف المحددة لها إذا لم يتم وضع قيود وضمانات كافية

وتؤكد هذه الحوادث أهمية تطوير أنظمة مراقبة واختبارات أمنية متقدمة مع توسع استخدام الذكاء الاصطناعي في مختلف القطاعات