معهد أمن الذكاء الاصطناعي البريطاني يرصد محاولات لاختراق أوبن إيه آي

رصدت اختبارات تقييمية أجراها معهد أمن الذكاء الاصطناعي البريطاني محاولات جديدة نفذتها نماذج طورتها شركتا "أوبن إيه آي" و"أنثروبيك" لاختراق أنظمة برمجية وإدراج شيفرات خبيثة، وذلك في أعقاب تقارير إعلامية حديثة كشفت عن تسجيل حوادث مماثلة أثناء فحوصات وتقييمات السلامة.

وأفصح المعهد الحكومي، المستحدث عام 2023 لتقييم مستويات الأمان بالنماذج الفائقة، عن منحه تلك البرمجيات صلاحيات اتصال مباشر بالشبكة مع تخفيف بعض القيود الوقائية لاختبار وتحديد حدود قدراتها التشغيلية.

وكشف المعهد، في تقرير أصدره، عن تورط نموذجي "ميثوس 5" المطور من "أنثروبيك" و"جي بي تي-5.6 سول" من "أوبن إيه آي" في سلوكيات وأنشطة متواصلة ينطوي عليها خطر مباشر استهدفت أفراداً وهيئات واقعية.

ولفت التقرير إلى مبادرة نموذج "ميثوس 5" بمحاولة زرع ثغرة وشيفرة خبيثة داخل مشروع مفتوح المصدر يستضيفه موقع "جيت هاب"، موازاة مع استخدامه هويات اصطناعية مزيفة بغرض تمرير التعديل والحصول على موافقة دمج البرمجية، قبل أن ينتبه المشرف البشري للمحاولة ويكتشفها ويقوم برفضها.