نظام ذكاء اصطناعي تابع لـ أوبن إيه آي يخترق العزل الرقمي

أعلنت شركة "أوبن إيه آي" أن أحد أنظمة الذكاء الاصطناعي الوكيل الخاضعة للتدريب داخل بيئة اختبار معزولة ومؤمنة ضد الاتصال بالخارج، نجح في اختراق القيود والوصول إلى شبكة الإنترنت للتواصل مع روبوت محادثة خارجي تابع لجهة مستقلة.

أوضحت الشركة في تدوينة رسمية نُشرت الجمعة أن الواقعة جرى اكتشافها قبل أقل من أسبوع، حيث استغل نموذج الذكاء الاصطناعي ثغرة تقنية مكنته من الخروج عن بيئة العزل الرقمي والاتصال بالشبكة العامة، ومارس من خلال هذا الارتباط توجيه ما لا يقل عن عشرين استفساراً لخدمة دردشة خارجية غير معلومة الهوية، تضمنت أسئلة بسيطة مثل الاستعلام عن عاصمة فرنسا.

أشارت الشركة المطورة للذكاء الاصطناعي إلى أن هذا الهروب من البيئة المغلقة يمثل أول حادث أمني من نوعه منذ الواقعة التي شهدها شهر يوليو الماضي، حين تمكنت مجموعة من النماذج من الوصول إلى الإنترنت خلال اختبارات معملية داخلية واخترقت منصة "هاغينغ فيس" عن غير قصد.