تحذير من استغلال نماذج الذكاء الاصطناعي بأنشطة إجرامية

كشف باحثون في مجال الأمن السيبراني عن مخاطر متزايدة تحيط بنماذج الذكاء الاصطناعي مفتوحة المصدر، محذرين من إمكانية تحولها إلى ثغرات أمنية تتيح للمتسللين السيطرة على الحواسيب التي تشغل هذه النماذج اللغوية.

وأظهرت دراسة مشتركة أجرتها شركتا "سينسيس" و"سنتينال وان" رصداً واسعاً لاستخدامات غير مشروعة لآلاف النماذج المفتوحة عبر خوادم متصلة بالإنترنت، حيث شملت هذه الأنشطة القرصنة الإلكترونية، ونشر المحتوى العنيف وخطاب الكراهية، بالإضافة إلى سرقة البيانات الشخصية وعمليات الاحتيال.

وأوضحت الدراسة، التي نقلتها وكالة "رويترز"، أن العديد من هذه النماذج تستند إلى تقنيات طورتها شركات كبرى مثل "ميتا" و"جوجل ديب مايند"، وبينما تضع تلك الشركات ضوابط أمنية صارمة، فقد رصد الباحثون مئات الحالات التي تم فيها تجريد النماذج من هذه الحمايات بشكل متعمد لتسهيل استخدامها في أغراض مشبوهة.