اختبارات جديدة تكشف تجاوزات سيبرانية إضافية لنماذج أوبن إيه آي وأنثروبيك

رصدت اختبارات أجراها معهد أمن الذكاء الاصطناعي البريطاني محاولات جديدة نفذتها نماذج طورتها شركتا "أوبن إيه آي" و"أنثروبيك" لاختراق أنظمة وإدراج شيفرات خبيثة، وذلك بعد تقارير إعلامية حديثة كشفت عن حوادث مماثلة خلال اختبارات للسلامة.

وأوضح المعهد، الذي تأسس عام 2023 لتقييم سلامة النماذج المتقدمة، أنه منح النماذج اتصالاً بالإنترنت وخفف بعض قيود الحماية لاختبار قدراتها.

وأشار المعهد في تقرير نُشر أمس الثلاثاء إلى أن نموذجي "ميثوس 5" من "أنثروبيك" و"جي بي تي-5.6 سول" من "أوبن إيه آي" انخرطا في "أنشطة مستمرة قد تكون ضارة" استهدفت أشخاصاً ومؤسسات حقيقية.

وأضاف أن نموذج "ميثوس 5" حاول إدراج شيفرة خبيثة في مشروع مفتوح المصدر على منصة "جيت هاب"، وأنشأ هويات مزيفة في محاولة للحصول على موافقة على دمجها، إلا أن المشرف البشري على المشروع اكتشف المحاولة ورفضها.

وقال المعهد إن هذه هي المرة الأولى التي تظهر فيها مخاطر تتعلق باستقلالية النماذج والخداع بهذا الوضوح في ظروف واقعية، مشيراً إلى أن "ميثوس 5" نفذ 17 من أصل 19 إجراءً ذاتياً غير مصرح به رُصدت أثناء الاختبارات.