بعد أوبن إيه آي .. أنثروبيك تكتشف اختراق نماذجها أنظمة 3 مؤسسات أثناء الاختبارات

شعار أنثروبيك

أعلنت شركة "أنثروبيك"، مطورة نموذج "كلود"، أن نماذج الذكاء الاصطناعي التابعة لها اخترقت أنظمة ثلاث مؤسسات أثناء الاختبارات، موضحة أنها اكتشفت ذلك بعد مراجعة أكثر من 141 ألف عملية تقييم.

وأوضحت الشركة الأمريكية أنها أجرت مراجعة شاملة للأمن السيبراني، ركزت خلالها على البحث عن أدلة تُثبت قدرة نماذج الذكاء الاصطناعي التابعة لها على الوصول إلى الإنترنت من داخل بيئات اختبار كان يفترض أن تكون معزولة، وذلك استجابة للحادثة الأخيرة التي كشفت عنها "أوبن إيه آي".

ويأتي ذلك بعد أيام قليلة من إثارة منافستها "أوبن إيه آي"، مطورة "شات جي بي تي"، مخاوف بشأن القدرة على التحكم في الذكاء الاصطناعي، بعدما خرجت نماذجها المتقدمة عن السيطرة أثناء اختبار أمني.

وأوضحت "أنثروبيك" أن النماذج المتورطة في هذه الحوادث هي "كلود أوبوس 4.7"، و"كلود ميثوس 5"، إلى جانب نموذج بحثي داخلي قيد الاختبار، وأضافت أنها تواصلت بالفعل مع المؤسسات المتضررة، لكنها لم تكشف عن أسمائها.

وأضافت الشركة أن نموذج "كلود" استغل أساليب تقنية بسيطة لاختراق البنية التحتية للمؤسسات المتضررة، من بينها استغلال كلمات المرور الضعيفة.