قالت "أوبن إيه آي"، اليوم الثلاثاء، إن نموذجها المرتقب "أسترا" هو أول أداة لديها تتجاوز عتبة القدرات السيبرانية "الحرجة"، مع قدرته على اكتشاف ثغرات أمنية غير معروفة واستغلالها دون إرشاد بشري خطوة بخطوة.
وأوضحت الشركة أن هذه القدرات تضع النموذج ضمن أعلى فئة في "إطار الاستعداد" (نظام داخلي للتقييم قبل الإطلاق) الذي تستخدمه لرصد قدرات الذكاء الاصطناعي المتقدمة والاستعداد للمخاطر التي قد تسبب أضرارًا جسيمة.
وحددت "أوبن إيه آي" في تحديث للإطار العام الماضي مستويين متقدمين؛ "مرتفع"، عندما يعزز النموذج مسارات قائمة لإحداث ضرر شديد، و"حرج"، عندما يفتح مسارات جديدة وغير مسبوقة لذلك.
ورغم التصنيف، تعتزم الشركة إتاحة "أسترا" قريبًا، لكنها ستقيد الوصول إلى قدراته السيبرانية المتقدمة، وقالت إنها ستنشر تفاصيل اختبارات السلامة والأمن والمواءمة ضمن بطاقة النظام عند الإطلاق.
ماذا يعني ذلك؟
تصنيف "أسترا" عند المستوى "الحرج" يرفع سقف التحدي أمام "أوبن إيه آي" لإطلاق نموذج أكثر قدرة دون توسيع مخاطر إساءة الاستخدام.
التعليقات {{getCommentCount()}}
كن أول من يعلق على الخبر
رد{{comment.DisplayName}} على {{getCommenterName(comment.ParentThreadID)}}
{{comment.DisplayName}}
{{comment.ElapsedTime}}