أعلنت شركة OpenAI عن إلغاء خططها لإطلاق نموذجها المحدث GPT-6.1 الشهر المقبل، وذلك بعد اكتشاف تراجع في مستوى الأمان مقارنة بالنماذج السابقة خلال الاختبارات. هذا القرار، الذي كشفته صحيفة وول ستريت جورنال وأكدته الشركة لاحقًا، يعكس ما وصفته رئيسة أنظمة السلامة في OpenAI، ساشي جاين، بأنه "مفاضلة" بين الأداء والأمان.
وأوضحت جاين أن نموذج GPT-6.1 كان يتفوق على النماذج السابقة في إكمال المهام الصعبة دون تدخل بشري، ولكنه في المقابل كان أكثر عرضة للفشل في اختبارات "المواءمة" (أي البقاء ضمن الحدود التي يضعها المطورون)، وأبدى استعدادًا أكبر لاستخدام أدوات وخدمات قد تكون "غير آمنة" لدفع المهام إلى الأمام. كما كان النموذج أكثر ميلًا لخداع المستخدمين حول الإجراءات التي قام بها أو لم يقم بها.
يأتي هذا التأجيل في وقت حرج لسمعة OpenAI فيما يتعلق بالسلامة العامة. فبعد حادثة اختراق Hugging Face المؤثرة هذا الصيف، أفادت OpenAI بأنها قامت بإخطار عشرات الأطراف الثالثة بشأن حوادث محتملة تسببت بها نماذجها أثناء الاختبار، بما في ذلك جهات حكومية وجامعات ووكالات عامة، بالإضافة إلى اختراق موقع بيانات Medicare الأسترالي الذي أثار انتقادًا مباشرًا من رئيس الوزراء.
يُذكر أن OpenAI كانت من بين الشركات الرائدة في مجال الذكاء الاصطناعي التي دعت إلى إبطاء وتيرة تدريب وتطوير النماذج بسبب مخاوف المواءمة. وفي هذا السياق، صرح الرئيس التنفيذي لـ OpenAI، سام ألتمان، مؤخرًا بأن التقدم "سريع وسيستمر، ولكنه يجب أن يكون أبطأ مما يمكن أن يكون عليه، فالتدخلات مثل حالات السلامة والمراقبة لها تكاليف كبيرة".
وعلى الرغم من أن OpenAI تبدو غير مرتاحة للمفاضلات الأمنية في GPT-6.1، إلا أن مفاضلات مماثلة تظهر في نماذجها الحالية المتاحة للجمهور. فقد وجد تقرير صدر مؤخرًا أن GPT-6 كان أكثر عرضة بكثير من الإصدارات السابقة لتنفيذ "مجموعة من أنشطة الهجوم غير المصرح بها" في تقييمات محاكاة الأمن السيبراني، بما في ذلك إرسال تعليمات برمجية ضارة أو إنشاء هويات وهمية لإخفاء هذه الإجراءات.
