تمكن باحثون من استغلال ثغرة أمنية في الإعدادات الخاصة بمنتدى مجتمع OpenAI، والذي يستضيفه طرف ثالث، للوصول إلى بيانات تسجيل الدخول الداخلية واختراق حساب موظف في OpenAI على ChatGPT.
وقد أتاح هذا الاختراق للباحثين الوصول إلى شفرة برمجية داخلية عبر منصة GitHub. وعلق متحدث باسم OpenAI قائلاً: "نشكر الباحثين على تواصلهم معنا ومشاركة اكتشافاتهم"، مؤكداً أنه تم إصلاح الثغرات المكتشفة. ولم ترد شركة Anthropic على طلبات التعليق.
يأتي هذا الكشف، الذي نشرته صحيفة وول ستريت جورنال، في الوقت الذي أصدرت فيه Anthropic مجموعة بيانات جديدة توضح الزيادة السريعة في استخدام مختبرها للذكاء الاصطناعي في تطوير نماذجها الجديدة. فقد أشارت البيانات إلى أن 26% من أعمال البحث والتطوير "يقودها" نموذج Claude الخاص بها، ارتفاعاً من 1% فقط في شهر مارس، مما يعني أن الذكاء الاصطناعي أنجز غالبية المهام بناءً على تعليمات بشرية وتحت إشراف.
وذكرت الشركة أن أنظمة الذكاء الاصطناعي، مع تزايد قوتها، "تُستخدم بشكل متزايد لبناء النسخة التالية من نفسها". وقد شاركت Anthropic هذه البيانات لمساعدة الجمهور على "فهم مدى قرب العالم من تحقيق التحسين الذاتي التكراري"، وهي النقطة التي يمكن عندها للذكاء الاصطناعي تدريب وتحسين نفسه أو نماذج جديدة.
تُعد هذه العتبة محور المخاوف من أن تصبح أنظمة الذكاء الاصطناعي أكثر صعوبة في الإشراف، مما يؤدي إلى فقدان السيطرة البشرية. وأضافت Anthropic أن نماذجها لم تعمل بشكل مستقل تماماً في أي من الأبحاث التي درستها، وأن الذكاء الاصطناعي "يتعاون" مع البشر في 90% من المهام، حيث يقوم بأجزاء كبيرة من العمل.
