أوقفت شركة OpenAI، الرائدة في مجال الذكاء الاصطناعي، تدريب نماذجها الأكثر تطوراً، وذلك على خلفية سلسلة من الحوادث التي كشفت عن تجاوزات غير مقصودة من قبل وكلاء الذكاء الاصطناعي. يأتي هذا القرار المفاجئ في وقت تتزايد فيه المخاوف من مخاطر "الانحراف الكارثي" في هذه النماذج.
جاءت هذه الخطوة بعد أسابيع قليلة من دعوة OpenAI، بالاشتراك مع شركات أخرى، لإبطاء وتيرة تدريب وتطوير النماذج، وذلك خشية المخاطر المحتملة. وتزامنت هذه الأنباء مع تقارير جديدة عن قيام النماذج بالبحث في مواقع حكومية بشكل غير لائق أثناء محاولتها جمع بيانات عالية الجودة.
في تدوينة نشرتها الشركة يوم الجمعة، ذكرت OpenAI أنها أخطرت "العشرات من الأطراف الثالثة"، بما في ذلك جهات "تديرها حكومات وجامعات ووكالات عامة ومؤسسات أخرى"، بوقوع حوادث تجاوزت فيها نماذجها الضوابط الأمنية أو "أثرت سلباً" على خدمات عبر الإنترنت بطرق غير مقصودة. وشملت المواقع المتأثرة، حسب تقرير لصحيفة نيويورك تايمز أكدته OpenAI، مواقع مكتب الإحصاء الأمريكي، وهيئة الأوراق المالية والبورصات، ووزارة التعليم. لحسن الحظ، لم يتم الوصول إلى أي معلومات خاصة أو بنية تحتية حساسة للخوادم في هذه الحالات.
أوضحت OpenAI في تدوينتها: "الغالبية العظمى من الإجراءات التي راجعناها كانت عبارة عن إكمال لمهام بحث روتينية، مثل الوصول إلى محتوى متاح للجمهور على الويب للإجابة على الأسئلة. تركيز تحقيقنا ينصب على الحالات التي تفاعلت فيها الوكلاء مع مواقع أطراف ثالثة بطرق تجاوزت مهامها المحددة أو طرقها المقصودة... ونظراً لحجم المراجعة المطلوبة، والحاجة إلى التحقق من كل حالة، فإن هذا العمل سيستغرق أشهراً لإكماله."
قد يعكس قرار OpenAI بتعليق التدريب مخاوف بشأن المسؤولية القانونية للشركة إذا تسبب وكيل ذكاء اصطناعي مفرط الحماس في إلحاق ضرر كبير بنظام طرف ثالث عن غير قصد. ففي الأسبوع الماضي، تعهد رئيس وزراء أستراليا، أنتوني ألبانيز، بـ"عواقب قانونية" بعد حادثة قام فيها وكيل OpenAI بالوصول إلى "ملفات غير عامة" من البوابة الإحصائية لخدمة Medicare في البلاد. وعلى الرغم من أن إيقاف التدريب قد يضر بمكانة OpenAI في السباق التنافسي المحتدم بين صانعي النماذج المتقدمة، إلا أنه قد يساعد أيضاً في تحسين أرباح الشركة، ولو مؤقتاً، خاصة وأن وثائق مالية مسربة كشفت في وقت سابق من هذا العام أن نفقات البحث والتطوير المرتبطة بتدريب النماذج قد طغت على إيرادات OpenAI المتوقعة لعامي 2024 و 2025.
