في حادثة كادت أن تشعل فتيل أزمة دولية، أفادت شبكة CNN بأن الولايات المتحدة اقتربت من اعتراض سفينة صينية واقتحامها، وذلك بناءً على تقرير استخباراتي أمريكي خاطئ تمامًا، تم إنشاؤه بمساعدة أدوات الذكاء الاصطناعي.
التقرير المضلل، الذي قدمه محلل في القيادة العملياتية الخاصة الأمريكية، زعم بشكل غير صحيح أن السفينة الصينية كانت تنقل مكونات لبرنامج أسلحة نووية عبر الشرق الأوسط. هذا الادعاء، الذي استند إلى معلومات من "أربعة مصادر مطلعة على الحادثة" نقلتها CNN، دفع الجيش الأمريكي إلى التحضير لاعتراض السفينة بدعم جوي.
لكن، قبل تنفيذ العملية، اكتشف المسؤولون أن برنامج الدردشة الآلي الذي استُخدم في توليد التقرير قد "حدد بشكل غير دقيق المواد التي تحملها السفينة". وقد وصف أحد المصادر هذه "الخبطة" المدعومة بالذكاء الاصطناعي بأنها "كادت أن تبدأ حربًا".
يشير تقرير CNN إلى أن المحلل المعني استخدم برنامج دردشة آلي لتحليل تقارير استخباراتية حول بيان حمولة السفينة الصينية. هذا البرنامج، الذي "دمج بين استخبارات المصادر المفتوحة والاستخبارات الإشارية السرية الموجودة في حوزة الحكومة"، أنتج تقريرًا استخباراتيًا كاد أن يؤدي إلى سلسلة كارثية من الأحداث.
تُعد هذه الحادثة من أبرز وأخطر الأمثلة على كيفية تسبب "هلوسات" الذكاء الاصطناعي في تقويض مصداقية التقارير المهنية. ومع اختيار كلمة "هلوسة" ككلمة العام لعام 2023 من قبل قاموس كامبريدج، شهدنا أمثلة بارزة لكتاب، وصحفيين، وباحثين أكاديميين، وقضاة، وأطباء، وإدارات شرطة، ومراكز اتصال شركات، وقعوا في فخ أدوات الذكاء الاصطناعي التي تختلق المعلومات ببساطة عندما لا توفر بيانات تدريبها سياقًا كافيًا.
وعلى الرغم من المحاولات "اللطيفة" لاستخدام توجيهات مثل "لا تهلوس"، يشير بعض الباحثين إلى أنه قد يكون من المستحيل منع نماذج اللغات الكبيرة من الهلوسة تمامًا. ويؤمل أن يكون الجيش الأمريكي على دراية بهذه المشكلات عند الاعتماد على الذكاء الاصطناعي لتحليل التقارير الاستخباراتية. ومع ذلك، أطلقت وزارة الدفاع في يناير استراتيجية "تسريع الذكاء الاصطناعي" تهدف إلى "إتاحة جميع البيانات المناسبة عبر أنظمة تكنولوجيا المعلومات الموحدة لاستغلالها بواسطة الذكاء الاصطناعي، بما في ذلك أنظمة المهام عبر كل خدمة ومكون."
