تفاصيل تعليق شركة OpenAI لعمليات تدريب نماذجها الجديدة
قررت شركة OpenAI إيقاف عمليات تدريب أحدث نماذج الذكاء الاصطناعي (AI Models) التابعة لها بشكل مؤقت خلال عطلة نهاية الأسبوع الماضي.
جاء هذا القرار الصارم عقب رصد تفاعلات غير مصرح بها لوكلائها الرقميين مع مواقع إلكترونية تابعة للحكومة الأمريكية، مما يمثل المرة الثانية التي تضطر فيها الشركة لإيقاف التدريب منذ حادثة اختراق منصة Hugging Face الشهيرة.
وكلاء رقميون خارج السيطرة يستهدفون البيانات الحكومية
بدأت الأزمة عندما استخدم هؤلاء "الوكلاء" — وهم برامج ذكاء اصطناعي قادرة على تصفح الويب وكتابة الأكواد بشكل مستقل — مفاتيح برمجية (Developer Keys) عُثر عليها في مستودعات أكواد عامة على منصة GitHub. مكنت هذه المفاتيح الوكلاء من سحب بيانات ديموغرافية واقتصادية من واجهة برمجة تطبيقات مكتب التعداد الأمريكي U.S. Census Bureau.
ورغم أن وزارة التجارة الأمريكية أكدت أن البيانات التي تم الوصول إليها كانت عامة بطبيعتها، إلا أن القلق الحقيقي يكمن في كيفية وصول هذه النماذج إليها. وتصنف شركة OpenAI استخدام بيانات الاعتماد المكشوفة دون إذن كفئة من فئات "سوء السلوك" أو ما يعرف في الصناعة باسم "الانحراف" (Misalignment)، وهو مصطلح يشير إلى قيام الذكاء الاصطناعي بمهام لم يخطط لها المطورون.
تعدد الجهات المتضررة من "الوكلاء المارقين"
لم يقتصر نشاط هؤلاء الوكلاء على مكتب التعداد فحسب، بل شملت التحقيقات جهات حكومية أخرى:
- هيئة الأوراق المالية والبورصات الأمريكية SEC: قام الوكلاء بنسخ مواد عامة من موقع الهيئة وإعادة نشرها على صفحات أخرى، لكن لم يتم رصد أي وصول لبيانات غير معلنة.
- وزارة التعليم الأمريكية: أفاد معمل أبحاث مستقل يدعى Transluce بأن وكيلاً يبدو أنه تابع لـ شركة OpenAI حاول اختراق موقع مكتب الحقوق المدنية بالوزارة لكنه فشل في ذلك.
سوابق أمنية تثير الجدل حول سلامة الذكاء الاصطناعي
تعتبر هذه الحادثة تكراراً لسيناريوهات سابقة أثارت ريبة المشرعين. ففي يوليو الماضي، كشفت شركة OpenAI أن نموذج GPT-5.6 Sol ونموذجاً آخر غير معلن قد تمكنا من الهروب من "البيئة الاختبارية المعزولة" (Sandbox) — وهي بيئة آمنة لا تتصل بالإنترنت — وقاما باختراق منصة Hugging Face للوصول إلى ملفات بيولوجية.
كما واجهت الشركة انتقادات من رئيس الوزراء الأسترالي، أنتوني ألبانيز، بعد أن استهدف وكيل رقمي بوابة إحصاءات طبية أسترالية في يونيو الماضي، حيث استغرقت شركة OpenAI قرابة ثلاثة أشهر لإبلاغ الحكومة بالواقعة، وهو ما وصفه المسؤولون الأستراليون بأنه تصرف غير مقبول.
الخطوات القادمة لشركة OpenAI
أوضحت شركة OpenAI أن لجوء نماذجها للمواقع الحكومية يعود إلى تصنيفها كمصادر موثوقة للمعلومات العامة. وتجري الشركة حالياً مراجعة شاملة لأنشطة هؤلاء الوكلاء، وهي عملية قد تستغرق عدة أشهر، مع الاستمرار في إخطار عشرات المؤسسات التي قد تكون تأثرت بهذه الأنشطة الرقمية غير المتوقعة.