أعلنت شركة OpenAI عن حظر مجموعة من الحسابات في كل من الصين وكوريا الشمالية، حيث كانت تلك الحسابات قد استخدمت أداة ChatGPT لتطوير أداة مراقبة مدعومة بالذكاء الاصطناعي (AI).

ما السبب؟

ويقال إن أداة المراقبة على وسائل التواصل الاجتماعي، وهي مدعومة بأحد نماذج Llama التابعة لشركة Meta، كانت تستخدم نماذج شركة الذكاء الاصطناعي لإنشاء أوصاف مفصلة وتحليل المستندات لجهاز قادر على جمع البيانات والتقارير في الوقت الفعلي.

وأشار الباحثون بن نيمو وألبرت تشانج وماثيو ريتشارد وناثانيال هارتلي إلى أن الحملة أطلق عليها اسم "مراجعة الأقران" بسبب سلوك الشبكة في الترويج لأدوات المراقبة ومراجعتها، وأضافوا أن الأداة مصممة لاستيعاب وتحليل المنشورات والتعليقات من منصات مثل X وفيسبوك ويوتيوب وإنستغرام وتيليجرام وريديت.

في إحدى الحالات التي أشارت إليها الشركة، استخدم الفاعلون ChatGPT لتصحيح أخطاء وتعديل الكود الذي يُعتقد أنه يشغل برنامج المراقبة، والذي يشار إليه باسم "Qianyue Overseas Public Opinion AI Assistant".

وبالإضافة إلى استخدام نموذجها كأداة بحثية لإخراج المعلومات المتاحة للجمهور حول مراكز الأبحاث في الولايات المتحدة، والمسؤولين الحكوميين والسياسيين في دول مثل أستراليا وكمبوديا والولايات المتحدة، وجد أن المجموعة تستفيد أيضًا من إمكانية الوصول إلى ChatGPT لقراءة وترجمة وتحليل لقطات الشاشة للمستندات باللغة الإنجليزية.