عمان - في ظل تسلل الذكاء الاصطناعي بسرعة إلى القطاع المالي الذي يبشر بتقديم كفاءة وابتكار غير مسبوق، يكمن في الخوارزميات المتطورة تهديد خفي لكنه خطير، ألا وهو التوهم الاصطناعي، أو ما يعرف بـ"الهلاوس"، وهي ظاهرة تُنتج فيها أنظمة الذكاء الاصطناعي معلومات تبدو معقولة وموثقة لكنها كاذبة تماماً.اضافة اعلان
يشكل هذا الخداع الصامت مخاطر كبيرة على عمليات البنوك، وثقة العملاء، والامتثال التنظيمي، مما يستدعي فهماً شاملاً واستراتيجيات قوية للتخفيف من هذه المخاطر.
ويتزايد قلق القطاع المالي بشأن التوهم الاصطناعي، إذ تركز المؤسسات الكبرى والجهات التنظيمية على مخاطره وفرصه. ويتم تسليط الضوء على هذا الموضوع الناشئ في منشورات مجلس الاستقرار المالي، ووزارة الخزانة الأميركية، والبنك المركزي الأوروبي، وهيئة النقد في سنغافورة؛ حيث تتناول هذه الهيئات التأثير الخطير لهذه الظاهرة على الاستقرار المالي، والمخاطر المحدقة بالعمليات المصرفية، وآثار الذكاء الاصطناعي التوليدي، والجوانب المتعلقة بالأمن السيبراني؛ إذ يُعرَف التوهم الاصطناعي بأنه يُعرض عمليات اتخاذ القرار، والتفاعلات مع العملاء، والامتثال التنظيمي، لمخاطر جسيمة، إضافة إلى الثغرات في الأمن السيبراني والاستقرار المالي.
ويرجع التوهم الاصطناعي إلى القيود الجوهرية في نماذج التعلم الآلي؛ إذ يتم تدريب هذه النماذج على مجموعات بيانات ضخمة، وقد تستخلص أحيانًا أنماطًا أو تولد استجابات تفتقر إلى الأساس الواقعي. وفي السياق المصرفي، قد يظهر ذلك من خلال روبوتات الدردشة التي تقدم تفاصيل حسابات غير دقيقة، أو من خلال تقييمات مخاطرة تعتمد على بيانات مختلقة. وتؤكد الإحصاءات أن روبوتات الدردشة قد تتوهم أو تصطنع معلومات مضللة بنسب تصل إلى 27 % من الوقت، مما يبرز خطورة هذه المشكلة.
ويمتد تأثير التوهم الاصطناعي ليشمل جميع جوانب العمليات المصرفية؛ حيث يمكن أن تؤدي المعلومات المصرفية الخاطئة التي تنشرها أنظمة الذكاء الاصطناعي إلى تضليل العملاء وخسائر مالية؛ فقد يؤدي إنشاء تفاصيل قروض عشوائية إلى قرارات خاطئة، في حين يمكن أن يسبب تقديم نصائح متضاربة حول التقييم الائتماني البلبلة ويفسد ثقة العملاء. وتشير البحوث إلى أن 77 % من المؤسسات قد شهدت تراجعاً في جودة اتخاذ القرار نتيجة للتوهم الاصطناعي، مما يؤكد انتشار هذه المخاطر.
بعيداً عن الاضطرابات التشغيلية، يفرض التوهم الاصطناعي مخاطر كبيرة على السمعة والامتثال التنظيمي؛ إذ يعد تآكل ثقة العملاء، وهي حجر الزاوية في القطاع المصرفي، نتيجة مباشرة للمعلومات المضللة التي يولدها الذكاء الاصطناعي. علاوة على ذلك، من المرجح أن تفرض الهيئات التنظيمية، التي تولي اهتماماً متزايداً بحوكمة الذكاء الاصطناعي، عقوبات صارمة على المؤسسات التي لا تمتثل للوائح الناجمة عن التوهم الاصطناعي. كما تُضاعف مخاطر اختراق البيانات وانتهاكات الخصوصية هذه المخاوف، نظراً لأن الأنظمة التي تولد معلومات مختلقة قد تتعامل أيضاً مع بيانات العملاء الحساسة بطريقة خاطئة.
فالأبحاث الحديثة تسلط الضوء على الأبعاد الإدراكية والأخلاقية للتوهم الاصطناعي؛ إذ يمكن للاعتماد المفرط على الأنظمة الذكية أن يقلل من مهارات التفكير النقدي لدى المستخدمين، مما يؤدي إلى قبول غير نقدي للمخرجات التي تولدها هذه الأنظمة. وهذا يتطلب عمليات تحقق دقيقة وإشرافا بشريا لضمان الدقة والتقليل من المخاطر. كما أن الانحياز الخوارزمي، وهو تحد مستمر في مجال الذكاء الاصطناعي، يمكن أن يزيد من مخاطر التوهم ويؤدي إلى نتائج تمييزية ومخالفات أخلاقية.
ولمواجهة هذه التحديات، ينصح قادة الصناعة باعتماد نهج متعدد الطبقات للتخفيف من المخاطر؛ فمثلاً، يمكن تحسين دقة المعلومات التي يولدها الذكاء الاصطناعي من خلال دمج مصادر يتم التحقق من صحتها عبر تقنية التوليد المعزز بالاسترجاع (RAG). كما يعد تنفيذ حواجز أو إعداد حدود لاستجابات الذكاء الاصطناعي خطوة مهمة لتقليل مخاطر الهلاوس. وتبقى الإجراءات الأمنية الصارمة، بما في ذلك الأنظمة المبنية على إذن الدخول، ضرورية لحماية بيانات العملاء الحساسة. بالإضافة إلى ذلك، يمكن أن يسهم تطوير نماذج ذكاء اصطناعي مخصصة لتطبيقات مصرفية محددة في توفير مزيد من السيطرة والشفافية، بينما تعزز الإعدادات القابلة للتعديل من قابلية الشرح والثقة بين المستخدمين.
ويشدد خبراء التكنولوجيا المصرفية على أهمية وجود إطار تنفيذي منظم؛ إذ تعد البروتوكولات الأمنية القوية، بما في ذلك التحديثات المنتظمة، ضرورية لحماية أنظمة الذكاء الاصطناعي من الهجمات الخبيثة. كما يعد وجود طبقة رقابية، تتضمن المراقبة المستمرة واكتشاف الشذوذ، أمراً حيوياً لتحديد  حالات التوهم والتصدي لها. وما يزال الإشراف البشري من قبل خبراء مدربين عنصراً أساسياً للتحقق من مخرجات الذكاء الاصطناعي وضمان الامتثال التنظيمي، إلى جانب إجراء عمليات تدقيق وتقييم دورية لاكتشاف ومعالجة المخاطر الناشئة.
وبالنظر إلى المستقبل، يجب على المؤسسات المصرفية إعطاء الأولوية لتطوير آليات تحقق قوية لضمان دقة المعلومات التي يولدها الذكاء الاصطناعي. فأنظمة المراقبة المستمرة ضرورية لاكتشاف حالات التوهم والتصدي لها في الوقت الفعلي، بينما تعد برامج التدريب الشاملة للموظفين أمراً حيوياً لتعزيز الوعي وتعزيز الاستخدام المسؤول للذكاء الاصطناعي. كما تعد أطر الحوكمة الواضحة، التي تحدد المبادئ الأخلاقية وتضع آليات للمساءلة، ضرورية لضمان تطوير وتطبيق الذكاء الاصطناعي بمسؤولية. وتظل عمليات التدقيق والتقييم المنتظمة أمراً أساسياً لاكتشاف ومعالجة المخاطر الناشئة.
وفي الختام، يتطلب النجاح في إدارة مخاطر التوهم أو هلوسة الذكاء الاصطناعي توازناً بين الابتكار التكنولوجي وتخفيف المخاطر. فعلى المؤسسات المصرفية احتضان الإمكانات التحولية للذكاء الاصطناعي، مع البقاء يقظة لحدوده الجوهرية. ويجب أن تظل ثقة العملاء والامتثال التنظيمي في مقدمة الأولويات أثناء السعي نحو الابتكار المدعوم بالذكاء الاصطناعي. فمن خلال اعتماد نهج استباقي وشامل، يمكن للقطاع المالي تسخير قوة الذكاء الاصطناعي مع تقليل مخاطر الخداع الصامت إلى أدنى حد.