Local
-OneArabia
أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي تقريراً يركز على "التحيز في أنظمة الذكاء الاصطناعي". ويهدف هذا التقرير إلى تسليط الضوء على التحديات التي تواجه تطوير وتبني أنظمة الذكاء الاصطناعي، خاصة مع توسع العديد من البلدان والمنظمات في استخدام الذكاء الاصطناعي في قطاعات حيوية. وتتزايد المخاوف بشأن التحيز، وخاصة في أنظمة صنع القرار.
قد تنشأ التحيزات في الذكاء الاصطناعي نتيجة لبيانات منحرفة أو تصميم خوارزميات غير متوازن. وغالبًا ما تنشأ بسبب التحيزات المعرفية التي تنحرف عن التفكير العقلاني أو السلوك الطبيعي. وقد تنبع هذه التحيزات من الاختصارات العقلية التي يستخدمها البشر لتبسيط عمليات صنع القرار. كما يمكن أن تحدث التحيزات الفنية أثناء تصميم وتنفيذ أنظمة الذكاء الاصطناعي، مما يؤثر على نزاهتها أو دقتها.
اتخذت SDAIA خطوات كبيرة للحد من التحيز في أنظمة الذكاء الاصطناعي من خلال وضع معايير أخلاقية تعزز العدالة والشفافية وعدم التمييز. كما قدمت أداة لقياس الالتزام بهذه المعايير، مما يضمن الاستخدام المسؤول للذكاء الاصطناعي. تتعاون SDAIA مع المنظمات الدولية التي تركز على أخلاقيات الذكاء الاصطناعي لتطبيق أفضل المعايير العالمية.
بالتعاون مع اليونسكو، أنشأت المملكة العربية السعودية المركز الدولي لأبحاث وأخلاقيات الذكاء الاصطناعي في الرياض. ويهدف هذا المركز إلى تعزيز البحوث الأخلاقية في مجال الذكاء الاصطناعي واستكشاف الحلول للتحديات الأخلاقية على المستوى الدولي.
وتتجاوز جهود SDAIA حدود التنظيم؛ فقد نفذت تدابير عملية لتقليل التحيز في أنظمة الذكاء الاصطناعي الخاصة بها. فمن جمع البيانات إلى نشر النماذج، تضمن SDAIA جودة البيانات ودقتها وتنوعها. وتمثل نماذج مثل "Aynay" للكشف عن سرطان الثدي والتنبؤ بمخاطر السكتة الدماغية مثالاً على هذا النهج.
تهدف القمة العالمية للذكاء الاصطناعي التي تنظمها SDAIA في أعوام 2021 و2022 و2024 تحت شعار "الذكاء الاصطناعي لصالح البشرية" إلى زيادة الوعي حول تحديات التحيز وتعزيز التطبيقات العادلة التي تعود بالنفع على البشرية.
فهم مصادر التحيز
ويحذر التقرير من أن الخطأ البشري قد يؤدي إلى إدخال التحيز في أنظمة الذكاء الاصطناعي خلال مراحل مختلفة من التطوير. وقد تظهر التحيزات أثناء صياغة المشكلة أو جمع البيانات أو بناء النماذج. ومن الممكن أن يساعد التعرف على هذه المصادر وتنفيذ سياسات مدروسة جيدًا في التخفيف من آثارها.
قد تنشأ التحيزات من بيانات التدريب أو الخوارزميات المستخدمة في معالجتها. وحتى طريقة عرض النتائج قد تؤدي إلى ترسيخ الصور النمطية السلبية تجاه مجموعات معينة. والمراقبة المستمرة ضرورية للكشف عن التحيزات في وقت مبكر والتخفيف منها قبل التسبب في ضرر.
توصيات لمعالجة التحيز
يقترح التقرير عدة حلول لمعالجة التحيز في مجال الذكاء الاصطناعي. وتشمل هذه الحلول تطوير خوارزميات شفافة، وتحسين جودة البيانات من خلال التنوع، وزيادة الوعي بتأثيرات التحيز على المجتمع، ووضع معايير تسمية موحدة لتناسق البيانات.
يعد تنويع الفرق المسؤولة عن تطوير أنظمة الذكاء الاصطناعي أمرًا بالغ الأهمية. يساعد الحفاظ على كفاءة البنية الأساسية في منع تسرب التحيز في حين يعد حماية بيانات المستفيد أمرًا حيويًا قبل نشر التطبيق.
وتؤكد SDAIA على مراجعة الطلبات من قبل فرق حوكمة متخصصة ومدربة على تحديد التحيزات في جميع مراحل بناء أنظمة الذكاء الاصطناعي.
التقرير الكامل متاح على الانترنت عبر هذا الرابط .
With inputs from SPA
English summary
The Saudi Data and Artificial Intelligence Authority (SDAIA) released a report highlighting bias in AI systems. It outlines ethical standards and recommendations to ensure fairness and transparency in AI applications.
Story first published: Thursday, February 27, 2025, 23:46 [GST]
0 تعليق