أظهرت دراسة حديثة أن العديد من الأشخاص يفشلون في التعرف على التحيز العنصري المدمج في أنظمة الذكاء الاصطناعي، حتى عندما يكون واضحًا في بيانات التدريب. تسلط هذه الدراسة الضوء على كيفية تعلم الذكاء الاصطناعي الارتباطات غير المقصودة من البيانات غير المتوازنة، مثل ربط الوجوه البيضاء بالسعادة والوجوه السوداء بالحزن، مما يؤدي إلى أداء متحيز.
مشكلة التحيز في الذكاء الاصطناعي
تعتبر مشكلة التحيز في الذكاء الاصطناعي من القضايا المعقدة التي تتطلب اهتمامًا كبيرًا. يحدث هذا التحيز عندما يتم تدريب النماذج على بيانات تحتوي على تمثيل غير متوازن لصور معينة، مما يؤدي إلى تعلم غير مقصود يرتبط بالعرق والعاطفة.
في الدراسة المنشورة في “علم النفس الإعلامي”، طلب الباحثون من المشاركين تقييم بيانات التدريب المنحازة، ولكن معظمهم لم يلاحظوا هذا التحيز، إلا إذا كانوا من المجموعة المتضررة سلبًا.
العمى البشري أمام التحيز
يتسم العديد من المستخدمين بالثقة العمياء في حيادية أنظمة الذكاء الاصطناعي، حتى عندما تكون هذه الأنظمة متحيزة. أظهرت الدراسة أن معظم المشاركين لم يلاحظوا التحيز العنصري إلا عندما كان الأداء المتحيز واضحًا، مثل تصنيف العواطف بشكل غير دقيق للأفراد السود.
تزداد احتمالية التعرف على التحيز لدى المشاركين من المجموعات العرقية المتضررة سلبًا، وخاصة عندما يتم تمثيل مجموعتهم بشكل غير متوازن في بيانات التدريب.
التحيز الناتج عن بيانات التدريب
تعتبر بيانات التدريب هي العامل الرئيسي في ظهور التحيزات الخوارزمية. يشير الباحثون إلى أهمية فهم ما يتعلمه الذكاء الاصطناعي من الارتباطات غير المتوقعة في بيانات التدريب، وكيف يؤثر ذلك على الأداء المستقبلي للأنظمة.
في إحدى السيناريوهات التجريبية، فشلت الأنظمة في تصنيف تعابير الوجوه للأقليات بدقة، مما يشير إلى تحيز الأداء لصالح المجموعة المسيطرة.
التوعية والشفافية
تؤكد الدراسة على حاجة المجتمع لتحسين الوعي العام ومعرفة الذكاء الاصطناعي، بالإضافة إلى زيادة الشفافية في كيفية تدريب وتقييم الخوارزميات. يخطط الباحثون لمواصلة دراسة كيفية فهم الناس للتحيز الخوارزمي من خلال التركيز على تحسين معرفة وسائل الإعلام والذكاء الاصطناعي.
الخاتمة
تسلط هذه الدراسة الضوء على ضرورة توخي الحذر عند التعامل مع أنظمة الذكاء الاصطناعي، خاصة فيما يتعلق بالتحيزات العنصرية. يجب على المطورين والباحثين العمل على تطوير أنظمة شاملة وعادلة تمثل كافة المجموعات بشكل متوازن. كما ينبغي تعزيز التعليم العام بشأن التحيزات الخوارزمية لتمكين المستخدمين من التعرف عليها والتعامل معها بفعالية.