في عام 2016 ، أعلنت الأمم المتحدة ذلك خدمة الإنترنت هو حق من حقوق الإنسان.
تم اتخاذ هذا القرار مع العلم أن الإنترنت هي أداة تتيح للجميع الوصول إلى المعلومات بتكلفة أقل والتعبير عن أنفسهم.
أثار هذا القرار مناقشات حول الوصول من حيث البنية التحتية ، حيث يتم تثبيت أو ترقية الكابلات الليفية ، أو السماح بالوصول غير المنقطع أثناء الاضطرابات المدنية وحالات الطوارئ الأخرى.
في حين أن هذه النقاط صالحة ومهمة ، فإن الإنترنت ليس مجرد أسلاك وشاشات ، ويمكن تغيير المعلومات التي يتم الوصول إليها بناءً على الخوارزميات.
نظرًا لأن الإنترنت قد دمجت نفسها في حياتنا ، فهي الآن جزء من بنيتنا التحتية الاجتماعية (على غرار الخدمات الطبية أو التعليمية).
من الموثق جيدًا وجود تحيزات في المساحات الطبية والتعليمية ، بما في ذلك الوصول إلى الرعاية وجودة الرعاية ، ولكن ماذا عن نتائج البحث؟
هل هم عادلون؟ هل هم يمثلون العالم من حولنا؟ أم أنها تضر أكثر مما تنفع؟
ماذا يوجد في الخوارزمية؟
في التسويق الرقمي ، “الخوارزمية” مصطلح يستخدم يوميًا ، سواء كان أي شخص يفهم ما يعنيه أم لا. لكل منصة واحدة (أو أكثر) ، ومهمتنا هي محاولة إرضائها.
الخوارزمية هي إجراء يتم اتباعه عندما يقوم النظام بعملية حسابية.
تأخذ هذه العملية المدخلات وتستخدم الصيغ أو القواعد أو عمليات حل المشكلات الأخرى لإنتاج المخرجات.
للبحث ، هذا يعني أن الاستعلامات التي تم إدخالها في مربع البحث هي المدخلات و SERP (صفحة نتائج محرك البحث) هي الإخراج.
هذا تفسير مبسط للغاية لما يحدث. تستخدم Google عدة خوارزميات بالاشتراك مع AI (الذكاء الاصطناعي) و التعلم الالي.
سيكون تشريح النظام بأكمله بعيدًا عن متناول يدي ويتجاوز الغرض من هذه المقالة.
الكناري في SERPs
كامرأة ، لست غريباً عن التحيز في المواقع والسياسة والمجتمع بشكل عام.
كل يوم أتجول في العالم مع قليل من الملح. التحقيق في التحيزات المحتملة في نتائج البحث هو شيء كنت مهتمًا به منذ فترة ، وبدأت البحث في الموضوع في عام 2021.
تم استدعاء مشروع بحث أصلي (الإفصاح الكامل: الذي ساعدت في قيادته) اعطنا الميزات وليس الزهور درست التحيزات بين الجنسين في المشهد الاجتماعي والبحثي للمصورين المحترفين.
تم اختبار العديد من الاستعلامات غير الجنسانية ، مثل “أفضل حسابات التصوير على Instagram” أو “أفضل المصورين”.
النتائج؟
ظهرت النساء كمصورات محترفات أقل بكثير من الرجال في النتائج الثرية ومحتوى الصفحة الأولى ، على الرغم من كونهن يشكلن 50٪ من المحترفين.
من المسؤول عن هذه التحيزات؟ المؤلفون الذين كتبوا المقالات؟ محركات البحث لمكافأة هذه الصفحات؟ محاسن تحسين محركات البحث للتوصية بالمقال لعملائهم؟
رد فعلي غير المحسوس هو إلقاء اللوم على من أنشأ الخوارزمية.
في حين أن هذا صحيح إلى حد ما ، إلا أنه ليس القصة الكاملة وليس عادلًا.
التحيز متجذر في هياكلنا المجتمعية الحالية ، المنسوجة في ثقافتنا ، وحكومتنا ، وتفاعلاتنا مع العالم من حولنا.
هل خوارزمية PageRank متحيزة؟
بحث منشور عام 2011 لقد شكك بالفعل في عدالة نظام ترتيب الصفحات.
تُظهر النماذج أنه مع نمو الويب ، يصبح استقرار مواقع الويب ذات التصنيف الأعلى أكثر استقرارًا ، مما يترك المواقع المتبقية للتنافس على بقايا الطعام.
نشرت مجلة Nature ، وهي مجلة تمت مراجعتها من قبل الأقران ، مقالاً في فبراير 2022 افحص خوارزمية PageRank لمعرفة ما إذا كانت تقدم التحيز أو تضخمه.
لوضعها في أبسط المصطلحات ، ابتكر الباحثون خمسة أنماط مجتمعية محتملة بدرجات متفاوتة من المثلية الجنسية (“الميل إلى التواصل مع آخرين مشابهين”).
يحتوي كل نموذج على 20 عقدة ، لكن دعنا نسميها مواقع الويب. ثم تم تخصيص رتبة صفحة لكل موقع على شبكة الإنترنت وإما كجزء من الأغلبية أو الأقلية داخل المجتمع.
تم قياس عدم المساواة باستخدام معامل جيني (تحليل إحصائي لقياس عدم المساواة) لمعرفة كيف سجل الفرد مقابل توزيع متساوٍ. تم قياس عدم المساواة من خلال حساب النسبة المئوية للأقليات في أعلى نتائج البحث.
تظهر النتائج التي توصلوا إليها أن خوارزمية PageRank يمكنها تقليل التحيز أو إعادة إنتاجه أو تضخيمه اعتمادًا على النموذج المستخدم.
في النماذج ذات درجة عالية من المثلية ، عملت الأصوات المهيمنة على إدامة وجهات النظر والأحكام المسبقة هذه بينما كانت أقل تمثيلاً للأقليات.
من ناحية أخرى ، عندما تكون مجموعة الأغلبية غير متجانسة (الميل إلى التجمع معًا في مجموعات متنوعة) ، يكون هناك تمثيل زائد للأقليات.
هذا يضع الأساس للبحث المستقبلي في التدخلات المحتملة أو الحد من تحيز الخوارزمية.
تقاطع الثقافة مع نتائج بحث الصور من Google
أظهر الكثير من الأبحاث أن الخوارزميات يمكن أن تكون متحيزة والعديد منها متحيز. كما ذكرنا سابقًا ، يمكن لـ PankRank اللعب على هذه التحيزات لتضخيمها أو تقليلها ، لكن الخوارزميات لا تعمل بمفردها.
في حالة Google ، لا يتم تشغيل خوارزميات متعددة فحسب ، ولكن أيضًا الذكاء الاصطناعي والتعلم الآلي. كل هذه تتطور باستمرار من خلال تفاعلاتنا (البشرية).
بحث آخر تم نشره هذا العام بالتحقيق في ما إذا كانت عدم المساواة الاجتماعية بين الجنسين موجودة في نتائج بحث صور Google (عبر خوارزميات البحث المحلية).
رسم الباحثون عدم المساواة بين الجنسين حسب البلد (استنادًا إلى مؤشر الفجوة بين الجنسين العالمي) والنسبة المئوية للرجال الذين يظهرون في نتائج بحث صور Google عند البحث عن “لا أحد” في لغة كل بلد (باستخدام VPN للوصول إلى النتائج المحلية).
وشهدت البلدان التي تشهد قدرًا أكبر من عدم المساواة بين الجنسين مزيدًا من صور الرجال للكلمة الرئيسية المحايدة جنسانيًا “شخص”. ما يدعونه هو رابط بين المعايير المجتمعية والمخرجات الحسابية.
نظر الجزء الثاني من الدراسة في كيفية تأثير هذه النتائج المتحيزة على اتخاذ القرارات لدى الأفراد.
شاهد المشاركون لقطات شاشة لنتائج صور Google من بلدان منخفضة وعالية عدم المساواة وسئلوا عن الجنس والوظيفة.
تخطي التفاصيل (على الرغم من أنني أعتقد أن المقالة تستحق القراءة) ، أظهرت النتائج أن التحيزات الثقافية الموجودة في الخوارزميات يمكن (وتؤثر) على اتخاذ القرار الفردي.
عندما رأى المشاركون نتائج الصورة من بلدان منخفضة عدم المساواة ، كانت نتائجهم أكثر مساواة من نتائج البلدان التي ترتفع فيها معدلات عدم المساواة ، حيث عززت النتائج التحيزات بين الجنسين.
ينعكس مستوى عدم المساواة الاجتماعية بين الجنسين في خوارزمية البحث ، مما يجعلني أتساءل إلى أي مدى. ثم يؤثر مزيج هذه العناصر على الإدراك الفردي من خلال كل استخدام.
من المسؤول عن التحيز في SERPs؟
بدأت هذه الرحلة بطرح هذا السؤال على أمل الحصول على إجابة بسيطة.
لسوء الحظ ، لا يوجد شيء لأننا جميعًا مسؤولون عن التحيز في نتائج البحث. من المبرمجين وكتّاب الإعلانات الأصليين ، إلى محترفي تحسين محركات البحث وبناة الروابط ، إلى المجتمع والثقافة والبيئة التي نعيش فيها.
تخيل كل شيء الخوارزميات تتفاعل معه يوميًا. إذا كان التعرض لهذه الخوارزميات يؤثر على تصورك للعالم ، فإنه يصبح فوضويًا ، ويفكك سلاسل المدخلات المتعددة.
كيف يمكن لنا ان نحسن ذلك؟
بصفتي متفائلاً ميؤوسًا منه ، لا يمكنني أن أترك لكم مثل هذا العبء الثقيل. لنبدأ المناقشة حول كيف يمكننا جعل البحث والمحتوى مساحة أكثر شمولاً.
أوضح الباحثون الذين درسوا التحيزات في PageRank أنه في حين أن الشبكات المحبة للمثليين هي السبب الجذري لعدم المساواة في التمثيل ، يمكن للأقليات التغلب على هذا من خلال الشبكات الاستراتيجية.
هذا ليس حلاً معقولاً لذلك اقترحوا تنفيذه DPAH (لا تقلق ، لن أخوض في التفاصيل!).
من شأن هذا النموذج أن يلغي الحاجة إلى مطالبة الأقليات بالتواصل مع الأغلبية.
اقترحت الدراسة الأخرى التدخلات القائمة على علم النفس لأنها خلصت إلى أن عدم المساواة الاجتماعية بين الجنسين انعكست في الخوارزمية. إنهم يطالبون بمزيد من الذكاء الاصطناعي الأخلاقي الذي يجمع بين فهمنا لعلم النفس والمجتمع.
عادةً ما يكون أكبر قلق لمحترفي تحسين محركات البحث هو كيفية مناشدة الخوارزمية بدلاً من التشكيك في عدالتها أو مساواتها أو كيف يمكننا إدامة التحيزات الضارة.
من خلال استخدام البرامج المدعومة بالذكاء الاصطناعي لتفسير الخوارزميات التي تعمل بالذكاء الاصطناعي ، يجب أن يكون هناك وقت نبدأ فيه في التشكيك في العنصر الأخلاقي لعملنا.
في الوقت الحالي ، لا تمثل نتائج البحث تمثيلاً دقيقًا لعالم عادل عندما يكون ذلك ممكنًا.
بصفتنا متخصصين في تحسين محركات البحث ومنشئي المحتوى والمسوقين ، نلعب دورًا مهمًا في إعادة إنتاج محتوى غير عادل ، وزيادة ظهور الأصوات المهمة بالفعل وإدامة التحيزات الثقافية المحلية.
فيما يلي بعض الاقتراحات الأخرى التي كان عليّ أن أساعدها في إنشاء مشهد بحث أكثر إنصافًا.
- توقف عن تكرار المحتوى المتحيز – شارك منصتك بأصوات متنوعة وأنشئ قصصًا جديدة حول مكانتك.
- تدقيق محتوى الذكاء الاصطناعي – لن أقول لا لأي محتوى ذكاء اصطناعي ، ولكن يجب أن يراجعه إنسان لأنه قد يقع في نفس الأنماط.
- تدقيقات الخوارزمية – بنفس الطريقة التي ندقق بها مواقع الويب ، يمكن مراجعة الخوارزميات. هناك موارد للتحقق من التحيزات المحتملة والتحقق منها تقييمات الأثر.
- دعم التعليم – الدعم أو التطوع مع المنظمات التي تقدم الترميز أو البرامج أو التدريب الفني للنساء أو الأشخاص الملونين أو المجموعات المهمشة الأخرى. مبروك ل المرأة في تحسين محركات البحث في مجال التكنولوجيا لتكون واحدة من تلك المساحات.
- موارد متعددة اللغات – إنشاء مُحسّنات محرّكات البحث وموارد تسويقية أخرى بلغات أخرى غير الإنجليزية لتمكين الأصوات ووجهات النظر المتنوعة.
- قم بإنشاء خوارزميات وذكاء اصطناعي أقل تحيزًا – القول أسهل من الفعل ، لكن جوجل الذكاء الاصطناعي أعلن KELM العام الماضي ، والذي لديه بعض الإمكانيات للتحقق من الحقائق وتقليل التحيز
- وقف تحسين البحث – أن تكون مضادًا للمنافسة يعني أن تكون ضد الأعمال التجارية. إنه يزيل الأصوات الجديدة والمتنوعة ، لذلك أرغب في رؤية المزيد تبحث الشركات المناظر الطبيعية والمزيد من التنوع في النتائج.
لا أنوي أن تكون لي الكلمة الأخيرة في هذا الموضوع ، حيث يجب أن تستمر هذه المحادثة في خلاصات Twitter وفي المؤتمرات وتناول القهوة وفي عملنا اليومي.
يرجى مشاركة أفكارك أو أسئلتك حول هذا الموضوع حتى نتمكن من البدء في مناقشة إنشاء تجربة بحث لا تضر المجتمع.
المزيد من الموارد:
الصورة الرئيسية: Andrii Yalanskyi / Shutterstock
#هل #محسنات #محركات #البحث #مسؤولة #عن #تحيز #بحث #Google
المصدر
تعليقات
إرسال تعليق