لماذا لا يستطيع الذكاء الاصطناعي حل مشكلات التحيز الائتماني؟

نحن نعلم بالفعل أن خوارزميات البيانات المتحيزة متحيزة من خلال أتمتة صنع القرار ، مما يضر بالأقليات ذات الدخل المنخفض. على سبيل المثال ، البرامج التي تستخدمها البنوك للتنبؤ بما إذا كان شخص ما سوف يسدد ديون بطاقة الائتمان الخاصة به تفضل عادةً المتقدمين البيض الأكثر ثراءً. العديد من الباحثين – يحاول عدد كبير من الشركات الناشئة حل هذه المشكلة بجعل هذه الخوارزميات أكثر إنصافًا.

ولكن في ما هي أكبر دراسة لبيانات الرهن العقاري في العالم الحقيقي؟أظهر الاقتصاديان لورا بلاتنر من جامعة ستانفورد وسكوت نيلسون من جامعة شيكاغو أن الاختلافات في الموافقة على الرهن العقاري بين مجموعات الأقلية والأغلبية لا ترجع فقط إلى التحيز ولكن أيضًا إلى حقيقة أن مجموعات الأقليات لديها قروض منخفضة الدخل. القصص:

هذا يعني أنه عند استخدام هذه البيانات لحساب درجة الائتمان الخاصة بك ، فإنك تستخدم درجة الائتمان هذه للتنبؤ بالتقصير الائتماني ، وستكون هذه التوقعات أقل دقة. هذا الافتقار إلى الدقة هو الذي يؤدي إلى عدم المساواة ، وليس فقط التحيز.

هذا الاكتشاف له تداعيات كبيرة. هذا يعني أن تطوير خوارزميات أكثر إنصافًا لن يحل المشكلة.

قال أشيش رامباتشان ، الذي يدرس التعلم الآلي والاقتصاد في جامعة هارفارد ، لكنه لا يشارك في الأبحاث: “إنها نتيجة رائعة حقًا”. كانت المشكلات المتعلقة بسجلات الائتمان غير المكتملة ذات أهمية كبيرة لبعض الوقت ، ولكن هذه الدراسة هي أول تجربة واسعة النطاق للنظر في طلبات القروض لملايين الأشخاص الحقيقيين.

تجمع التصنيفات الائتمانية بين عدد من البيانات الاجتماعية والاقتصادية ، مثل تاريخ التوظيف والسجلات المالية وعادات الشراء ، في رقم واحد. بالإضافة إلى استخدام هذه النقاط لتحديد طلبات القروض ، يتم استخدامها الآن لاتخاذ عدد من القرارات التي تؤثر بشكل كبير على حياة الناس ، بما في ذلك التأمين والتوظيف والإسكان.

في محاولة لمعرفة سبب معاملة غالبية الأقليات بشكل مختلف من قبل مقرضي الرهن العقاري ، أنشأ Blatt-Nelson تقارير ائتمانية لـ 50 مليون مستهلك مجهول الهوية في الولايات المتحدة ، وربط كل من هؤلاء المستهلكين ببعض التفاصيل الاجتماعية والاقتصادية الخاصة بهم. أسماء العقارات և معاملات الرهن العقاري.

لم يتم إجراء هذا النوع من البحث من قبل لعدة أسباب ، أهمها أن ملكية مجموعات البيانات هذه غالبًا ما تكون خاصة – غير متاحة للباحثين. قال بلاتنر: “ذهبنا إلى مكتب الائتمان ودفعنا لهم الكثير من المال للحصول على البيانات”.

بيانات مشوهة

قام الباحثون بعد ذلك باختبار خوارزميات التنبؤ المختلفة لإظهار أن درجات الائتمان ليست متحيزة فحسب ، بل هي أيضًا مصطلح إحصائي “غامض” يشير إلى البيانات التي لا يمكن استخدامها لعمل تنبؤات دقيقة. خذ على سبيل المثال مقدم طلب من الأقليات بدرجة ائتمان تبلغ 620. في النظام المتحيز ، يمكننا أن نتوقع أن هذا التقدير يبالغ دائمًا في تقدير مخاطر مقدم الطلب ، بحيث تكون النتيجة الأكثر دقة هي 625. من الناحية النظرية ، يمكن حساب هذا التحيز باستخدام أداة تحقق حسابية ، مثل خفض حد الموافقة لتطبيقات الأقلية.

لكن صحيفة Platters և Nelson أظهرت أن التعديلات لتخفيف هذا التحيز لم يكن لها أي تأثير. ووجدوا أن 620 علامة لمقدم الطلب من الأقلية كانت في الواقع تمثيلًا ضعيفًا لمدى جدارة الائتمان الخاصة بهم. هذا يرجع إلى حقيقة أن الخطأ يمكن أن يحدث في كلا الاتجاهين المعاكسين. يمكن أن يكون الرقم 620 في الواقع 625 أو 615.

قد يبدو هذا الاختلاف صغيرًا ، لكنه يلعب دورًا. نظرًا لأن الأخطاء تنبع من ضجيج البيانات بدلاً من تحيز الاستخدام ، فلا يمكن تصحيحها عن طريق إنشاء خوارزميات أفضل.

يقول بلاتنر: “إنها دورة ذاتية التغذية”. “نحن نقرض الأشخاص الخطأ. لن يتمكن غالبية السكان من توليد البيانات التي يحتاجون إليها لإقراضها في المستقبل.”

بعد ذلك ، حاول Blatt-Nelson تقييم حجم المشكلة. قاموا ببناء نماذجهم الخاصة لأداة التنبؤ بمقرض الرهن العقاري قيموا ما يمكن أن يحدث إذا تم عكس القرارات بشأن المتقدمين الذين يكسبون نقاطًا على خط القبول والرفض الذين تم قبولهم أو رفضهم نتيجة تقييمات غير دقيقة. للقيام بذلك ، استخدم الباحثون عددًا من الأساليب ، مثل مقارنة حالات المتقدمين المرفوضين مع أولئك المقبولين أو النظر في خطوط ائتمان أخرى تم رفضها من قبل المتقدمين ، مثل قروض السيارات.

بتجميع كل هذا معًا ، قاموا برعاية فرضيات القروض “الصحيحة” هذه في نمذجتهم من خلال “قياس الفرق بين المجموعات مرة واحدة”. ووجدوا أنه بافتراض أن القرارات المتعلقة بمقدمي الطلبات من الأقليات منخفضة الدخل كانت دقيقة مثل تلك الخاصة بالبيض الأثرياء ، فقد انخفض التمييز بين المجموعات بنسبة 50٪. بالنسبة لمقدمي الطلبات من الأقليات الصغيرة ، جاء حوالي نصف هذا التحسين من إزالة الأخطاء حيث كان يجب الموافقة على مقدم الطلب ولكن رفضه. شهد المتقدمون من ذوي الدخل المنخفض تحسينات أقل. نظرًا لأن إصلاحات الأخطاء لعبت دورًا معاكسًا ، فقد تم تخفيف هذا التحسن من قبل المتقدمين الذين تم رفضهم ولكن تمت الموافقة عليهم.

يلاحظ بلات أن حل هذا الخطأ لن يفيد المتقدمين الضعفاء فحسب ، بل المقرضين أيضًا. يقول: “إن النهج الاقتصادي يسمح لنا بتغطية الخوارزميات بطريقة فعالة من حيث التكلفة”. يسمح لنا بتقدير مقدار سوء تخصيص الائتمان الناجم عن هذه الفوضى “.

صحح الأخطاء

لكن حل هذه المشكلة لن يكون سهلاً. تقول رشيدة ريتشاردسون ، باحثة التكنولوجيا في جامعة نورث إيسترن ، إن هناك العديد من الأسباب التي تدفع مجموعات الأقليات إلى تشويه بيانات الائتمان. وأضاف “هناك عواقب اجتماعية صعبة ، حيث أن بعض المجتمعات قد لا تسعى للحصول على الائتمان التقليدي بسبب عدم الثقة في المؤسسات المصرفية”. قم بإصلاح أي إصلاحات يجب القيام بها الجذور العميقة للمشكلة؛ يتطلب عكس مسار فقدان الأجيال مجموعة واسعة من الحلول – الإصلاحات ، بما في ذلك اللوائح المصرفية الجديدة – الاستثمارات في مجتمعات الأقليات. “إيجاد الحلول ليس عملية سهلة. “لأنه يجب أن يعالج الكثير من السياسات المختلفة والممارسات السيئة.”

قد يكون أحد الخيارات قصيرة الأجل هو أن تدفع الحكومة الدائنين ببساطة لقبول مخاطر الإقراض لمقدمي الطلبات الذين تم رفضهم بواسطة الخوارزميات. سيسمح هذا للمقرضين بالبدء في جمع بيانات دقيقة عن هذه المجموعات لأول مرة. والتي ستفيد كلاً من المتقدمين والدائنين على المدى الطويل.

يقول بلاتنر إن العديد من المقرضين الصغار قد بدأوا بالفعل في القيام بذلك. يعتبر رامباشان وريتشاردسون أن هذه خطوة أولى ضرورية. لكن رامباشان يعتقد أن هذا سيتطلب تغييرًا ثقافيًا في عقلية كبار المقرضين. يقول إن الفكرة منطقية جدًا لمجتمع علوم البيانات. ومع ذلك ، عندما يتحدث إلى تلك الفرق داخل البنوك ، فإنهم يقرون بأن هذا الرأي غير مقبول على نطاق واسع. وقال: “سوف يتنفسون ، سيقولون إنه لا توجد طريقة يمكنهم من خلالها شرح ذلك للموظفين ، ولا أعرف ما هو الحل الصحيح لهذه المشكلة”.

يعتقد بلات أيضًا أنه يجب استكمال درجات الائتمان بمعلومات أخرى حول المتقدمين ، مثل المعاملات المصرفية. ويرحب بالإعلان الأخير من قبل العديد من البنوك ، بما في ذلك JPMorgan Chase ، بأنهم سيبدأون في تبادل البيانات حول الحسابات المصرفية لعملائهم كمصدر إضافي للمعلومات حول الأفراد ذوي التاريخ الائتماني السيئ. ولكن ستكون هناك حاجة إلى مزيد من البحث لمعرفة الفرق الذي ستحدثه على الفور. يقول ريتشاردسون.

يلاحظ بلات أن الكثيرين يدركون الآن المشكلات المرتبطة بالخوارزميات المتحيزة. يريد أن يبدأ الناس في مناقشة الخوارزميات المتشابكة أيضًا. التركيز على التحيز և الاعتقاد بإمكانية تصحيحه تقنيًا يعني أنه يمكن للباحثين التغاضي عن القضية الأكبر.

يخشى ريتشاردسون أن يقتنع صانعو السياسة بأن التكنولوجيا يمكن أن تحمل الإجابة عندما لا تفعل ذلك. يستنتج. “البيانات غير الكاملة تبعث على القلق. لأن اكتشافه سيتطلب من الباحثين أن يكون لديهم فهم دقيق إلى حد ما للتفاوتات المجتمعية. “إذا أردنا أن نعيش في مجتمع عادل حيث يشعر الجميع بالانتماء والكرامة والاحترام ، يجب أن نبدأ بفهم واقعي لخطورة المشكلات التي نواجهها.”

أضف تعليق