تعود المشاكل الحالية للذكاء الاصطناعي إلى قرون

في مارس 2015 ، اندلعت احتجاجات في جامعة كيب تاون في جنوب إفريقيا على تمثال للكولونيل البريطاني سيسيل رودس. رودس ، قطب التعدين الثري الذي تبرع بالأرض التي بنيت عليها الجامعة ، وارتكب إبادة جماعية ضد الأفارقة ووضع الأساس للفصل العنصري. وتحت شعار “يجب أن تسقط رودس” طالب الطلاب بإزالة التمثال. أشعلت احتجاجاتهم حركة عالمية لإنهاء الإرث الاستعماري الذي لا يزال قائماً في مجال التعليم.

دفعت هذه الأحداث باحث الذكاء الاصطناعي في شركة DeepMind بجنوب إفريقيا شاكر محمد إلى التفكير في شكلي التراث الاستعماري الذي قد يكون موجودًا في بحثه. في عام 2018 ، عندما كان مجال الذكاء الاصطناعي قد بدأ للتو في التعامل مع قضايا مثل التمييز الحسابي ، صاغ محمد مشاركة مدونة: تضمنت أفكاره الأولية. في ذلك المنشور ، دعا محمد الباحثين إلى “إنهاء استعمار الذكاء الاصطناعي” ، والعمل الميداني المباشر من المراكز الغربية مثل وادي السيليكون ، و “تقديم أصوات وثقافات جديدة” وأفكار من شأنها توجيه تطوير هذه التكنولوجيا.

الآن في الخلفية استؤنف البكاء طالب محمد بشعار “يجب أن يسقط رودس” في جامعة أكسفورد بتحريض من الحركة العالمية المناهضة للعنصرية على اغتيال جورج أورك فلويد ، أعلن محمد: عمل بحثي جديد شراكة مع William Isaac արի Oxford PhD Marie-Thérèse BNG. يقدم هذا المقال أفكار محمد الأصلية ، مع أمثلة محددة لكيفية تجذر تحديات الذكاء الاصطناعي في العصر الاستعماري ، وتقترح استراتيجيات لمعالجتها من خلال الاعتراف بهذا التاريخ.

كيف يتجلى التراث الاستعماري في الذكاء الاصطناعي؟

سواء أكان بإمكان المستعمرة التاريخية أن تنتهي أم لا ، فإن العواقب لا تزال قائمة حتى اليوم. هذا ما يسميه العلماء “التراث الاستعماري”. أي فكرة أن اختلال توازن القوى الحديثة هو اتساع اختلال توازن القوى بين الأجناس والبلدان ، والأغنياء والفقراء ومجموعات أخرى ، فقط بين المستعمر والمستعمر.

خذ العنصرية الهيكلية كمثال. حيث صاغ الأوروبيون في الأصل فكرة الأجناس ، والاختلافات بينهم لتبرير تجارة الرقيق الأفريقية ، ثم استعمار الدول الأفريقية. في الولايات المتحدة ، يمكن الآن العثور على آثار لتلك الأيديولوجية في تاريخ العبودية في البلاد ، وحشية شرطة جيم كرو.

بالطريقة نفسها ، كما يقول مؤلفو الصحيفة ، يشرح هذا التاريخ الاستعماري بعضًا من أكثر خصائص الذكاء الاصطناعي إثارة للقلق. لقد حددوا خمسة مجالات للتراث الاستعماري في مجال الذكاء الاصطناعي.

تمييز واضطهاد الخوارزمي.
الروابط بين تمييز الخوارزمي والعنصرية الاستعمارية من أوضحها. في مجتمع غير عادل عقلانيًا ، تؤدي الخوارزميات القائمة على أتمتة البيانات البيانات في النهاية إلى إعادة إنتاج النتائج العنصرية. لكن العديد من المنح الدراسية حول هذا النوع من أضرار الذكاء الاصطناعي تركز على أمثلة موجودة في الولايات المتحدة. يتيح لنا فحص هذه المتعة في سياق التراث الاستعماري الحصول على منظور عالمي. أمريكا ليست الدولة الوحيدة التي تعاني من عدم المساواة الاجتماعية. يقول إسحاق: “هناك دائمًا مجموعات تتعرض لهذا الضرر وتتعرض له”.

عمل خلسة.
ظاهرة: عمل شبحمعالجات البيانات غير المرئية اللازمة لدعم الابتكار في الذكاء الاصطناعي هي استمرار وثيق للعلاقة الاقتصادية التاريخية بين المستعمر والمستعمر. أصبحت العديد من المستعمرات الأمريكية البريطانية السابقة ، مثل الفلبين وكينيا والهند ، مراكز أشباح للشركات العاملة في الولايات المتحدة والمملكة المتحدة. في هذه البلدان الناطقة باللغة الإنجليزية ، توجد العمالة الرخيصة ، مما يجعلها أكثر الخيارات الوظيفية ملاءمة في مجال البيانات ، بسبب تاريخها الاستعماري.

اختبار تجريبي.
في بعض الأحيان يتم اختبار أنظمة الذكاء الاصطناعي على مجموعات أكثر ضعفًا قبل أن يتم استغلالها من قبل مستخدمين “حقيقيين”. على سبيل المثال ، اختبرت Cambridge Analytica Beta خوارزمياتها في انتخابات 2017 النيجيرية الكينية قبل استخدامها في الولايات المتحدة والمملكة المتحدة. وقد أظهرت دراسات أخرى أن هذه التجارب منزعج بشدة في كينيا ، عطلت العملية الانتخابية التماسك الاجتماعي. يذكرنا هذا النوع من الخبرة بالموقف التاريخي للإمبراطورية البريطانية تجاه مستعمراتها كمختبرات للأدوية والتقنيات الجديدة.

إدارة الذكاء الاصطناعي.
تلعب اختلالات القوى الجيوسياسية من الحقبة الاستعمارية دورًا مهمًا في تشكيل إدارة الذكاء الاصطناعي. وقد تجلى ذلك في الاندفاع الأخير لتطوير مبادئ توجيهية عالمية لأخلاقيات الذكاء الاصطناعي. لقد تم استبعاد البلدان النامية في إفريقيا وأمريكا اللاتينية وآسيا الوسطى إلى حد كبير من النقاش ، مما أدى إلى بعضها رفض المشاركة في اتفاقيات تدفق البيانات الدولية. بشكل عام ، تواصل البلدان المتقدمة جني فوائد غير متناسبة من المعايير العالمية لصالحها ، بينما تتخلف البلدان النامية كثيرًا عن الركب.

التنمية الاجتماعية الدولية.
بعد كل شيء ، يؤثر اختلال التوازن في نفس القوى الجيوسياسية على استخدام الذكاء الاصطناعي لمساعدة البلدان النامية. غالبًا ما تكون مبادرات “الذكاء الاصطناعي من أجل الخير” أو “الذكاء الاصطناعي من أجل التنمية المستدامة” وطنية. إنه يجبر البلدان النامية على الاعتماد على أنظمة الذكاء الاصطناعي الحالية بدلاً من إنشاء أنظمة جديدة تناسب السياق.

لاحظ الباحثون أن هذه الأمثلة ليست شاملة ، لكنها تظهر مدى عمق التراث الاستعماري في التأثير على التطور العالمي للذكاء الاصطناعي. كما أنه يربط على ما يبدو مشاكل لا حصر لها بقضية واحدة. قال إسحاق: “تعطينا هذه الوثيقة قواعد ومفردات جديدة للحديث عن سبب أهمية هذه المشكلات ، وما سنفعله للتفكير فيها على المدى الطويل”.

كيف نبني ذكاء اصطناعيًا خالٍ من التراث الاستعماري؟

الفائدة من دراسة الآثار الضارة للذكاء الاصطناعي بهذه العدسة ، وفقًا للباحثين ، هي المنصة التي توفرها للتنبؤ بالضرر المستقبلي والتخفيف من حدته. يعتقد BNG أنه لا توجد في الواقع “عواقب غير مقصودة” ولكن عواقب النقاط العمياء في رؤى المنظمات والمؤسسات البحثية عندما لا يكون لديها تمثيل متنوع.

في هذا السياق ، يقترح الباحثون ثلاث تقنيات لتحقيق ذكاء اصطناعي “خالٍ من الاستعمار” أو أكثر شمولاً ومفيدًا.

التطوير التقني على دراية بالسياق.
يجب على الباحثين الاصطناعيين الذين يطورون نظامًا جديدًا أن يفكروا أولاً في مكان وكيفية استخدامه. يجب ألا ينتهي عملهم بكتابة الكود ، ولكن يجب أن يشمل اختبار نظام جديد ، ودعم السياسات التي تسهل استخدامه بشكل صحيح ، وتنظيم الإجراءات ضد إساءة الاستخدام.

مقابل الحضانة.
ثانيًا ، عليهم الاستماع إلى الفئات المهمشة. طريقة واحدة للقيام بذلك هي تطوير الممارسة للتعلم الآلي التشاركي، والتي تسعى إلى إشراك الأشخاص الأكثر تأثراً بأنظمة التعلم الآلي في تصميمها. يسمح هذا للأشخاص المعرضين لهذه الأنظمة بالتحدي ، وإملاء كيفية تشكيل مشاكل التعلم الآلي ، وما هي البيانات التي يتم جمعها ، وكيف يتم ذلك ، وأين يتم استخدام النماذج النهائية.

تكافل.
يجب أيضًا منح المجموعات المهمشة الدعم والموارد لاستخدام جهود الذكاء الاصطناعي الخاصة بهم. في الواقع ، هناك العديد من المجتمعات المهمشة لمستخدمي الذكاء الاصطناعي ، بما في ذلك: التعلم العميق إندابا: و:في AI AI و:في Queer AIويجب توسيع عملهم.

لاحظ الباحثون أنه منذ نشر مقالهم ، تلقوا اهتمامًا وتشجيعًا لا مثيل لهما. قال إسحاق: “على الأقل يذكرني أن هناك تقبلًا لهذا العمل ؛ ويبدو أنه يفتح نقاشًا أن المجتمع مستعد للقيام به”.

أضف تعليق