في الهند، تعلن إحدى الخوارزميات وفاتهم؛ عليهم أن يثبتوا أنهم على قيد الحياة

[ad_1]

تم إنتاج هذه القصة بدعم من شبكة مساءلة الذكاء الاصطناعي التابعة لمركز بوليتزر.

روهتاك ونيودلهي، الهند: كان دولي تشاند يبلغ من العمر 102 عامًا في 8 سبتمبر 2022، عندما قاد موكب زفاف في روهتاك، وهي بلدة محلية في ولاية هاريانا شمال الهند.

وكما هو معتاد في حفلات الزفاف في شمال الهند، جلس على عربة في زي زفافه، مرتديًا أكاليل من أوراق الروبية الهندية، بينما عزفت فرقة موسيقى احتفالية ورافقه أفراد الأسرة والقرويون.

ولكن بدلاً من أن يكون عروساً، كان تشاند في طريقه للقاء مسؤولين حكوميين.

لجأ تشاند إلى هذه التصرفات الغريبة ليثبت للمسؤولين أنه لم يكن على قيد الحياة فحسب، بل كان مفعمًا بالحيوية أيضًا. وكان يحمل لافتة مكتوب عليها باللهجة المحلية: “ثارا فوفا زيندا هاي”، والتي تعني حرفيًا “عمك على قيد الحياة”.

قبل ستة أشهر، توقف معاشه التقاعدي الشهري فجأة لأنه تم إعلان وفاته في السجلات الحكومية.

وبموجب نظام بدل سامان للشيخوخة في ولاية هاريانا، فإن الأشخاص الذين تبلغ أعمارهم 60 عامًا فما فوق، والذين لا يتجاوز دخلهم مع دخل زوجاتهم 300 ألف روبية (3600 دولار) سنويًا، مؤهلون للحصول على معاش شهري قدره 2750 روبية (33 دولارًا).

في يونيو/حزيران 2020، بدأت الولاية في استخدام نظام خوارزمي حديث البناء ــ مستودع بيانات هوية الأسرة أو قاعدة بيانات باريفار بيشان باترا ــ لتحديد أهلية المطالبين بالرعاية الاجتماعية.

إن PPP عبارة عن معرف فريد مكون من ثمانية أرقام يتم تقديمه لكل أسرة في الولاية ويحتوي على تفاصيل الميلاد والوفاة والزواج والتوظيف والممتلكات وضريبة الدخل، من بين بيانات أخرى، لأفراد الأسرة. وهو يرسم المعلومات الديموغرافية والاجتماعية والاقتصادية لكل أسرة عن طريق ربط العديد من قواعد البيانات الحكومية للتحقق من أهليتها للحصول على خطط الرعاية الاجتماعية.

وقالت الدولة إن الشراكة بين القطاعين العام والخاص أنشأت “بيانات أصلية وموثقة وموثوقة لجميع الأسر”، وجعلت من الضروري للمواطنين الوصول إلى جميع خطط الرعاية الاجتماعية.

ولكن من الناحية العملية، وصف حزب الشعب الباكستاني تشاند خطأً بأنه “ميت”، مما حرمه من معاشه التقاعدي لعدة أشهر. والأسوأ من ذلك أن السلطات لم تغير وضعه “ميتاً” حتى عندما التقى بهم شخصياً مراراً وتكراراً.

وقال ناريش، حفيد تشاند: “لقد ذهبنا إلى مكاتب المنطقة 10 مرات على الأقل، ورافقنا (تشاند) خمس مرات منها”. “حتى بعد عدة محاولات لتصحيح هذا الوضع الشاذ في المكاتب الحكومية، وبعد تقديم شكوى تظلم على بوابة رئيس الوزراء، لم يحدث شيء.”

فقط بعد أن أجرى تشاند محاكاة ساخرة لموكب زواج والتقى بسياسي محلي، اعترفت السلطات أخيرًا بخطئها وأطلقت معاش تشاند التقاعدي.

تشاند ليس مثالًا معزولًا لفشل الخوارزمية. وبحسب البيانات التي قدمتها الحكومة في مجلس الولاية في أغسطس من العام الماضي، فقد أوقفت معاشات 277.115 مواطنًا مسنًا و52.479 أرملة خلال ثلاث سنوات لأنهم “ماتوا”.

ومع ذلك، كان عدة آلاف من هؤلاء المستفيدين على قيد الحياة بالفعل وتم الإعلان عن وفاتهم خطأً إما بسبب البيانات غير الصحيحة التي تم إدخالها في قاعدة بيانات PPP أو التنبؤات الخاطئة التي قدمتها الخوارزمية.

ولم تقتصر مثل هذه الحالات الشاذة على معاشات الشيخوخة وحدها. كما تم استبعاد المستفيدين من معاشات العجز والأرامل، وغيرها من خطط الرعاية الاجتماعية مثل الغذاء المدعوم، لأن خوارزمية الشراكة بين القطاعين العام والخاص قدمت توقعات خاطئة بشأن دخولهم أو وظائفهم، مما أدى إلى استبعادهم من معايير الأهلية.

عندما ذهب الأشخاص الذين تم مسح بياناتهم بشكل خاطئ بواسطة الخوارزمية إلى المسؤولين الحكوميين لتصحيح السجلات، واجهوا الروتين. تم نقل العديد منهم من مكتب إلى آخر، وأجبروا على تقديم طلبات لا نهاية لها لإثبات ما هو واضح – أنهم كانوا على قيد الحياة في الواقع.

إن المحنة التي يواجهها مئات الآلاف من المواطنين في تصحيح بياناتهم جعلت من الشراكة بين القطاعين العام والخاص واحدة من أكثر الخطط الحكومية إثارة للجدل لحكومة هاريانا في السنوات الأخيرة. وقد أطلق عليها حزب المعارضة اسم “باريشاني باترا الدائمة” (وثيقة الإزعاج الدائم) ووعد بإلغاء البرنامج إذا وصل إلى السلطة في انتخابات الجمعية المقبلة المقرر إجراؤها في عام 2024.

رئيس وزراء ولاية هاريانا مانوهار لال خطار (في الصورة) جعل الشراكة بين القطاعين العام والخاص المثيرة للجدل إلزامية لجميع خطط الرعاية الاجتماعية (صورة أرشيفية بواسطة Sonu Mehta/Hindustan Times عبر Getty Images)

ومع ذلك، تواصل الدولة ليس فقط الدفاع عن البرنامج، بل وحتى توسيعه. وقالت صوفيا داهية، سكرتيرة إدارة معلومات موارد المواطنين التي تتولى عمل الشراكة بين القطاعين العام والخاص، في سبتمبر 2022 لقناة الجزيرة: “إن الشراكة بين القطاعين العام والخاص تعمل على تسهيل وتحسين تقديم الخدمات إلى المستفيدين المناسبين ومنع التسربات من خلال استخدام الذكاء الاصطناعي والتعلم الآلي”. . وقد تم الربط بين قواعد البيانات المختلفة للحصول على قاعدة بيانات متكاملة كانت بمثابة “المصدر الوحيد للحقيقة”.

وتنفق الهند ما يقرب من 13% من ناتجها المحلي الإجمالي، أو ما يقرب من 256 مليار دولار، على توفير مزايا الرعاية الاجتماعية لنحو نصف سكان البلاد. وبسبب القلق من اغتصاب مثل هذه المزايا من قبل المطالبين غير المؤهلين، اعتمدت الحكومة الفيدرالية وحكومات الولايات العديدة بشكل متزايد على التكنولوجيا للقضاء على الاحتيال في مجال الرعاية الاجتماعية.

في السنوات القليلة الماضية، اعتمدت ست ولايات على الأقل أنظمة خوارزمية للتنبؤ بأهلية المواطنين للحصول على خطط الرعاية الاجتماعية. خلال العام الماضي، قامت قناة الجزيرة، بالشراكة مع شبكة مساءلة الذكاء الاصطناعي التابعة لمركز بوليتزر، بالتحقيق في استخدام وتأثير خوارزميات الرعاية الاجتماعية هذه.

عائلات التنميط

أطلق رئيس وزراء هاريانا مانوهار لال خطار برنامج الشراكة بين القطاعين العام والخاص في يوليو 2019 وبعد عام جعله إلزاميًا لجميع مزايا الرعاية الاجتماعية.

وفي ظل غياب قوانين الخصوصية، عارضت أحزاب المعارضة هذه الخطوة الرامية إلى جمع البيانات الشخصية للمواطنين من أجل بناء الشراكة بين القطاعين العام والخاص. وجادلت الحكومة بأنها سمحت بتقديم الرعاية الاجتماعية “استباقيًا” دون أن يضطر المطالبون إلى تقديم أي مستندات أو الحاجة إلى التحقق الميداني. في سبتمبر 2021، منحت عقوبة قانونية للبرنامج من خلال إقرار قانون هاريانا باريفار بهشان.

ولكن في غضون عام واحد، بدأت مشاكل هائلة تتعلق ببيانات تعادل القوة الشرائية في الظهور. بعد أن تصدرت حيلة “موكب الزفاف” التي قام بها تشاند عناوين الأخبار، احتشد الآلاف من الفقراء في مكاتب المقاطعات التابعة لإدارة الرعاية الاجتماعية، واشتكوا من استبعادهم من المخططات. أجبر الاحتجاج العام الحكومة على إطلاق معسكرات معالجة المظالم في جميع أنحاء الولاية لمراجعة بيانات تعادل القوة الشرائية.

في 29 أغسطس 2023، اعترف رئيس الوزراء خطار أنه من بين إجمالي 63353 مستفيدًا تم إيقاف معاشات الشيخوخة الخاصة بهم بناءً على بيانات تعادل القوة الشرائية، تبين لاحقًا أن 44050 (أو 70 بالمائة) مؤهلون. ورغم أن خطار ادعى أن الحكومة صححت معظم السجلات الخاطئة وأعادت المزايا إلى المستبعدين ظلما، إلا أن التقارير الإعلامية تشير إلى أن الأخطاء لا تزال قائمة.

اعترف رئيس وزراء هاريانا في أغسطس 2023 بأن الآلاف من المستفيدين المؤهلين قد تم رفض معاشات الشيخوخة بسبب مشاكل في هوية عائلتهم (بإذن من مجموعة المراسلين) الصندوق الأسود الخوارزمي

لم تستجب الحكومة لطلبات حق الحصول على معلومات التي قدمتها قناة الجزيرة للحصول على معلومات حول تصميم قاعدة البيانات وعملها للتأكد من الأسباب التي أدت إلى الأخطاء في قاعدة بيانات الشراكة بين القطاعين العام والخاص.

ومع ذلك، توفر بعض الوثائق الحكومية المتاحة للجمهور نظرة خاطفة على طريقة عمل البرنامج.

لبناء قاعدة البيانات، قامت الحكومة أولاً بجمع البيانات الديموغرافية وبيانات الهوية للعائلات، بما في ذلك أرقام Aadhaar الخاصة بهم، ورقم الهوية الفريد القائم على القياسات الحيوية المخصص لكل مواطن هندي، وإثبات العمر، والحسابات المصرفية، وأرقام التعريف الضريبي من خلال إدخال البيانات. العاملين على مستوى القرية.

ثم استخدم نظام إلكتروني مركزي المصادقة المستندة إلى Aadhaar لمطابقة هويات المواطنين في قواعد البيانات الحكومية الأخرى مثل سجلات المواليد والوفيات، وسجلات الأراضي والممتلكات، وقواعد بيانات الموظفين الحكوميين، واستهلاك الكهرباء، وقواعد بيانات إقرارات ضريبة الدخل، من بين أمور أخرى، لبناء ملامحهم الاجتماعية والاقتصادية الشاملة.

ثم تم استخدام هذه البيانات للتحقق “إلكترونيًا” من الدخل السنوي والعمر وشروط الأهلية الأخرى للمتقدمين. وعندما لم يكن التحقق الإلكتروني ممكنا بسبب عدم توفر البيانات، تم إجراء التحقق الميداني المادي. وفي الحالات التي لم ينجح فيها التحقق المادي، يتم الحصول على دخل الأسرة من خلال “الذكاء الاصطناعي القائم على المنطق (AI).”

ولم يرد مكتب رئيس الوزراء والإدارات التي تدير الشراكة بين القطاعين العام والخاص وأنظمة معاشات الشيخوخة على استفسارات الجزيرة التي تسأل عن المنطق والصيغة وكود المصدر الذي يستخدمه الذكاء الاصطناعي. كما أنها لم توضح ما إذا كانت الأخطاء في تعادل القوة الشرائية نتيجة لإدخال بيانات خاطئة أو تنبؤات غير صحيحة بواسطة الذكاء الاصطناعي. ولم ترد الحكومة أيضًا على استفسار دولي تشاند عن RTI الذي طلب من السلطات توضيح سبب تصنيف حزب الشعب الباكستاني له على أنه “ميت”.

وقال خطار لمجلس الولاية إن العائلات يمكنها الاعتراض على التحقق من الدخل الذي يجريه حزب الشعب الباكستاني من خلال “الآليات المخصصة عبر الإنترنت”.

لكن حتى العائلات التي تم تصحيح بياناتها في النهاية قالت لقناة الجزيرة إن عملية التعامل مع آلية رسمية غير مستجيبة كانت مرهقة وتستغرق وقتًا طويلاً.

الموت بالبيانات

رام تشاندر وزوجته أومباتي، وكلاهما يبلغان من العمر 60 عامًا، من سكان قرية تشيتشرانا في هاريانا. في مارس 2022، اكتشف الزوجان أن معاش الشيخوخة، الذي بدأ قبل ستة أشهر فقط، قد توقف حيث تم إعلان وفاتهما في قاعدة بيانات الشراكة بين القطاعين العام والخاص.

قدم رام تشاندر شكاوى متعددة إلى مكاتب حكومية مختلفة ولكن دون جدوى. في شهر مايو من ذلك العام، قدم إلى المسؤولين الحكوميين إفادة خطية موقعة من كاتب العدل تفيد بأنه وزوجته على قيد الحياة وأنه سيتم استئناف معاشهما التقاعدي.

وفي يوليو 2022، صححت قاعدة بيانات الشراكة بين القطاعين العام والخاص حالتها إلى “حية” لكن هذا الخطأ استمر في قاعدة بيانات حكومية أخرى. قبل مشغل إدخال البيانات المحلي طلبهم بـ “وضع علامة على قيد الحياة” وتمت الموافقة عليه أخيرًا بعد أن قدموا أنفسهم إلى مكتب نائب المفوض الإضافي (ADC) الذي يرأس تنفيذ الشراكة بين القطاعين العام والخاص على مستوى المنطقة. تم استئناف معاش الثنائي بعد حوالي ستة أشهر من قطعهما.

قال تشاندر لقناة الجزيرة في سبتمبر 2022: “لقد كنت أزور مكتب ADC بشكل مستمر منذ مارس 2022. وأخبروني أنه تم تصحيح الخطأ. ثم قمت بزيارة مشغل إدخال البيانات المحلي واكتشفت أن حالتي لا تزال “ميتة”، ولذلك ذهبت مرة أخرى إلى مكتب ADC. وظل هذا يحدث في كل مرة.”

التقت الجزيرة بعدة عائلات أخرى في هاريانا حُرمت من معاشاتها التقاعدية بسبب أخطاء في تعادل القوة الشرائية.

تعيش دايا كور، 64 عامًا، مع أسرتها المكونة من ولدين وزوجة ابنها وحفيدين. بعد وفاة زوجها أومبراكاش في عام 1996، بدأت تتلقى معاش الأرملة الشهري للدولة. وتحصل الأرامل حاليًا على 2750 روبية (33 دولارًا) شهريًا بموجب هذا البرنامج. لكن معاش كور توقف في مارس/آذار 2022. ووفقا لسجلات تعادل القوة الشرائية، كانت هي وحفيدتها تحصلان على دخل سنوي قدره 600 ألف روبية (7200 دولار) لكل منهما. وكانت حفيدتها تبلغ من العمر تسع سنوات فقط.

تم إيقاف معاش الشيخوخة لديا كور لأن الحكومة قالت إنها وحفيدتها البالغة من العمر تسع سنوات تحصلان على 600 ألف روبية لكل منهما (Courtesy: The Reporters’ Collective)

وقالت عائلة كور لقناة الجزيرة إن الفرد الوحيد الذي يكسب الأسرة هو ابنها الأكبر ديفيندار، 37 عاما، الذي كان يعمل سائق حافلة في مدرسة خاصة – ويكسب حوالي 7000 روبية (84 دولارا) شهريا – ولديه أيضا وظيفة جانبية كعامل. مزارع بدوام جزئي.

“إذا كان دخل الأسرة أكثر من 12 ألف روبية، فلماذا نحتاج إلى معاش 2500 روبية؟” سأل.

تم استئناف معاش دايا كور أخيرًا، لكن عائلتها لا تستطيع أن تنسى المحنة التي مرت بها في هذه العملية.

قال ديفيندار: “بالنسبة لتصحيح تعادل القوة الشرائية، طُلب مني في مكتب ADC أن أحصل على شهادة دخل”. “ولكن للحصول على شهادة الدخل، يُطلب مني الحصول على تعادل القوة الشرائية الخاص بي. لا أفهم كيفية التعامل مع هذا”.

(كشف الجزء الأول من السلسلة كيف حرم نظام خوارزمي غامض وغير خاضع للمساءلة عدة آلاف من الفقراء من طعامهم المدعم المشروع).

كان كومار سامبهاف زميلًا للمساءلة في مجال الذكاء الاصطناعي بمركز بوليتزر لعام 2022، وهو قائد الأبحاث الهندية في مختبر الشاهد الرقمي بجامعة برينستون؛ تاباسيا عضو في مجموعة المراسلين. وديفيج جوشي باحث دكتوراه في كلية الحقوق بجامعة كوليدج لندن.

[ad_2]

المصدر