التحيز والإنصاف في الذكاء الاصطناعي، والحكم الذي يبقى بين يديك
لا تعامل الأداة كل عميل بالطريقة نفسها. فهي تعلّمت من نصوص بشرية وقرارات سابقة، لذا يمكن أن تكون متحيزة وغير عادلة بطرق تقع بأشد وطأتها على الأشخاص الذين تخدمهم مؤسستك. الإنصاف سؤال مختلف عن الدقة، لذا يحتاج إلى فحص خاص به. يتناول هذا القسم أيضًا خطرًا أكثر خفاءً: ميل الأداة إلى موافقتك والتعبير عن الآراء السائدة، وهو ما قد يضعف التفكير النقدي الذي تعتمد عليه مناصرتك لعملائك.
غيّروا الاسم واسألوا من جديد
- اكتبوا ملخصا قصيرا لحالة يمكن أن تصلكم فعلا، من دون استخدام أي تفاصيل حقيقية عن عميل.
- اسألوا روبوت الدردشة عن توصيته، واحتفظوا بالإجابة.
- غيّروا الاسم وبلد المنشأ فقط، واطرحوا السؤال نفسه كلمة بكلمة، ثم ضعوا الإجابتين جنبا إلى جنب.
هل تغيّر شيء كان يجب ألا يتغيّر؟
- التحيز مدمج في الأداة قبل أن تطرح عليها أي سؤال. فالنموذج يتعلّم من نصوص بشرية وقرارات سابقة، لذا يحمل ما فيها من قوالب نمطية وأوجه عدم إنصاف.
- يرتبط عدم الإنصاف بهوية العميل وبطريقة كلامه، لذا فإنه يقع بأشد وطأته على مجتمعات المهاجرين، وذوي الدخل المحدود، ومحدودي إتقان الإنجليزية الذين تخدمهم.
- الأسلوب الطليق والواثق لا يخبرك بشيء عن الإنصاف. فقد تبدو الإجابة موثوقة وهي في الوقت نفسه تمييزية.
- الإنصاف سؤال مختلف عن الدقة. فقد تكون الإجابة معقولة من الناحية الواقعية وهي في الوقت نفسه غير عادلة.
- تميل الأداة أيضًا إلى موافقتك وإلى عكس نمط افتراضي ضيق وسائد، وهو ما قد يُضعف التفكير النقدي الذي تعتمد عليه مناصرتك.
- الحكم على شخص ما لا يُنقل إلى الأداة. يمكنك استخدام الذكاء الاصطناعي لصياغة مسودة، لكن التقييم والقرار والمساءلة تبقى جميعها بين يديك.
طرق يمكن أن يكون فيها الذكاء الاصطناعي غير عادل مع عملائك
لا شيء من هذا يُعلن عن نفسه. الإجابة العادلة والإجابة غير العادلة تتشابهان على الشاشة، لذا يجب أن يكون الفحص من جانبك أنت.
ارتباطات الكلمات لدى النموذج تنبع من كتابات بشرية، لذا فإن الأنماط الموجودة في تلك الكتابات، بما فيها القوالب النمطية عن الفئات المختلفة، تكون مدمجة فيه قبل أن يطرح أحد أي سؤال. وقد يصف النموذج الأشخاص أو الوظائف أو الحالات بطرق تعكس بهدوء تلك القوالب النمطية.
التحيز لا يتعلق فقط بهوية العميل بل بطريقة كلامه أيضًا. فنماذج اللغة تحكم على متحدثي اللهجات الموصومة، مثل الإنجليزية الأفروأمريكية، بقسوة أكبر بكثير، في تحيز خفي أقوى من أي قالب نمطي بشري موثّق، وكانت أكثر ميلًا إلى تخصيص وظائف أقل مكانة ونتائج جنائية أقسى لهم (Hofmann وزملاؤه، 2024). يمكن أن يحصل الطلب نفسه، عند كتابته بلهجة العميل، على إجابة أسوأ.
تعامل النماذج نمطًا واحدًا من الأشخاص باعتباره الافتراضي: غربي ومتعلم وميسور الحال. فاستجاباتها تشبه إلى أبعد حد سكان مجتمعات WEIRD (الغربية والمتعلمة والصناعية والغنية والديمقراطية)، وتقل ملاءمتها للخلفيات الأخرى كلما ابتعد الشخص عن ذلك المركز (Atari وزملاؤه، 2023)، لذا فقد تفترض النصيحة بهدوء توفر المال، أو الإلمام بالقراءة والكتابة، أو الوضع القانوني للهجرة، أو أعرافًا لا يشاركها عميلك.
حين تساعد أداة في تحديد من يحصل على ماذا، يمكن أن توجّه الموارد بشكل غير متكافئ. فقد بُنيت خوارزمية صحية واسعة الاستخدام في الولايات المتحدة للتنبؤ بالتكلفة بدلًا من المرض، ما قلّل من تقدير احتياجات المرضى السود ووجّه الرعاية بعيدًا عنهم (Obermeyer وزملاؤه، 2019). ولم تُظهر لهجة الإجابة أي إشارة إلى وجود خطأ.
الذكاء الاصطناعي أقل موثوقية تحديدًا في اللغات التي يحتاجها عملاؤك أكثر من غيرها. وبصرف النظر عن الجودة، فإن طريقة تقسيم النماذج للنصوص غير الإنجليزية تجعل المهمة نفسها أعلى تكلفة وأضعف أداءً في كثير من اللغات (Petrov وزملاؤه، 2023)، لذا فإن الأشخاص الأكثر احتياجًا للوصول اللغوي يحصلون على أضعف نسخة من الأداة.
لا يتحول تحيز النموذج إلى ضرر فعلي إلا حين يقبله شخص ما دون تحقق. وتحيز الأتمتة، وهو الميل الموثّق إلى الانصياع للآلة حتى حين تكون مخطئة، شائع في بيئات الصحة والسلامة (Goddard وزملاؤه، 2012). وهذا هو نمط الفشل الذي تتحكم فيه أنت.
بعض هذا كامن في الأداة نفسها، وبعضه في طريقة استخدامها. لا يمكنك إصلاح النموذج، لكنك من يقرر ما إذا كان تحيزه سيصل إلى عميلك أم لا.
مركز ضيق لـ"الطبيعي"
الإنصاف والدقة اختباران مختلفان. فقد تكون الإجابة دقيقة في المتوسط وما تزال غير عادلة تجاه العميل الذي أمامك، لأن الخطأ لا يتوزع بالتساوي. وتحذّر إرشادات منظمة الصحة العالمية لعام 2024 بشأن الذكاء الاصطناعي في الصحة من أن هذه النماذج قد تُعطي إجابات متحيزة أو ناقصة، وتدعو إلى إشراف بشري (منظمة الصحة العالمية، 2024). والتحقق من الإنصاف، بمعزل عن صحة الإجابة، هو ما يُمكّنك من رصد الضرر الذي قد تُخفيه إجابة طليقة اللسان.
يهم هذا أكثر ما يهم المجتمعات التي تخدمها LINC. فالأداة التي يُراد بها توسيع الوصول إلى الرعاية يمكن أن تُضيّقه حين يقع تحيزها على أشخاص يواجهون أصلًا أكبر قدر من العوائق، ولهذا فإن ترقّب هذا التحيز جزء من العمل.
دقيقة في المتوسط، غير عادلة لهذا العميل
التملّق، والتفكير النقدي الذي لا يسعك أن تفقده
لا تقتصر الأداة على حمل تحيز تجاه العملاء. بل إنها تُشكّل أيضًا طريقة تفكيرك، في اتجاه يعمل ضد دور المناصر.
كثيرًا ما تخبرك مساعدات الذكاء الاصطناعي بما يبدو أنك تريد سماعه. فحين اعترض المستخدمون على إجابة صحيحة، ولو بتردد، غيّرت النماذج إجابتها إلى إجابة خاطئة في أحيان كثيرة. وهذا التملّق سلوك عام، يدفعه جزئيًا التدريب القائم على التغذية الراجعة البشرية الذي يكافئ الردود المُرضية (Sharma وزملاؤه، 2023). فحدسك المتردد قد يُؤكَّد بدلًا من أن يُختبر.
يضعف التفكير النقدي الذي يعتمد عليه المناصر مع الاستخدام غير النقدي. ففي مسح شمل عاملي المعرفة، ارتبطت الثقة الأكبر بالذكاء الاصطناعي التوليدي بتفكير نقدي أقل، وتحوّل الجهد من القيام بالاستدلال إلى مجرد التحقق من الناتج (Lee وزملاؤه، 2025). وهذه عادة يسهل فقدانها ويصعب ملاحظة فقدانها.
قبول الإجابات دون اعتراض يُضيّق زاوية الرؤية. ولأن هذه النماذج هي الأقرب إلى وجهات النظر السائدة لدى مجتمعات WEIRD (Atari وزملاؤه، 2023)، فإن الاستخدام غير النقدي يسحب تفكيرك بهدوء نحو ذلك النمط الافتراضي ويبعده عن السياق الفعلي لعميلك، تمامًا كغرفة صدى تستمر في مجاملة نفسها.
دورك هو أن تضع في المركز واقع العميل الذي كثيرًا ما يغفله التيار السائد. والأداة تسحبك في الاتجاه المعاكس، لذا يجب أن يبقى التفكير النقدي فعّالًا دومًا.
كيف يتحول الاستخدام غير النقدي إلى غرفة صدى
- 1 تطرح حدسًا
- 2 توافقك الأداة (تملّق)
- 3 تشعر بأن حدسك تأكّد
الحكم لا يُنقل إلى الأداة
- يمكنك تفويض الكتابة. لكن لا يمكنك تفويض تقييم شخص ما، أو القرار، أو المساءلة عنه.
- تشترط أخلاقيات العمل الاجتماعي الكفاءة وتُحمّلك مسؤولية الخدمة التي تقدمها؛ ولا تحمل الأداة شيئًا من هذا الواجب (مدونة أخلاقيات NASW).
- تعامل مع موافقة الأداة باعتبارها سببًا للتحقق، لا تأكيدًا. فهي مصممة لتبدو موافِقة.
- حين يمكن أن تؤثر الإجابة في الأهلية أو السلامة أو الحقوق أو التشخيص، يجب أن يراجعها شخص قبل استخدامها، في كل مرة.
سؤالان لأي إجابة تنوي استخدامها فعليًا
خذ إجابة واحدة من الذكاء الاصطناعي قد تستخدمها مع عميل. اطرح عليها سؤالين. الأول: هل يمكن أن تكون هذه الإجابة خاطئة بطريقة ترتبط بهوية عميلي، أو لغته، أو دخله، أو وضعه؟ الثاني: أي جزء من هذا القرار يعود لي أنا لاتخاذه، لا للأداة؟ اكتب إجابة السؤال الثاني في جملة واحدة قبل أن تتصرف بناءً على الإجابة الأولى.