تعامل مع كل إجابة من الذكاء الاصطناعي كمسودة
إجابة الذكاء الاصطناعي مسودة أولية تتحقق منها، وليست الكلمة الأخيرة أبدًا. تبني هذه الوحدة عادة مقارنة الإجابة بما تعرفه بالفعل.
حاولوا إيقاعه في الخطأ، ثم اكتبوا قائمة التحقق
- ليختر كل شخص سؤالا عن قاعدة محلية أو مكتب أو موعد نهائي، ثم يطرحه على روبوت الدردشة.
- لمدة خمس دقائق، غيّروا صياغة السؤال وحاولوا الحصول على إجابة تبدو واثقة ومفصلة لكنها خاطئة. انشروا الإجابات التي نجحت معكم.
- بالنظر إلى ما خدعكم، اكتبوا معا خمسة أسطر توضح ما الذي يتحقق منه الفريق قبل أن تصل إجابة الذكاء الاصطناعي إلى العميل. احتفظوا بهذه الأسطر الخمسة.
أي من هذه الإجابات الخاطئة كنتم سترسلونها لو أعطاها لكم زميل في العمل؟
- هناك عادة موثّقة جيدًا تُعرف باسم التحيّز الآلي (automation bias)، حيث يميل الناس إلى الانصياع لإجابة الآلة حتى عندما تكون خاطئة، وحتى عندما يشير ما أمامهم إلى عكس ذلك. معرفتك بأنك عرضة لهذا هي خط دفاعك الأول.
- كوّن إجابتك الخاصة، أو استرجع القاعدة، قبل أن تقرأ نسخة الذكاء الاصطناعي. فحين تلتزم بتخمينك أولاً، تكون تقارن بين إجابتين بدلاً من استيعاب واحدة فقط، وقد ثبت أن هذه العادة تقلّل من الإفراط في الاعتماد.
- التفسير الواثق والمصاغ جيدًا ليس دليلاً على صحة الإجابة. يكتب الذكاء الاصطناعي بنفس النبرة السلسة والواثقة سواء كان محقًا أم لا، لذا فإن تبريرًا سلسًا قد يجعل إجابة خاطئة أكثر إقناعًا دون أن يجعلها أكثر صحة.
- عامل كل تفصيل محدد على أنه غير مؤكد إلى أن تتحقق منه. أرقام الهواتف وساعات الدوام والمواعيد النهائية والمبالغ المالية وقواعد الأهلية هي الأشياء التي يخترعها الذكاء الاصطناعي أو يقدّمها بصيغة قديمة أكثر من غيرها، لذا تحقّق منها عبر مصدر رسمي أو زميل قبل أن تنقلها إلى عميل.
- انتبه لما تغفله الإجابة. فالملخّص السلس قد يُسقط بهدوء الشرط الوحيد المهم، مثل حد الدخل أو الموعد النهائي لتقديم الطلب، لذا تحقّق من أن الشروط المهمة لا تزال موجودة ولم تُمحَ دون أن يلاحَظ ذلك.
- حين يقول الذكاء الاصطناعي إنه غير متأكد، عامل ذلك كمعلومة مفيدة وإشارة لتبطئ وتيرتك. يعتمد الناس على الإجابات المتحفّظة بقدر أقل ويصيبون فيها أكثر، وغياب أي تحفّظ ليس دليلاً أبدًا على أن الإجابة آمنة.
- تذكّر أن الذكاء الاصطناعي تعلّم من بيانات الماضي وقد يكرر ما فيها من ظلم. فقد تكون الإجابة خاطئة بطرق ترتبط بهوية العميل، لذا فإن النبرة الواثقة ليست ضمانًا بأن النظام يعامل عميلك بإنصاف.
التحيّز الآلي، أي الميل إلى الانصياع لمخرجات الآلة حتى عندما تكون خاطئة، موثّق في بيئات الصحة والسلامة (Goddard وزملاؤه، 2012). إضافة تفسير إلى اقتراح الذكاء الاصطناعي لا يحل المشكلة. فعندما يُعرض على الناس جواب خاطئ بثقة مع تبرير مرفق، يظلّون يميلون إلى اتباعه، وما يقلّل فعليًا من الإفراط في الاعتماد هو أن يُطلب منهم تكوين إجابتهم الخاصة أولاً (Bucinca وزملاؤه، 2021).
حتى المختصون المدرَّبون يتبعون نصائح الذكاء الاصطناعي الخاطئة. الأطباء الذين قرأوا صور الأشعة السينية للصدر قدّموا تشخيصات أسوأ بعد أن رأوا اقتراحات ذكاء اصطناعي غير دقيقة، وكان الأكثر تأثرًا هم الأقل خبرة في هذه المهمة (Gaube وزملاؤه، 2021). وفي مثال من الصحة النفسية، عندما أوصت إحدى الأدوات بمضاد اكتئاب خاطئ، ساءت قرارات الأطباء أنفسهم، ولم يحمِهم إرفاق تفسير بالتوصية (Jacobs وزملاؤه، 2021). التبرير السلس ليس ضمانة.
طريقة صياغة الإجابة تغيّر مقدار ثقة الناس بها. فعندما عبّر الذكاء الاصطناعي عن عدم اليقين بصيغة المتكلم، بعبارات مثل "لست متأكدًا، لكن،" اعتمد الناس عليه أقل وأصابوا في إجاباتهم أكثر (Kim وزملاؤه، 2024). والخطر الصامت يسري في الاتجاه الآخر أيضًا، لأن إجابة سلسة وواثقة قد تُغفل الجزء الذي يهم. فعندما بسّطت النماذج اللغوية الكبيرة (large language models) نصوص الموافقة الطبية، أسقطت أحيانًا معلومات المخاطر دون أي إشارة إلى نقصان شيء (Oh وزملاؤه، 2025). تحقّق من أن الشروط الأساسية لا تزال موجودة.
قد يخطئ الذكاء الاصطناعي بثقة بطرق تتبع أوجه عدم المساواة القائمة. فقد كانت إحدى خوارزميات الصحة واسعة الاستخدام متحيّزة لأنها بُنيت للتنبؤ بالتكلفة بدلاً من المرض، وهو ما قلّل من شأن احتياجات المرضى السود وأبعد الرعاية عنهم (Obermeyer وزملاؤه، 2019). النبرة الواثقة ليست ضمانًا بأن النظام يعامل عميلك بإنصاف.
عندما يخطئ الذكاء الاصطناعي: إنذارات كاذبة وإغفالات
عندما تخطئ إجابة من الذكاء الاصطناعي أو أداة فحص أو أي اختبار، فإن الخطأ يكون في أحد اتجاهين. ومعرفة أيهما تواجه تدلّك على أين تتحقق بمزيد من الصرامة.
كل إجابة تقع في واحدة من أربع خانات
إنذار كاذب
يقول نعم بينما الحقيقة لا. يُعرف هذا أيضًا باسم الإيجابية الكاذبة (false positive)، أو خطأ من النوع الأول (Type I error).
يقول إن العميل مؤهل لإعانة بينما هو غير مؤهل.
إغفال
يقول لا بينما الحقيقة نعم. يُعرف هذا أيضًا باسم السلبية الكاذبة (false negative)، أو خطأ من النوع الثاني (Type II error).
يقول إن العميل غير مؤهل بينما هو مؤهل، أو لا يشير إلى أن شخصًا ما يمر بأزمة.
- الإنذار الكاذب (الإيجابية الكاذبة) يقول نعم بينما الجواب الحقيقي لا. فمثلاً يقول إن العميل مؤهل لإعانة بينما هو غير مؤهل، أو يضع علامة على مستند عادي باعتباره مشكلة.
- الإغفال (السلبية الكاذبة) يقول لا بينما الجواب الحقيقي نعم، أو لا يلاحظ شيئًا موجودًا فعلاً. فمثلاً يقول إن العميل غير مؤهل بينما هو مؤهل، أو لا يلاحظ أن شخصًا يمر بأزمة.
أيّ خطأ أسوأ يعتمد على ما هو على المحكّ، والذكاء الاصطناعي لا يعرف حجم المخاطر. لكنك تعرفه.
- في الإعانات والأهلية، يكون الإغفال غالبًا الضرر الأكبر: فإخبار أسرة بأنها غير مؤهلة بينما هي مؤهلة قد يحرمها من غذاء أو سكن أو رعاية تستحقها.
- في السلامة والأزمات، قد يكلّف الإغفال حياة، لذا فإن تفويت خطر حقيقي أسوأ بكثير من إنذار كاذب. وعند الشك هنا، تعامل معه على أنه حقيقي وحوّله إلى شخص.
- في المجال القانوني والهجرة، قد يكون الإنذار الكاذب هو الضرر الأكبر: فإخبار شخص بأنه مؤهل لإعفاء بينما هو غير مؤهل قد يؤدي إلى تقديم طلب يضرّ بقضيته.
قبل أن تتصرف بناءً على إجابة من الذكاء الاصطناعي، اسأل أيّ خطأ سيضرّ عميلك أكثر في هذا الموقف، وتحقّق بأقصى صرامة من ذلك الخطأ.
التحقق من إجابة واثقة بشأن الإعانات
- تسأل موجِّهة روبوت محادثة عمّا إذا كانت أسرة أحد العملاء مؤهلة لبرنامج مساعدة غذائية. يجيب الروبوت بنعم، مع تفسير واضح وحد دخل محدد.
- قبل أن تخبر العميل بأي شيء، تدوّن الموجِّهة ما تعرفه بالفعل عن القاعدة. يبدو رقم الدخل الذي قدّمه الروبوت أعلى من الرقم الذي استخدمته الشهر الماضي.
- تتحقق من الرقم على الصفحة الرسمية للولاية الخاصة بالبرنامج، فتجد أن الحد قد تغيّر. الأسرة في الواقع تتجاوز الحد المسموح لذلك البرنامج بقليل.
- تتعامل مع إجابة الروبوت كمسودة وجّهتها إلى السؤال الصحيح، وتبحث عن البرنامج الذي تؤهَّل له الأسرة فعلاً.
- تشرح للعميل القاعدة الصحيحة وتطلب منه أن يعيد بكلماته ما سيحضره إلى الموعد، لتتأكد من وصول الرسالة.
أجب عنه بنفسك أولاً
اعطِ المجموعة سؤالاً حقيقيًا عن الأهلية أو الإعانات. يكتب كل شخص إجابته الخاصة أولاً. ثم اقرأ إجابة من الذكاء الاصطناعي عن السؤال نفسه. يحدّد كل شخص أي ادعاءات محددة سيتحقق منها وأين سيتحقق. ناقشوا كيف جعل تكوين إجابة أولاً من الأسهل التشكيك في إجابة الذكاء الاصطناعي.
تحقّق من إجابة واحدة مقابل المصدر
خذ إجابة حقيقية من الذكاء الاصطناعي عن سؤال شائع من عميل واطبعها. في أزواج، ضعوا خطًا تحت كل ادعاء محدد فيها: أرقام الهواتف، والعناوين، والمبالغ المالية، والمواعيد النهائية، وقواعد الأهلية. لكل عنصر تحته خط، حددوا المصدر الرسمي الوحيد الذي ستتحققون منه، ثم ابحثوا فعلاً عنه وقارنوا ما تجدونه بما ورد. لاحظوا كم بدت الإجابة واثقة في النقطة التي تبيّن أنها خاطئة أو قديمة، وناقشوا أيّ من تلك التفاصيل كان سيصل إلى العميل لو لم يتحقق منها أحد.