ما الذي يستطيع الذكاء الاصطناعي فعله وما لا يستطيع في عملك اليومي
ضع توقعات واقعية لما يفعله الذكاء الاصطناعي في العمل اليومي للمؤسسة، واعرف لماذا قد يبدو روبوت الدردشة واثقًا تمامًا ومع ذلك يكون مخطئًا.
ارسموا خريطة لما تستخدمونه فعلا
- ليكتب كل شخص خمسة أشياء طلبها من أداة ذكاء اصطناعي في العمل خلال الأسبوع الماضي، سطرا لكل مهمة.
- بجانب كل سطر، ضعوا علامة توضح هل تحققتم من الإجابة من مصدر موثوق أم لا.
- علقوا الأوراق على الحائط، اجمعوا المهام المتشابهة في مجموعة واحدة، واحتفظوا بهذا الحائط كأول خريطة للمؤسسة توضح كيف يُستخدم الذكاء الاصطناعي فعليا.
أي المهام على الحائط قد تصل إلى العميل من دون أن يتحقق منها أحد؟
ما الذي يساعد فيه الذكاء الاصطناعي، وما الذي يجب التحقق منه بدقة
- صياغة نسخة أولى من رسالة أو بريد إلكتروني أو إشعار
- اختصار مستند طويل إلى نقاطه الرئيسية
- ترجمة المعنى العام لملاحظة للبدء بها
- شرح مبسّط لكيفية عمل قاعدة ما في العادة
- رقم هاتف أو عنوان أو ساعات العمل أو موعد نهائي
- مبلغ مالي أو شرط من شروط الأهلية
- أي شيء حديث أو محلي أو نادر أو يخص شخصاً بعينه
- أي شيء سيتصرف العميل بناءً عليه، بعد التأكد منه مقابل المصدر الرسمي
- حدِّد المهام اليومية التي يساعد فيها الذكاء الاصطناعي فعلاً: كتابة مسودة أولى لرسالة أو بريد إلكتروني، وتلخيص مستند طويل إلى أهم نقاطه، وترجمة المعنى العام لملاحظة، والحصول على شرح بسيط لكيفية عمل قاعدة ما عادةً.
- اشرح بكلمات بسيطة لماذا يختلق روبوت الدردشة أشياء، وهو خطأ يُطلق عليه غالبًا اسم «الهلوسة»، أي نص يبدو واثقًا لكن لا يستند إلى مصدر حقيقي. فهو يبني جملًا سلسة بتوقّع الكلمات الأكثر احتمالًا، لذا قد ينتج اسم عيادة أو رقم هاتف أو موعدًا نهائيًا لتقديم طلب أو قاعدة أهلية غير موجودة أصلًا.
- تعامل مع الإجابات المختلقة باعتبارها أمرًا شائعًا يُتوقَّع حدوثه، لا حوادث نادرة. ففي عمليات البحث عن الحقائق مثل الاستشهادات والمراجع القانونية، قاست الدراسات إجابات خاطئة أو مختلقة في نسبة تتراوح من ربع الحالات إلى أكثر من نصفها.
- أدرك أن الإجابة المختلقة تُقرأ تمامًا مثل الإجابة الصحيحة، وبنفس النبرة الهادئة والواثقة، لذا فإن الصياغة السلسة ليست أبدًا دليلاً على صحة التفصيل.
- رسِّخ العادة الوحيدة التي تحمي العملاء: تحقّق من أي معلومة قد تغيّر ما سيفعله العميل، مثل رقم أو تاريخ أو مبلغ أو عنوان أو قاعدة أهلية، بالرجوع إلى المصدر الرسمي قبل أن يتصرف أحد بناءً عليها.
- لاحظ خطرًا خفيًا في نفسك وفي زملائك في العمل. يميل الناس إلى قبول إجابة سلسة وواثقة من دون التحقق منها، وهو نمط يسميه الباحثون «التحيز الآلي»، أي الوثوق بالآلة أكثر مما تبرره الأدلة.
- لاحظ أن العملاء، بمن فيهم العملاء المهاجرون، يستخدمون بالفعل هذه الأدوات في حياتهم اليومية، لذا فإن الهدف العملي هو توجيه استخدام آمن مبكرًا بدلاً من محاولة منعه.
عندما يُستخدم روبوت الدردشة للبحث عن حقائق، تكون الإجابات المختلقة شائعة. فعند اختبار النماذج الرائدة على أسئلة قانونية، دال وزملاؤه، 2024 وجدوا معلومات خاطئة أو مختلقة في معظم الإجابات، بنسبة تتراوح بين 58 و82 بالمئة حسب النموذج. وعند الطلب منها تقديم مراجع، تختلق روبوتات الدردشة تلك المراجع أيضًا. وفي إحدى المقارنات، شيلي وزملاؤه، 2024 وجدوا أن إحدى الأدوات اختلقت الاستشهادات في أكثر من 90 بالمئة من الحالات، وأداتان أخريان بنسبة تتراوح بين نحو 29 و40 بالمئة.
المشكلة الأصعب هي نحن. فالأشخاص الذين يستخدمون نصائح مُولَّدة بالحاسوب يميلون إلى قبولها حتى عندما تكون خاطئة وحتى عندما تتناقض معها معلومات أخرى أمامهم، وهو نمط أطلقت عليه مراجعة منهجية اسم «التحيز الآلي»، أي الوثوق بالأداة أكثر مما تبرره الأدلة (غودارد وزملاؤه، 2012). وتساعد إضافة قدر يسير من الاحتكاك. فجعل الأشخاص يكوّنون إجابتهم الخاصة قبل رؤية اقتراح الذكاء الاصطناعي قلَّل من هذا الاعتماد المفرط (بوتشينكا وزملاؤه، 2021).
تكون نقاط القوة حقيقية عندما تكون المهمة هي الصياغة أو التلخيص لا تقديم الحقائق. ففي دراسة قارن فيها أطباء بين ملخصات سريرية كتبتها آلة وأخرى كتبها خبراء، حظيت الملخصات الصادرة عن نموذج مُكيَّف بتقييم مساوٍ لتقييم الخبراء أو أفضل منه في معظم الحالات (فان فين وزملاؤه، 2024). ومع ذلك، وجد الباحثون أخطاء عرضية حتى في هذه الحالة، لذا ينبغي أن يقرأ شخص الملخص مقارنةً بالأصل قبل الاعتماد عليه.
العملاء يستخدمون هذه الأدوات بالفعل. يفيد نحو 1 من كل 3 من البالغين في الولايات المتحدة باستخدام روبوتات الدردشة بالذكاء الاصطناعي للبحث عن معلومات صحية، وكثيرون منهم غير واثقين من دقة الإجابات (استطلاعات KFF Health Information and Trust، 2024-25). وقد يكون العملاء المهاجرون منفتحين بشكل خاص. ففي دراسة شملت بالغين مهاجرين ومن عموم السكان، أبدى المهاجرون استعدادًا أكبر لاستخدام روبوتات الدردشة بالذكاء الاصطناعي للصحة النفسية (Yoo وJang، 2026). وهذا الانفتاح سبب لتوجيه الاستخدام الآمن مبكرًا.
من أين تأتي معرفته ونقاط عماه
روبوت الدردشة غير متصل بالحقيقة. إنه صورة مضغوطة للنصوص التي دُرِّب عليها. معرفة ما الذي دخل في تلك الصورة يخبرك أين تثق به وأين تتحقق منه.
ذاكرة النموذج المدرَّبة صورة ثابتة للنصوص التي جُمعت حتى نقطة زمنية تُسمى تاريخ انتهاء التدريب، لذا فهو بمفرده لا يعرف ما حدث بعد ذلك، ولا يبحث عن المعلومات من تلقاء نفسه دائمًا. كلما احتجت إلى معلومة مرتبطة بالوقت، مثل قاعدة سارية، أو موعد نهائي، أو حد دخل، أو رقم هاتف اليوم، فاطلب من الأداة أن تبحث عنها على الويب وأن تُظهر المصادر التي استخدمتها. البحث المباشر يساعد، وينطوي مع ذلك على خطر خاص به، لأن الإجابة لا تكون أفضل من الصفحات التي يعثر عليها وقد يسيء فهمها، لذا تحقّق على أي حال من أي معلومة حديثة أو محلية بالرجوع إلى المصدر الرسمي.
يكون النموذج في أقوى حالاته حيث كان نص تدريبه وفيرًا ومتكررًا، مثل الشروحات الصحية العامة باللغة الإنجليزية. ويكون في أضعف حالاته حيث كان النص شحيحًا، مثل الإجراءات المحلية، والبرامج الصغيرة، ولغات عملائك، وأي شيء خاص بمقاطعة أو عيادة بعينها. هذه الفجوات ليست عشوائية؛ فهي تعكس ما هو ناقص التمثيل على الإنترنت.
يحمل نص التدريب قرارات وأوجه لا مساواة بشرية، لذا يمكن للنموذج أن يكرّرها. في حالة موثّقة جيدًا، بدا أحد خوارزميات الصحة الواسعة الاستخدام عادلاً، لكنه كان متحيّزًا لأنه استخدم التكلفة كبديل عن شدة المرض، مما قلّل من تقدير احتياجات المرضى السود (Obermeyer وزملاؤه، 2019). يمكن أن يكون الذكاء الاصطناعي مخطئًا بثقة بطرق ترتبط بهوية العميل.
يكرر النموذج ما هو شائع في بياناته سواء كان صحيحًا أم لا، لذا يمكن أن تعود خرافة شائعة بنفس ثقة الحقيقة. لهذا فإن ما يحسم صحة أمر ما هو مصدر تثق به، لا نبرة النموذج.
تعامل مع الأداة باعتبارها مرآة لكمّ هائل من النصوص البشرية الماضية. لهذا السبب هي مفيدة في الشروحات العامة والصياغة، ولهذا السبب يحتاج كل ما هو حديث أو محلي أو نادر أو يخص شخصًا بعينه إلى تحقق مقابل مصدر حقيقي.
الإجابة المختلقة تبدو تمامًا مثل الإجابة الصحيحة
عيادة المقاطعة في Main Street تستقبل المراجعين دون موعد حتى 5 pm. تبدأ الرسوم المتدرّجة حسب الدخل من $15. اتصل على 734-555-0143.
عيادة المقاطعة في Main Street تستقبل المراجعين دون موعد حتى 7 pm. تبدأ الرسوم المتدرّجة حسب الدخل من $10. اتصل على 734-555-0198.
إجابة واثقة برقم خاطئ
- تسأل موجِّهة مزايا روبوت دردشة عن رقم هاتف مكتب Medicaid المحلي وعن الحد الأقصى الحالي للدخل لأسرة من أربعة أفراد، فيجيب الروبوت فورًا برقم محدد ومبلغ محدد بالدولار.
- الإجابة سلسة وتبدو واثقة، مما يجعل من المغري قراءتها مباشرة للعميل الذي ينتظر.
- بحسب عادة التحقق، تتعامل الموجِّهة مع كلا التفصيلين على أنهما غير مؤكدين وتبحث عنهما في الصفحة الرسمية لوكالة الولاية.
- يتبيّن أن رقم الهاتف قديم وأن رقم الدخل يخص حجم أسرة مختلف، وكلاهما مختلق بطريقة بدت تمامًا كإجابة صحيحة.
- تُعطي الموجِّهة العميل الرقم والمبلغ بعد التحقق منهما، وتستخدم روبوت الدردشة فقط لصياغة ملخص بلغة بسيطة للخطوات التالية، تراجعه قبل مشاركته.
اعثر على التفصيل المختلق في إجابة الذكاء الاصطناعي
اقرأ بصوت عالٍ إجابة من الذكاء الاصطناعي تذكر اسم عيادة وتعطي رقم هاتف وتنصّ على قاعدة أهلية، تمامًا كما قد يتلقاها العميل. اسأل المجموعة عمّا سيتحققون منه قبل التصرف بناءً عليها. ثم اكشف أن رقم الهاتف وقاعدة السن كانا مختلقين ويبدوان مطابقين لإجابة صحيحة. يقول كل شخص جملة واحدة يستخدمها للتحقق من تفصيل محدد مع العميل.
صنِّف مهامك الخاصة بحسب إمكانية الوثوق بالذكاء الاصطناعي فيها
اطلب من كل شخص أن يكتب ثلاث مهام من أسبوعه الماضي كان يمكن أن يستخدم فيها روبوت دردشة. وكمجموعة، صنِّفوا كل مهمة في إحدى كومتين. الكومة الأولى هي المهام التي يساعد فيها الذكاء الاصطناعي في الصياغة أو التلخيص، مثل صياغة رسالة تذكير، أو تحويل سياسة طويلة إلى لغة بسيطة، أو ترجمة المعنى العام لملاحظة من أجل زميل. والكومة الثانية هي المهام التي يقدّم فيها الذكاء الاصطناعي حقيقة سيتصرف العميل بناءً عليها، مثل رقم هاتف مكتب، أو موعد نهائي لتقديم طلب، أو حد أقصى للدخل، أو قاعدة أهلية. ولكل مهمة في الكومة الثانية، حدِّدوا المصدر الرسمي الذي ستتحققون منه. اختتموا بملاحظة أن الكومة الأولى هي حيث يوفّر الذكاء الاصطناعي وقتًا حقيقيًا، وأن الكومة الثانية هي بالضبط حيث يكون الأرجح أن تضلِّل إجابة سلسة وواثقة.