يمكن أن يكون روبوت المحادثة المعتمد على الذكاء الاصطناعي مساعداً مفيداً حقاً. فهو يستطيع أن يشرح لك رسالة، أو يساعدك في صياغة أسئلتك، أو يوجهك نحو الرعاية الصحية. لكنه قد يعطيك أيضاً إجابة خاطئة بصوت هادئ وواثق، وهذا هو الجزء الذي يستحق أن تفهمه. فإذا عرفت لماذا يحدث ذلك وكيف تتحقق منه، يمكنك أن تستفيد من الجزء المفيد وتحمي نفسك من الأخطاء.

لماذا يخطئ الذكاء الاصطناعي

روبوت المحادثة المعتمد على الذكاء الاصطناعي لا يبحث عن الحقائق كما تبحث أنت عن رقم هاتف. إنه يبني كل إجابة بالتنبؤ بالكلمات الأكثر احتمالاً، واحدة تلو الأخرى، بناءً على الأنماط الموجودة في الكم الهائل من النصوص التي تعلّم منها. في معظم الأحيان ينجح هذا الأسلوب، لأن المعلومات الشائعة والمعروفة تظهر كثيراً في تلك النصوص. المشكلة أن الذكاء الاصطناعي يستخدم الطريقة نفسها سواء كان يعرف الإجابة أم لا. فحين لا تكون لديه الحقائق الصحيحة، يملأ الفراغ بكلمات تبدو صحيحة. والنتيجة قد تكون عيادة غير موجودة، أو رقم هاتف لم يكن حقيقياً يوماً، أو قاعدة عفا عليها الزمن.

يسمي الناس هذا هلوسة. وهو ليس كذباً متعمداً من الذكاء الاصطناعي، بل هو الذكاء الاصطناعي يفعل ما يفعله دائماً، أي تخمين الكلمة التالية الأكثر احتمالاً، في موقف لا يكفي فيه التخمين.

هذا الأمر ليس نادراً ولا نظرياً فقط. فحين طلب باحثون من روبوت محادثة كتابة نص طبي مع مراجع، كانت معظم المصادر التي قدّمها ملفّقة أو غير دقيقة: أشارت إلى دراسات غير موجودة أو أخطأت في التفاصيل (Bhattacharyya et al., 2023). لم يكن الذكاء الاصطناعي يحاول خداع أحد، بل كان يملأ الفراغ بما يشبه المصدر عادة، تماماً كما يفعل مع رقم الهاتف أو اسم العيادة.

أين يخطئ أكثر

إجابات الذكاء الاصطناعي أقل موثوقية في بضع نقاط يمكن التنبؤ بها. انتبه لهذه الحالات:

• الحقائق الدقيقة، مثل أرقام الهواتف، والعناوين، وأسماء العيادات، وروابط المواقع.
• القواعد التي تتغير مع الوقت، مثل من يستحق برنامج Medicaid (برنامج التأمين الصحي الحكومي للأسر ذات الدخل المحدود)، أو تكلفة برنامج ما، أو موعد انتهاء مهلة معينة.
• منطقتك المحلية. قد تكون الإجابة العامة على مستوى البلاد خاطئة بالنسبة لمدينتك أو ولايتك.
• لغتك. قد تكون إجابات الذكاء الاصطناعي أضعف في اللغات غير الإنجليزية. راجع قد يجيب الذكاء الاصطناعي بشكل أضعف بلغتك.

النبرة الواثقة لا تخبرك بشيء عن صحة الإجابة. فالذكاء الاصطناعي يبدو واثقاً بالدرجة نفسها سواء كان محقاً أو مخطئاً.

والأمر لا يقتصر على أرقام الهواتف والعناوين. فحتى النصائح الصحية يمكن أن تكون خاطئة بثقة وبطريقة قد تضرك. فحين اختبر باحثون روبوت محادثة على أمراض شائعة باستخدام مرضى افتراضيين، توصل غالباً إلى تشخيص صحيح (في نحو 3 من كل 4 حالات) واختار دواء معقولاً (في نحو 4 من كل 5 حالات). ومع ذلك، اقترح في معظم تلك الحالات أيضاً دواءً غير ضروري أو قد يكون ضاراً، حتى حين كان التشخيص صحيحاً (Si et al., 2024). فالإجابة السلسة والمعقولة المظهر عن دواء أو عرض ما هي بالضبط النوع الذي يجب التحقق منه مع شخص قبل أن تتصرف بناءً عليه.

أمر آخر يجدر معرفته: إذا أخبرت الذكاء الاصطناعي أنه مخطئ، فغالباً ما يوافقك ببساطة ويغيّر إجابته، حتى لو كانت إجابته الأولى صحيحة. فهو مصمَّم ليكون مُرضياً لمحدثه. لذلك تغييره لرأيه ليتوافق معك ليس دليلاً على شيء، سواء بالإيجاب أو بالسلب. الطريقة الصحيحة لحسم أي سؤال هي التحقق منه مقابل مصدر حقيقي، لا الجدال مع الروبوت حتى يقول ما تريد سماعه.

مثال قصير

إليك إجابة مُتخيَّلة تحتوي على خطأ واقعي واحد مخفي بداخلها. اقرأها أولاً وحاول أن تكتشف المشكلة.

سألت: “هل يمكنني الحصول على Medicaid في ولايتي؟”

أجاب روبوت المحادثة: “نعم. يستخدم برنامج Medicaid نفس حد الدخل في كل الولايات، فإذا كان دخلك أقل من 20,000 دولار سنوياً فأنت مؤهل في أي مكان في الولايات المتحدة. فقط سجّل في مكتب استقبال أي مستشفى.”

يبدو هذا واضحاً ومفيداً. لكنه أيضاً خاطئ بطريقة مهمة. لا يستخدم Medicaid نفس حد الدخل في كل الولايات. فكل ولاية تضع قواعدها الخاصة، وتختلف الولايات كثيراً في من تشملهم بالتغطية. رقم الدخل الوطني الموحد في تلك الإجابة كان مختلقاً لجعل الرد يبدو كاملاً. والعبارة عن التسجيل “في مكتب استقبال أي مستشفى” غير دقيقة بالطريقة نفسها.

العلامة الدالة هنا هي أن الذكاء الاصطناعي أعطى قاعدة واحدة بسيطة على مستوى البلاد بأكملها لأمر يعتمد في الواقع على مكان إقامتك. فكلما اختزلت إجابة ما قاعدة محلية متغيرة في جملة واحدة واثقة، تمهّل وتحقق. أهليتك الحقيقية تعتمد على ولايتك وحجم أسرتك وتفاصيل أخرى، لذا فإن الإجابة الصادقة كانت ستوجهك إلى مكتب Medicaid في ولايتك أو إلى شخص يمكنه النظر في حالتك. يمكنك الاطلاع على اختلاف القواعد من ولاية إلى أخرى وإيجاد برنامج ولايتك على موقع Medicaid.gov.

عادة للتحقق يمكنك الحفاظ عليها

لست بحاجة للتحقق من كل كلمة يقولها الذكاء الاصطناعي. أنت بحاجة إلى عادة للإجابات المهمة. إليك هذه العادة:

1. اسأل الذكاء الاصطناعي عن مصدره. اكتب “من أين جاءت هذه المعلومة؟” أو “ماذا يجب أن أتحقق منه لتأكيد هذا؟” الإجابة المفيدة توجهك إلى شيء محدد يمكنك الاطلاع عليه. أما الإجابة التي لا تستطيع تسمية مصدر فهي إشارة لتوخي الحذر.
2. قارنها بدليل LINC أو صفحة رسمية. انظر إن كان دليل على هذا الموقع أو صفحة رسمية يقول الشيء نفسه. للحكم على المعلومات الصحية بشكل عام، يقدّم موقع MedlinePlus التابع للمكتبة الوطنية الأمريكية للطب دليلاً واضحاً حول تقييم المعلومات الصحية.
3. بالنسبة لأي أمر مهم، تحقق منه مع شخص. يمكن لعيادة، أو عامل صحي مجتمعي، أو مترجم فوري محترف أن يحسم التفاصيل قبل أن تتصرف. هذه هي الخطوة التي تحميك في القرارات المتعلقة بالمال والأوراق والأهلية والرعاية.

طريقة جيدة لاكتشاف سوء الفهم مبكراً هي إعادة صياغة الإجابة بكلماتك الخاصة. بعد رد روبوت المحادثة، أخبره بما فهمته من كلامه، ثم اسأله: “هل فهمت هذا بشكل صحيح؟” فإعادة صياغة الإجابة غالباً ما تكشف خطأً صغيراً قبل أن يتحول إلى خطأ كبير.

علامات تحذير: متى تتمهل

بعض الإجابات تستحق نظرة ثانية أكثر من غيرها. اعتبر هذه إشارات للتوقف والتحقق قبل التصرف:

• رقم أو اسم أو رابط محدد ستتصرف بناءً عليه. رقم هاتف ستتصل به، أو اسم عيادة ستبحث عنه، أو مبلغ مالي، أو حد دخل، أو تاريخ، أو عنوان موقع إلكتروني. هذه هي التفاصيل التي يخترعها الذكاء الاصطناعي بسهولة أكبر من غيرها.
• قاعدة واحدة بسيطة لأمر يعتمد فعلياً على وضعك. إذا اختزلت الإجابة قاعدة محلية متغيرة (“الجميع مؤهلون إذا…”)، فهي غالباً تتجاهل الأجزاء التي تعتمد على ولايتك أو دخلك أو أسرتك أو وضعك.
• أي شيء متعلق بالمال أو التغطية الصحية أو الأوراق الرسمية أو قضيتك المتعلقة بالهجرة. ثمن الخطأ هنا مرتفع، لذا فإن معيار التحقق يجب أن يكون مرتفعاً أيضاً.
• الأدوية والأعراض. الجرعات، وأسماء الأدوية، وماذا تأخذ ومتى، وما إذا كان دواءان آمنين معاً. تحقق من هذه الأمور مع صيدلي أو ممرض أو الطبيب الذي وصف لك الدواء.
• إجابة لا يمكنها تسمية مصدر. حين تسأل “من أين جاءت هذه المعلومة؟” ولا يستطيع الذكاء الاصطناعي أن يشير إلى شيء محدد، اعتبر الإجابة تخميناً.

إذا لم ينطبق أي من هذا، مثلاً إن كنت تطلب من الذكاء الاصطناعي فقط شرح كلمة أو صياغة رسالة، يمكنك أن تطمئن. فعادة التحقق مخصصة للإجابات ذات العواقب الحقيقية.

ملاحظة حول الإجابات التي تُظهر مصادر

بعض أدوات الذكاء الاصطناعي الأحدث تُظهر الآن روابط أو حواشي مع إجاباتها، وهذا تحسّن حقيقي. لكنه لا يعني أنك تستطيع تجاوز التحقق. فقد يرفق الذكاء الاصطناعي رابطاً يبدو رسمياً ومع ذلك يصف محتواه بشكل غير صحيح، أو يشير إلى صفحة لا تدعم فعلياً ما يدّعيه. حين تعطيك أداة مصدراً، فالتصرف المفيد هو أن تفتح الرابط بنفسك وتقرأ الجزء المهم منه. فالغرض من وجود مصدر هو أن تتمكن من التحقق منه، لا مجرد وجوده.

التحقق ليس عدم ثقة

بناء عادة التحقق لا يعني أن الأداة عديمة الفائدة أو أنه يجب عليك تجاهل كل ما تقوله. فالذكاء الاصطناعي مفيد حقاً في التحضير: فهم مصطلح، أو صياغة ما تريد قوله، أو إيجاد نقطة بداية. الهدف من التحقق هو أن تجعل ثقتك متناسبة مع أهمية المهمة. استخدم الذكاء الاصطناعي بحرية للتحضير، ودع القرار النهائي في أي أمر عالي المخاطر بيد شخص أو مصدر رسمي.

Sources

• Bhattacharyya, M., Miller, V. M., Bhattacharyya, D., & Miller, L. E. (2023). High rates of fabricated and inaccurate references in ChatGPT-generated medical content. Cureus, 15(5), e39238. https://doi.org/10.7759/cureus.39238
• Centers for Medicare & Medicaid Services. Medicaid eligibility policy. https://www.medicaid.gov/medicaid/eligibility-policy
• MedlinePlus (U.S. National Library of Medicine). Evaluating health information. https://medlineplus.gov/evaluatinghealthinformation.html
• Si, Y., Yang, Y., Wang, X., Zu, J., Chen, X., Fan, X., An, R., & Gong, S. (2024). Quality and accountability of ChatGPT in health care in low- and middle-income countries: Simulated patient study. Journal of Medical Internet Research, 26, e56121. https://doi.org/10.2196/56121

LINC هو نموذج بحثي أولي وليس خدمة طبية أو قانونية. الترجمة قد تكون خاطئة، ومن حقك الحصول على مترجم فوري محترف مجاناً. بالنسبة لأي أمر عالي المخاطر، قم به بمساعدة عامل صحي مجتمعي أو شخص تثق به. في حالات الطوارئ، اتصل أو أرسل رسالة نصية إلى 988، أو اتصل بالرقم 911 في حال وجود خطر مباشر.