الأدوات الأحدث تفعل أكثر من مجرد الإجابة. فهي تنفّذ إجراءات متعددة الخطوات نيابةً عنك. وهذه القدرة مفيدة، لكنها ترفع أيضًا حجم المخاطر.
ما الذي يحدث فعليًا
الوكيل الذي يقرأ ملفاتك يرسلها إلى الخارج
توجّهه إلى مجلدوتعطيه مهمة
يقرأ الملفاتوهذا يعني رفعها إلى مركز بيانات
يتصرف نيابة عنكيحرّر، ويرسل، وينفّذ خطوات
أولاً: تأكّد من اتفاقية البيانات · اقصره على مجلد واحد · لا ملفات حساسة بداخله
قراءة ملف هو نفسه رفعه، لذا قبل استخدام وكيل مثل Claude Code، تأكّد من اتفاقية مشاركة البيانات، ووجّهه إلى مجلد واحد، وتأكّد من ألا يوجد في ذلك المجلد أي شيء قد يحدد هوية عميل.
المساعد الذي يجيب عن سؤال يختلف عن الوكيل الذي يتصرف. فالوكيل يمكنه إجراء بحث، وقراءة نتيجته، وتعبئة نموذج، وتصفّح مواقع الويب، أو تنفيذ سلسلة من الخطوات، مختارًا خطوته التالية استنادًا إلى ما أعادته الخطوة الأخيرة.
الأدوات الوكيلة هي في معظمها برمجيات مطوّرين. فـ Claude Code وOpenAI Codex وGemini CLI من Google تتصرف على ملفات جهازك من سطر الأوامر، ويمكن لـ GitHub Copilot تحويل مهمة موصوفة إلى مسودة، ويقوم وكيل متصفح مثل وضع الوكيل في ChatGPT بالنقر عبر المواقع، وتتيح موصّلات مبنية على بروتوكول Model Context Protocol لمساعد الوصول إلى تقويم أو قاعدة بيانات. وفي المؤسسة غير الربحية، عادةً ما يقوم قسم تقنية المعلومات بإعدادها وتحديد نطاقها.
أمان بيانات العميل يتوقف على فئة الحساب، لا على اسم العلامة التجارية. فالفئات المجانية والاستهلاكية غالبًا ما تتدرّب على ما تُدخله، ولا يليق بمعلومات العميل الاقتراب إلا من فئة أعمال أو مؤسسات أو واجهة برمجية (API) تَعِد كتابةً بعدم التدريب على مدخلاتك، مع اتفاقية موقَّعة لأي شيء متعلق بالصحة.
يفيد الوكلاء أكثر ما يفيدون في العمل الإداري المتكرر متعدد الخطوات الذي له نتيجة واضحة يمكن التحقق منها: مثل تجميع مسودة أولى لقائمة موارد من مواقع موثوقة، أو تعبئة قالب متكرر انطلاقًا من جدول، مع مراجعة شخص للناتج دائمًا.
حين يقرأ وكيل ملفًا، فهذا فعليًا نفس رفعه إلى مركز بيانات المزوّد، فتوجيه وكيل إلى ملف عميل يعني أن ذلك الملف قد غادر سيطرتك، وترتفع المخاطر أكثر حين يتصرف الوكيل داخل سجل حقيقي قيد الاستخدام، حيث تكون الخطوة الخاطئة إجراءً حقيقيًا لا مجرد مسودة سيئة.
قبل استخدام أداة وكيلة في العمل، تأكّد من أن مؤسستك لديها اتفاقية مشاركة بيانات مع المزوّد، ووجّهها إلى مجلد واحد لا يحتوي على أي شيء يحدد هوية عميل، وأبقِ شخصًا يوافق على كل خطوة ذات أثر.
المؤسسات غير الربحية التي تستخدم هذه الأدوات بشكل جيد تُبقي شخصًا ضمن الحلقة، فتترك الذكاء الاصطناعي ينتج مسودة أولى لترجمة أو ملخص يصححها الموظفون بعد ذلك، وتحتفظ بالعمل عالي المخاطر لشخص مؤهَّل.
كيف يعمل، وأين يتعطّل
1يستطيع النموذج استدعاء أداة وقراءة ما تعيده
ينتج روبوت الدردشة العادي نصًا فقط. أما الوكيل فهو النموذج نفسه متصلاً بأدوات يستطيع استدعاءها، كبحث ويب، أو أداة تعبئة نماذج، أو قطعة شيفرة، ومزوَّدًا بطريقة ليقرر متى يستدعي إحداها. يكتب النموذج طلبًا منظّمًا، وتُشغَّل الأداة، وتُعاد النتيجة إلى النموذج ليقرأها. يمكن تدريب نماذج اللغة على تقرير أي أداة تُستدعى، ومتى تُستدعى، وماذا تُمرَّر إليها (Schick وزملاؤه، 2023). وهذا ما يتيح للوكيل أن يبحث عن شيء، ويتصرف بناءً على الإجابة، ويواصل العمل دون أن تقود أنت كل نقرة.
2يفكّر، ويتصرف، ويقرأ النتيجة، ويواصل
يعمل الوكيل في حلقة. فهو يفكّر فيما ينبغي فعله بعد ذلك، ويتخذ إجراءً، ويقرأ ما أعاده ذلك الإجراء، ويستخدمه لتحديد الخطوة التالية، ويكرر ذلك إلى أن يحكم بأن المهمة قد اكتملت. وتداخل التفكير مع الأفعال على هذا النحو، بحيث يخطط النموذج، ويستدعي أداة، ويعدّل استنادًا إلى ما يلاحظه، هو الطريقة التي تنفّذ بها هذه الأنظمة مهام متعددة الخطوات (Yao وزملاؤه، 2023). ومن هذه الحلقة تأتي الفائدة، ولهذا أيضًا يصعب التنبؤ مسبقًا بالمسار الذي يسلكه الوكيل.
3خطوة خاطئة واحدة تغذّي التالية
لأن كل خطوة تأخذ ناتج الخطوة السابقة مدخلاً لها، لا يبقى الخطأ المبكر في مكانه. بل يصبح نقطة انطلاق لكل ما يليه. وجدت دراسة عن المحوّلات في المهام متعددة الخطوات أن الدقة تنخفض بشكل حاد مع تزايد عدد الخطوات، مع تراكم الأخطاء على طول السلسلة (Dziri وزملاؤه، 2023). ويظهر هذا الأثر مباشرةً في اختبارات الوكلاء: ففي معيار قياس لوكلاء يستخدمون أدوات، أنجزت النماذج الرائدة أقل من نصف المهام، ونجحت في كل المحاولات المستقلة الثماني للمهمة نفسها في أقل من ربع الحالات (Yao وزملاؤه، 2024). ولهذا في عمل المؤسسة يوافق إنسان على كل إجراء ذي أثر: فرقم خاطئ أو قاعدة أُسيئت قراءتها ورُصدت في الخطوة الأولى لن تحصل أبدًا على فرصة لتوجيه تقديم نموذج في الخطوة الخامسة.
4يمكن اختطاف الوكيل عبر المحتوى الذي يقرؤه
يقرأ الوكيل أي شيء توجّهه إليه، ولا يستطيع دائمًا التمييز بثقة بين تعليماتك ونص مُضمَّن في مستند أو بريد إلكتروني أو صفحة ويب. وتُسمّى هذه الثغرة حقن التعليمات (prompt injection)، وهي مصنّفة على أنها أكبر مخاطر الأمان في هذه التطبيقات، لأن تعليمات مخفية في ملف يكتفي الوكيل بفتحه يمكن أن تعيد توجيهه (OWASP، 2025). وهذا ليس افتراضيًا. ففي حالة كُشف عنها، تسبّب بريد إلكتروني واحد مُعَدّ خصيصًا في تسريب مساعد ذكاء اصطناعي داخل شركة لملفات داخلية دون أي نقرة من المستخدم، وفي حالة أخرى حذف وكيل قاعدة بيانات إنتاجية قيد التشغيل. والقاعدة الآمنة هي ألا تمنح وكيلاً واحدًا في الوقت نفسه بيانات خاصة بالعميل، وتعرّضًا لمحتوى غير موثوق، ووسيلة لإرسال المعلومات إلى الخارج.
مجموعة من المواقع الموثوقةقائمة أولى تتحقق منها لاحقًا
اجمع مسودة أولى لقائمة موارد من مواقع موثوقة
باستخدام المواقع التي أسردها فقط، اجمع مسودة أولى لقائمة موارد للحاجة التي سأسمّيها. لكل عنصر، اذكر المؤسسة، والخدمة، وتفاصيل الاتصال، وصفحة المصدر التي أخذته منها، وتاريخ آخر تحديث للصفحة إن كان معروضًا. حدّد أي عنصر كان فيه الموقع غير واضح أو اضطررت فيه إلى التخمين، ولا تضف أي شيء من خارج المواقع التي أعطيتك إياها. [سمِّ الحاجة والصق المواقع الموثوقة، دون معرّفات العميل]
قاعدة أمان. يمكن لوكيل أن يسيء قراءة صفحة أو يسحب إدخالاً قديمًا، لذا افتح كل مصدر وتحقّق من كل عنصر قبل أن يعتمد عليه أحد. انظر الوحدة 1.
مهمة قد تسندها إلى وكيلخطة محدَّدة فيها نقاط تحقق بشرية
حدّد نقاط الموافقة قبل أن تدع وكيلاً يعمل
أفكّر في تكليف وكيل ذكاء اصطناعي بالمهمة التي سأصفها. قسّم المهمة إلى خطوات، ولكل خطوة قل ما إذا كانت منخفضة المخاطر بما يكفي لتُنفَّذ وحدها أو أنها تتضمن إجراءً ينبغي لشخص الموافقة عليه أولاً، مثل إرسال رسالة، أو تقديم نموذج، أو تغيير سجل. وضّح أين يمكن أن ينتقل خطأ مبكر بصمت إلى خطوات لاحقة. [صف المهمة والأنظمة التي ستمسّها]
قاعدة أمان. دع وكيلاً ينفّذ وحده الخطوات المنخفضة المخاطر فقط، وأبقِ شخصًا يوافق على كل خطوة تتصرف على سجل حقيقي أو ترسل شيئًا رسميًا. انظر الوحدة 4.
مهمة ملفات أو بيانات متكررةتجربة أولية يعرضها الوكيل قبل أن يتصرف
اجعل الوكيل يعرض خطته قبل أن يغيّر أي شيء
قبل أن تغيّر أي شيء، أرِني القائمة الكاملة للإجراءات التي تخطط لاتخاذها وانتظر موافقتي. اعمل فقط داخل المجلد الواحد الذي أوجّهك إليه، وتعامل معه بوصفه نسخة، ولا تلمس الملفات الأصلية أبدًا. [اطلب من تقنية المعلومات تشغيل هذا على نسخة من مجلد غير حساس]
قاعدة أمان. يمكن لوكيل يتصرف على الملفات أن يسبب ضررًا حقيقيًا، لذا شغّله على نسخة، واشترط عرض الخطة أولاً، وأبقِ النسخة الوحيدة من سجلات العميل بعيدة المنال. انظر الوحدة 4.
مثال عملي
عنصر خاطئ واحد، رُصد قبل أن ينتشر
يكلّف أخصائي حالة وكيلاً بجمع مسودة أولى لقائمة موارد من أربعة مواقع موثوقة، بتعليمات تشير إلى صفحة المصدر لكل عنصر.
يعيد الوكيل قائمة مرتبة باثنتي عشرة مؤسسة، لكل منها خدمة ورقم هاتف ورابط، وتُقرأ كعمل جاهز.
وعند التحقق من المصادر، يجد الأخصائي عنصرًا واحدًا أساء فيه الوكيل قراءة صفحة وألحق قاعدة أهلية خاطئة به، وعنصرين لاحقين كرّرا القاعدة الخاطئة نفسها لأن الوكيل حمل قراءته المبكرة إلى ما بعدها.
يصحّح العنصر الذي أُسيئت قراءته، ويصلح العنصرين اللذين ورثا الخطأ، ويتحقق من البقية مقابل الصفحات المستشهد بها، مبقيًا الوكيل على الصياغة ونفسه على الموافقة على أي شيء سيتصرف العميل بناءً عليه.
قاعدة أمان. لا تدع وكيلاً يتصرف بناءً على سجلات حقيقية للعميل أو يقدّم أي شيء رسمي دون أن يراجع شخص كل خطوة. انظر الوحدة 1 والوحدة 4. وقبل اعتماد أداة وكيلة، مرّرها عبر اختيار أداة بمسؤولية؛ ولطريقة أقل خطورة لإعادة استخدام إعداد جاهز، انظر أنشئ مساعدًا مخصّصًا.
المصادر
Schick, T., Dwivedi-Yu, J., Dessi, R., Raileanu, R., Lomeli, M., Zettlemoyer, L., Cancedda, N., & Scialom, T. (2023). Toolformer: Language models can teach themselves to use tools. In Advances in Neural Information Processing Systems 36. https://arxiv.org/abs/2302.04761
Yao, S., Zhao, J., Yu, D., Du, N., Shafran, I., Narasimhan, K., & Cao, Y. (2023). ReAct: Synergizing reasoning and acting in language models. In The Eleventh International Conference on Learning Representations (ICLR). https://arxiv.org/abs/2210.03629
Dziri, N., Lu, X., Sclar, M., Li, X. L., Jiang, L., Lin, B. Y., West, P., Bhagavatula, C., Le Bras, R., Hwang, J. D., Sanyal, S., Welleck, S., Ren, X., Ettinger, A., Harchaoui, Z., & Choi, Y. (2023). Faith and fate: Limits of transformers on compositionality. In Advances in Neural Information Processing Systems 36. https://arxiv.org/abs/2305.18654
Yao, S., Shinn, N., Razavi, P., & Narasimhan, K. (2024). tau-bench: A benchmark for tool-agent-user interaction in real-world domains. arXiv. https://arxiv.org/abs/2406.12045