يمكن للذكاء الاصطناعي أن يساعد في صياغة سرد لتقرير، أو منحة، أو منشور توعوي. فهو يكتب المسودات، ويُحكم الصياغة، ويعيد صوغ الكلمات. أما الوقائع، والموافقة، وكرامة أصحاب القصة، فتبقى بين يديك. يمكن للأداة أن تصقل قصة؛ ولا ينبغي لها أن تختلق واحدة.
أين يكمن الخط الفاصل
اصقل الكلمات، واحمِ القصة
يمكن للذكاء الاصطناعي أن يساعد
إحكام سرد منحة، وإعادة تشكيل قصة جمعتها بموافقة صاحبها لجمهور جديد، أو صياغة مسودة منشور توعوي من وقائع حقيقية ومنزوعة الهوية.
أبقِه بشريًا
لا تدع الذكاء الاصطناعي يختلق اقتباسات أو تفاصيل أو إحصاءات، أو يستخدم قصة شخص دون موافقته، أو تلصق أي تفصيلة تحدد الهوية في أداة.
الصياغة هي حيث يساعد الذكاء الاصطناعي. أما الحقيقة، والموافقة، والكرامة، فأمرك أنت أن تحملها.
مفيد في الصنعة: تحويل ملاحظاتك ونتائج حقيقية جرت الموافقة عليها إلى مسودة واضحة، وإحكام سرد منحة، وتكييف قصة واحدة لجماهير مختلفة.
سيختلق تفاصيل. فنماذج اللغة تملأ الفجوة بمحتوى طليق غير مدعوم، لذا يمكن لمسودة كتبها الذكاء الاصطناعي أن تضيف اقتباسًا، أو إحصاءً، أو مشهدًا لم يحدث قط.
الموافقة محادثة مستمرة تجريها باستمرار، لا توقيعًا لمرة واحدة. فينبغي أن يعرف الشخص كيف ستُستخدم قصته، وأن يكون قادرًا على مراجعتها والموافقة عليها، وأن يكون قادرًا على سحبها.
ضع الكرامة والفاعلية في المركز. احكِ القوة والتعقيد، وتجنّب سرد الشفقة الذي يقايض معاناة شخص بالانتباه.
لا تستخدم أداة صور بالذكاء الاصطناعي لتصوير "عميل نمطي" أو لاجئ نمطي، فهذه الأدوات تعيد إنتاج الصور النمطية حتى حين لا يذكر الطلب الهوية إطلاقًا.
لا تلصق أبدًا تفاصيل تحدد الهوية، وأفصح حين تكون قصة أو صورة مدعومة بالذكاء الاصطناعي.
كيف يعمل، وأين يتعطّل
1يملأ النموذج الفجوة بشيء لم يحدث قط
حين يكتب نموذج قصة انطلاقًا من ملاحظات ضئيلة، فإنه يملأ الفجوات بتوقّع نص طليق، وغالبًا ما يؤكد ذلك النص تفاصيل لم يتضمنها المصدر إطلاقًا. في ترميز دقيق لملخصات كتبتها نماذج، تضمّن أكثر من سبعين بالمئة منها محتوى مختلَقًا، ومعظمه من النوع الخارجي، أي ما لا يمكن التحقق منه من المصدر إطلاقًا، وكانت الغالبية العظمى من تلك الإضافات خاطئة ببساطة (Maynez وزملاؤه، 2020). يفرّق الباحثون بين الاختلاق الذي يناقض المصدر والاختلاق الذي لا يستطيع المصدر تأكيده؛ والاقتباس المختلَق أو المشهد المختلَق من النوع الثاني (Ji وزملاؤه، 2023). وهذا ليس خطرًا نظريًا. فقد قدّم محامون مذكرات قضائية تضمّنت قضايا اختلقها روبوت دردشة، مع اقتباسات ملفَّقة، ووُقّعت عليهم عقوبات بسبب ذلك (Mata v. Avianca، 2023).
2التفصيل المختلَق يميل إلى اتّباع نمط تنميطي
ما يختلقه النموذج لملء فجوة ليس محايدًا. فحين تُرك نموذج أقدم ليكمل جملة بدأت باسم مجموعة، أنتج محتوى عنيفًا عن المسلمين في نحو ثلثي الحالات، وربط كلمة "مسلم" بكلمة "إرهابي" في نحو ربع الاختبارات، وهي نسبة أعلى بكثير مما كانت عليه مع مجموعات أخرى، ولم يُقلّل التمهيد بكلمات إيجابية من ذلك إلا جزئيًا (Abid وزملاؤه، 2021). وتُظهر أدوات الصور النمط نفسه، إذ تعيد إنتاج الصور النمطية الديموغرافية حتى حين لا يذكر الطلب الهوية إطلاقًا، بطريقة لا يستطيع المستخدمون تجنّبها بصياغة الطلب بشكل موثوق (Bianchi وزملاؤه، 2023). وبالنسبة لقصة عن عميل مهاجر أو لاجئ، يعني هذا أن تفصيلاً أضافه الذكاء الاصطناعي قد ينزلق بصمت إلى صورة نمطية مهينة، وهذا هو سبب ألا تدعه يختلق وألا تستخدمه لتصوير "عميل نمطي".
3الموافقة والدقة والكرامة التزامات لا تستطيع الأداة حملها
الأجزاء من السرد التي تحمي الشخص هي أحكام مهنية، لا مهام صياغة. فمدونة قواعد أخلاقيات العمل الاجتماعي تجعل الدقة في تمثيل العملاء، والإفصاح عن الحد الأدنى الضروري فقط من المعلومات، التزامات على الأخصائي (National Association of Social Workers، 2021). وتتعامل إرشادات القطاع بشأن السرد الأخلاقي مع الموافقة بوصفها محادثة مستمرة قابلة للسحب، وتمنح صاحب القصة حق مراجعة استخدام روايته والموافقة عليه، وهو التطبيق العملي لمبدأ ألا يُقرَّر شيء بشأن شخص دون إشراكه (Voice of Witness، n.d.؛ Commons Social Change Library، n.d.). يمكن للأداة أن ترتب كلماتك؛ لكنها لا تستطيع الحصول على موافقة، أو التحقق من حقيقة، أو وزن كرامة شخص، وتلك تبقى معك.
ملاحظاتك وإطار عمل جهة التمويلمقطع سردي قصير للمنحة تتحقق منه وتوافق عليه
اكتب مقطعًا سرديًا قصيرًا للمنحة من وقائع موافَق عليها ومنزوعة الهوية
إليك وقائع حقيقية ومنزوعة الهوية عن نتيجة، وإطار العمل الذي تستخدمه جهة التمويل هذه. اكتب مقطعًا سرديًا قصيرًا يناسب الإطار. استخدم فقط الوقائع التي أعطيك إياها، ولا تضف أي اقتباس أو رقم أو تفصيلة لم أقدّمها، وأشر إلى أي شيء لم تكن متأكدًا منه. [الصق وقائع منزوعة الهوية، دون أسماء أو تفاصيل تحدد الهوية]
قاعدة أمان. تحقّق من كل جملة مقابل سجلاتك، وأبقِ المعرّفات خارجها، ودع الشخص يراجع المقطع السردي ويوافق عليه قبل نشره. انظر الوحدة 4.
شهادة موافَق عليها وبيانات نتائجكسرد تقرير مع بقاء الاقتباس كما هو
ابنِ سرد تقرير حول اقتباس موافَق عليه
اكتب السرد حول هذه الشهادة الموافَق عليها وهذه الأرقام الخاصة بالنتائج. أبقِ الاقتباس كما هو حرفيًا، ولا تعد صياغته أو تلخيصه، ولا تضف أي إنجاز أو رقم لم أذكره. [الصق الاقتباس الموافَق عليه وأرقامك الحقيقية]
قاعدة أمان. لا تدع الأداة أبدًا تعيد صياغة اقتباس بكلمات لم يقلها الشخص، وتحقّق من كل رقم مقابل بياناتك. انظر الوحدة 2.
قصة رُويت بلغة الشخصمسودة بلغة بسيطة لمراجعة ثنائية اللغة ومراجعة صاحب القصة
اكتب مسودة بلغة بسيطة لقصة كي تُراجَع
حوّل هذه القصة الموافَق عليها إلى لغة بسيطة بمستوى قراءة سهل لنشرة إخبارية، مع الحفاظ على المعنى وعلى تركيز الشخص نفسه. لا تضف تفاصيل، وأشر إلى أي جزء قد تغيّر فيه الصياغة المعنى. [الصق القصة الموافَق عليها، دون تفاصيل تحدد الهوية]
قاعدة أمان. يراجعها شخص ثنائي اللغة مؤهَّل وصاحب القصة معًا، وتغطي الموافقة هذه النسخة تحديدًا، قبل مشاركتها. انظر الوحدة 3.
مثال عملي
اقتباس لم يقله أحد
تعطي النموذج بضع وقائع حقيقية عن نتيجة حصل عليها عميل وتطلب قصة قصيرة لنشرة إخبارية.
لا الاقتباس ولا الرقم جاء منك. لقد اختلق النموذج كليهما ليجعل القصة أكثر تأثيرًا.
تحذف الاقتباس والرقم المختلَقين، وتحتفظ فقط بما هو حقيقي وموافَق عليه، وتدع الشخص يراجعها. الذكاء الاصطناعي رتّب وقائعك؛ ولم يكن ينبغي له أن يختلق وقائع جديدة.
قاعدة أمان. أنت الوسيط لقصة شخص آخر، لا مؤلفها. أبقِ الموافقة والدقة والكرامة معك، ودع الذكاء الاصطناعي يساعد فقط في الصياغة. يتصل هذا بـ تحيّز الذكاء الاصطناعي والإنصاف، إذ كثيرًا ما يتبع التفصيل المختلَق نمطًا تنميطيًا. انظر أيضًا الوحدة 4، وتحليل بيانات برنامجك وتصورها بيانيًا للأرقام وراء القصة.
المصادر
Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On faithfulness and factuality in abstractive summarization. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (pp. 1906-1919). Association for Computational Linguistics. https://doi.org/10.18653/v1/2020.acl-main.173
Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), 1-38. https://doi.org/10.1145/3571730
Abid, A., Farooqi, M., & Zou, J. (2021). Persistent anti-Muslim bias in large language models. In Proceedings of the 2021 AAAI/ACM Conference on AI, Ethics, and Society (pp. 298-306). https://doi.org/10.1145/3461702.3462624
Bianchi, F., Kalluri, P., Durmus, E., Ladhak, F., Cheng, M., Nozza, D., Hashimoto, T., Jurafsky, D., Zou, J., & Caliskan, A. (2023). Easily accessible text-to-image generation amplifies demographic stereotypes at large scale. In Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency (pp. 1493-1504). https://doi.org/10.1145/3593013.3594095
Mata v. Avianca, Inc., 678 F. Supp. 3d 443 (S.D.N.Y. 2023).