测试版 本网站处于测试版。信息仍在持续添加和审核中。
LINC 用您的语言获得心理健康服务
中文
AI 实际上能帮你做什么
11

为报告、资助申请与外展工作讲故事

AI 可以帮忙塑造一份报告、一份资助申请或一条外展帖子的叙述。它负责起草、收紧和调整措辞。故事里的事实、知情同意，以及当事人的尊严，始终由你来守护。工具可以打磨一个故事，不应该去编造一个故事。

界线在哪里

打磨文字，守护故事

AI 能帮上忙的地方

收紧一份资助申请叙述，把一个你已获同意收集的故事改写给新的受众，或依据真实、已去标识的事实起草一条外展帖子。

必须交给人来把关的部分

不要让 AI 编造引言、细节或数字，不要在未经当事人同意的情况下使用他们的故事，也不要把任何可识别身份的细节粘贴进一个工具里。

措辞是 AI 能帮上忙的地方；真实性、知情同意和尊严，始终由你来守护。
  • 在文字打磨上很有用：把你的笔记和真实的、已获得同意的成果变成一份清晰的初稿，收紧资助申请的叙述，把同一个故事改写给不同的受众。
  • 它会编造细节。语言模型会用流畅但没有依据的内容去填补空白，所以一份 AI 草稿可能会加上一句从未说过的话、一个数字，或一个从未发生过的场景。
  • 知情同意是一场持续进行的对话，而不是一次签字。这个人应该知道自己的故事将如何被使用，能够审阅并核准内容，也能够随时撤回。
  • 把尊严和自主性放在中心。讲述这个人的优势和复杂性，避免用一个人的苦难去换取关注的怜悯式叙事。
  • 不要用 AI 图像工具去描绘一个"典型的"服务对象或难民，因为即使提示词从未提到身份，这些工具也会复现刻板印象。
  • 绝不要粘贴任何可识别身份的细节，并且在一个故事或图像由 AI 辅助完成时予以说明。

它是如何运作的，又会在哪里出错

模型会用从未发生过的内容去填补空白

当模型依据寥寥几条笔记写出一个故事时，它是通过预测流畅的文字来补全空白的，而这些文字常常会断言原始材料里根本没有的具体细节。在一项对模型撰写摘要的细致标注中，超过百分之七十包含虚构内容，其中大部分属于"外部性"虚构，也就是完全无法从原文中得到验证，而这些添加的内容中，绝大多数根本就是错的（Maynez 及同事，2020）。研究者把与原文相矛盾的虚构，和原文既无法证实也无法证伪的虚构区分开来；一句捏造的引言或一个凭空想象的场景，属于第二类（Ji 及同事，2023）。这并非一种抽象的风险。已经有律师提交的诉状里，包含了聊天机器人凭空捏造出来的判例，连带着捏造的判决引文，并因此受到了处罚（Mata v. Avianca，2023）。

编造出来的细节往往会落入刻板印象

模型为了填补空白而编造出来的内容并非中立。在只给出一个群体名称、让模型自己把句子写完的测试中，一个早期模型大约三分之二的情况下为穆斯林生成了暴力内容，并在大约四分之一的测试中把"穆斯林"这个词与"恐怖分子"联系在一起，比例远高于其他群体，而在提示词里预先加入正面词汇也只能部分缓解这个问题（Abid 及同事，2021）。图像工具表现出同样的模式，即使提示词从未提到身份，也会复现人口特征上的刻板印象，而用户几乎无法通过改写提示词可靠地避开这一点（Bianchi 及同事，2023）。对于一个关于移民或难民服务对象的故事来说，这意味着 AI 添加的细节可能会悄悄落入一种带有贬损性的刻板印象，这正是为什么不能让它去编造，也不能用它来描绘一个"典型的"服务对象。

知情同意、准确性和尊严，是一个工具无法承担的责任

故事讲述中真正保护当事人的那部分，是专业判断，而不是起草任务。社会工作伦理守则把如何准确呈现服务对象、以及只披露必要的最少信息，列为工作者的责任（National Association of Social Workers，2021）。业内关于伦理化故事讲述的指南，把知情同意视为一场持续进行、可以撤回的对话，并赋予讲述者本人审阅和核准其经历被如何使用的权利，这是"任何与一个人有关的事，都不应该在没有他本人参与的情况下被决定"这一原则的具体落实（Voice of Witness，n.d.；Commons Social Change Library，n.d.）。一个工具可以帮你整理措辞，但它无法获得同意、核实事实，或者衡量一个人的尊严，这些始终由你来承担。

你的笔记和资助方使用的框架 一段待核实、待核准的资助申请小故事
依据已获同意、已去标识的事实起草一段资助申请小故事

这里是一项成果的真实、已去标识的事实，以及这家资助方使用的框架。请依据这个框架起草一段简短的小故事。只使用我给出的事实，不要添加任何我没有提供的引言、数字或细节，并标出你不确定的地方。 [粘贴已去标识的事实，不含姓名或可识别身份的细节]

安全提醒。 对照你的记录逐句核对，不含任何身份信息，并在这段小故事发出之前，让当事人审阅并核准。参见 模块 4。

一段已获核准的证言和你的成果数据 一份保留原话的报告叙述
围绕一段已获核准的引言构建报告叙述

围绕这段已获核准的证言和这些成果数据起草叙述。这句引言要逐字保留，不要改写或转述，也不要添加任何我没有列出的成就或数字。 [粘贴已获核准的引言和你的真实数据]

安全提醒。 绝不要让工具把一句引言改写成当事人没有说过的话，并对照你的数据核对每一个数字。参见 模块 2。

一个用当事人自己的语言讲述的故事 一份供双语人员和讲述者审阅的通俗初稿
为审阅起草一个故事的通俗语言版本

把这个已获同意的故事改写成适合通讯简报的通俗语言，控制在简单的阅读水平，同时保留原意和当事人自己的语气重点。不要添加细节，并标出任何措辞可能改变原意的地方。 [粘贴已获同意的故事，不含可识别身份的细节]

安全提醒。 在分享之前，要由一位合格的双语人员和讲述者本人共同审阅，并确认知情同意具体涵盖这个版本。参见 模块 3。

实例分析

一句没有人说过的话

  1. 你给模型提供了几条关于某位服务对象成果的真实事实，请它为通讯简报写一个简短的故事。
  2. 草稿写得动人又具体，里面有一句用服务对象口吻说出的、饱含深情的引言，还有一个整齐的数字。
  3. 这句引言和这个数字都不是你提供的。模型为了让故事更打动人，把两者都编造了出来。
  4. 你删掉了编造的引言和数字，只保留真实且已获同意的内容，并让当事人审阅。AI 整理了你的事实，它不应该去制造新的事实。

安全提醒。 你是某个人故事的传递者，不是它的作者。知情同意、准确性和尊严始终由你来把关，只让 AI 帮忙处理措辞。这一点与 AI 偏见与公平 相关，因为编造出来的细节常常会落入刻板印象。另请参见 模块 4，以及 分析并可视化你的项目数据 了解故事背后的数字。

来源
  1. Maynez, J., Narayan, S., Bohnet, B., & McDonald, R. (2020). On faithfulness and factuality in abstractive summarization. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (pp. 1906-1919). Association for Computational Linguistics. https://doi.org/10.18653/v1/2020.acl-main.173
  2. Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), 1-38. https://doi.org/10.1145/3571730
  3. Abid, A., Farooqi, M., & Zou, J. (2021). Persistent anti-Muslim bias in large language models. In Proceedings of the 2021 AAAI/ACM Conference on AI, Ethics, and Society (pp. 298-306). https://doi.org/10.1145/3461702.3462624
  4. Bianchi, F., Kalluri, P., Durmus, E., Ladhak, F., Cheng, M., Nozza, D., Hashimoto, T., Jurafsky, D., Zou, J., & Caliskan, A. (2023). Easily accessible text-to-image generation amplifies demographic stereotypes at large scale. In Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency (pp. 1493-1504). https://doi.org/10.1145/3593013.3594095
  5. Mata v. Avianca, Inc., 678 F. Supp. 3d 443 (S.D.N.Y. 2023).
  6. Voice of Witness. (n.d.). Ethical storytelling principles. https://voiceofwitness.org/resource-library/ethical-storytelling-principles/
  7. Commons Social Change Library. (n.d.). Holding and empowering storytellers: Tools for NGOs and advocates. https://commonslibrary.org/holding-and-empowering-storytellers-tools-for-ngos-and-storytellers/
  8. National Association of Social Workers. (2021). Code of ethics of the National Association of Social Workers. https://www.socialworkers.org/About/Ethics/Code-of-Ethics/Code-of-Ethics-English