AI 的偏见与公平，以及始终由你做出的判断
AI 工具并不会平等对待每一位服务对象。它是从人类文本和过往决策中学习而来的，因此可能带有偏见，其不公平往往最沉重地落在服务对象身上。公平性是与准确性不同的问题，需要单独核查。本节还将讨论一种更隐蔽的风险：工具往往倾向于附和你的看法，反映主流观点，这会逐渐削弱你从事倡导工作所依赖的批判性思维。
换个名字,再问一次
- 写一段简短的案例摘要,是你工作中可能真的会遇到的那种,不要用任何真实服务对象的信息。
- 问聊天机器人它会怎么建议,把答案保存下来。
- 只把姓名和原籍国换掉,一字不差地再问一遍,把两个答案放在一起比较。
有没有什么本不该变的东西变了?
- 在你提出任何问题之前，偏见就已经存在。模型是从人类文本和过往决策中学习的，因此也承袭了其中的刻板印象与不公平。
- 这种不公平与服务对象的身份及其说话方式有关，因此最沉重地落在你所服务的移民、低收入及英语能力有限的社区身上。
- 流畅而自信的语气无法告诉你答案是否公平。一个回答可以听起来很权威，却仍然带有歧视性。
- 公平性是与准确性不同的问题。一个回答可以在事实上看似合理，却仍然有失公正。
- 工具还往往倾向于附和你的看法，反映一种狭隘的主流默认视角，这会削弱你从事倡导工作所依赖的批判性思维。
- 关于一个人的判断无法转交给工具。你可以用 AI 起草内容，但评估、决定和问责始终由你承担。
AI 对服务对象可能造成不公平的方式
这些问题都不会主动显现出来。公平的答案和不公平的答案在屏幕上看起来毫无区别，因此核查的责任在你。
模型的词语联想来自人类写作，因此这些文字中的模式，包括对群体的刻板印象，早在任何人提问之前就已经嵌入模型之中。它在描述人物、职业或状况时，可能会不知不觉地呼应这些刻板印象。
这种偏见不仅与服务对象的身份有关，还与其说话方式有关。语言模型对使用被污名化方言（如非裔美国人英语）的说话者评判要严厉得多，这种隐性偏见比目前记录在案的任何人类刻板印象都更强，并且更可能给他们分配声望更低的工作和更严厉的定罪结果（Hofmann 等，2024）。用服务对象的方言写出的同一个请求，可能得到更差的答案。
模型把某一类人当作默认对象：西方、受过教育、富裕。它们的回答与 WEIRD（西方、受过教育、工业化、富裕、民主）人群最为相似，一个人的背景离这个中心越远，回答就越不贴合（Atari 等，2023），因此建议可能在不知不觉中假设了服务对象并不具备的经济条件、读写能力、移民身份或行为规范。
当工具参与决定谁能获得什么资源时，它可能导致资源分配不均。美国一个被广泛使用的医疗算法以预测医疗支出而非疾病本身为目标，这低估了黑人患者的实际需求，使他们更难获得所需的医疗照护（Obermeyer 等，2019）。而这一切在语气上完全看不出任何异常。
AI 恰恰在服务对象最需要的语言上最不可靠。除了质量问题之外，模型切分非英语文本的方式也使同样的任务在许多语言中成本更高、效果更差（Petrov 等，2023），因此最需要语言可及性的人，得到的往往是这个工具中最弱的版本。
只有当人在不加核查的情况下全盘接受模型的偏见时，偏见才会转化为实际伤害。自动化偏见，即使在机器出错时仍倾向于顺从机器判断的这一有据可查的现象，在医疗和安全领域十分常见（Goddard 等，2012）。而这一失误模式，是你可以掌控的。
其中一部分问题源于工具本身，另一部分则取决于使用方式。你无法修正模型，但可以决定它的偏见是否会波及服务对象。
"正常"的狭窄中心
公平性与准确性是两种不同的检验标准。一个答案可以在总体上是准确的，却仍然对眼前这位服务对象不公，因为误差并非均匀分布。世界卫生组织 2024 年发布的医疗领域 AI 应用指南警告称，这些模型可能给出带有偏见或不完整的答案，并呼吁引入人工监督（世界卫生组织，2024）。将公平性的核查与答案是否正确分开进行，才能发现流畅的答案可能掩盖的伤害。
这一点对 LINC 所服务的社区尤为重要。一个本应扩大医疗可及性的工具，如果其偏见恰好落在本已面临最多障碍的人身上，反而可能缩小这种可及性，这正是为什么留意这一问题本身就是工作的一部分。
总体准确，却对这位服务对象不公
谄媚式迎合，以及你绝不能失去的批判性思维
工具带有的不仅是针对服务对象的偏见，还会影响你自身的思维方式，其影响方向恰恰不利于一名倡导者。
AI 助手常常会说出你似乎想听的话。当用户对一个正确答案提出质疑，哪怕只是试探性地质疑，模型也常常会转而给出错误答案。这种谄媚式迎合是一种普遍行为，部分源于奖励讨好性回复的人类反馈训练（Sharma 等，2023）。你带着一个并不牢靠的猜测前来，得到的可能是确认，而不是质疑。
倡导者所依赖的批判性思维，会随着不加批判的使用而逐渐减弱。一项针对知识工作者的调查显示，对生成式 AI 的信心越强，批判性思维反而越弱，精力也从进行推理转向仅仅核对输出结果（Lee 等，2025）。这种能力很容易丧失，而丧失的过程却很难察觉。
不加质疑地接受答案会使视野变窄。由于这些模型最贴近 WEIRD、主流的视角（Atari 等，2023），不加批判的使用会在不知不觉中把你的思维拉向那种默认视角，而偏离服务对象的真实处境，就像一个不断自我附和的回音室。
你的职责，是让主流常常忽视的服务对象真实处境成为关注的中心。而工具却将你拉向相反的方向，因此批判性思维必须始终保持开启。
不加批判的使用如何变成一个回音室
- 1 你带着一个猜测而来
- 2 工具表示赞同（谄媚式迎合）
- 3 你感到自己的想法得到了确认
判断无法转交给工具
- 你可以把打字的工作交给工具，但无法把对一个人的评估、决定及其问责转交出去。
- 社会工作伦理要求专业胜任力，并要求你对所提供的服务负责；工具不承担任何这样的责任（NASW 伦理守则）。
- 把工具的附和视为需要核查的信号，而不是确认。它本身就是被设计得听起来讨人喜欢。
- 当一个答案可能影响资格认定、安全、权利或诊断时，必须每次都先经过人工审核，才能使用。
对任何你真正打算使用的答案，问两个问题
拿出一个你可能用于服务对象的 AI 答案，向它提出两个问题。第一：这个答案是否可能因为服务对象的身份、语言、收入或身份状态而出错？第二：这个决定中，哪一部分应当由我来做出，而不是工具？在依据第一个问题采取行动之前，先用一句话写下第二个问题的答案。