使用 AI 的社会影响
其他模块问的是这个工具能做什么、怎么核实它。这个模块问的是它对你造成什么影响、它从哪里来、又付出了什么代价,因为这三件事,最终都会传导到你所服务的人身上。依赖这个工具,会改变依赖它的人的专业能力。训练数据(training data)是从已经存在的文本里抓取来的,这也是为什么服务对象所说的语言在其中显得单薄。清洗和评分这些数据的工作,是以低廉的价格从全球南方买来的。运行模型的那些建筑物,会盖在特定的社区里,而且很少是富裕的社区。你可以使用 AI,同时依然能在服务对象问起时,如实说清楚它到底是什么。
先把担忧写出来,不急着回答
- 五分钟:每个人写下自己对AI真正的担忧,一条一行,不做筛选,也不互相反驳。
- 把这些纸条贴到墙上,按影响范围从近到远排列,从你和服务对象一直排到整个世界。
- 这面墙一直留着,直到这个模块结束。
最后,标出这个模块回答了哪些担忧,哪些只能靠你们自己的社区来解决。
同一个工具,五个不同的尺度
- 你和你的服务对象 你的专业能力和判断力,以及眼前这个人能不能得到正确的答案。
- 你所在的机构 谁可以用什么、哪些工作被自动化了、原本做这些工作的员工后来怎么样了。
- 你所在的社区 对你所在机构的信任、语言可及性,以及在附近建数据中心(data center)之前,谁的意见被征询过。
- 整个国家 劳动力市场、版权法、采购规则,以及电费由谁来付。
- 整个世界 谁的文字被拿走了、谁的劳动清洗了这些数据、哪些语言被落下了、水又流向了哪里。
依赖 AI 会对你的专业能力造成什么影响
第一个影响,就发生在你自己的办公桌前。一个替你做掉一半轻松工作的工具,也会把这一半实务能力一并带走,而这已经不是猜测,而是有证据支持的。
目前最清楚的证据来自医学领域。在四家肠镜检查中心,AI 辅助成为常规做法之后,医生在不用 AI 的肠镜检查中,息肉检出率下降了大约六个百分点,而这些医生都是做过成千上万例手术的资深临床医生(Budzyn 等,2025)。没有谁是主动决定变差的。是这项能力转移到了工具里,等到工具不在的那一天,这项能力也就跟着不见了。
一项对 319 名知识工作者的调查发现,越信任 AI 的人,报告自己做批判性思考的程度越低;越信任自己判断力的人,做得越多。工作本身,也从"产出答案"变成了"核对和管理机器产出的内容"(Lee 等,2025)。产出的东西看起来一样,甚至更好,所以这种转变很容易被忽略。
在一项田野实验中,用上不设防护的 AI 家教的学生,有工具在的时候表现更好,但等到自己单独作答时,成绩反而比从未用过的学生更差;而带有防护机制的版本则避免了这种伤害(Bastani 等,2025)。AI 本身并不会毁掉学习。关键在于工具的设置方式,要让人始终自己动脑,而这一点对刚入行、判断力还在养成中的新员工尤其重要。
当草稿、总结和计划都已经现成地摆在你面前,这份工作就变成了审批一台机器的产出。一个个案工作者之所以做得好,很大程度上靠的是写记录时的那些思考,以及那种让你回头再翻一遍档案的不安感,而这恰恰是工具最先拿走的部分。在督导中把这件事说出来。一个感觉自己成了"别人作品审阅者"的员工,描述的是真实发生的事情。
遇到难的个案,先自己做一遍,再去问工具,两相比较。故意让新员工先不用工具处理一些个案,这是任何一个专业培养人才的方式。把"AI 起草,你来决定"当成一条规则,它保护的不只是服务对象得到答案的准确性,也同样保护你自己的专业能力。
AI 大概率不会取代你,但它会悄悄拿走那部分本来让你做得好的工作,而这一点,要等到工具出错、用不了,或者用不起的那一天,才会有人注意到。
训练数据从哪里来
模型知道的一切,都来自某个人收集来的文本。把这句话细细想清楚,既能解释服务对象遇到的语言差距,也能解释是谁的劳动让这个工具变得可用。
模型拥有的一切,都来自那些已经以某种形式存在、能被某家公司收集到的文本。那些活在口述里、活在某个社区中、藏在没人扫描过的纸质档案里,或是活在网上几乎没有书面记录的语言里的知识,就是彻底缺席的,而模型甚至察觉不到自己有这个缺口。谁有钱、谁掌握出版渠道和基础设施,决定了什么被数字化,所以模型知识的形状,也就沿着经济史和殖民史的形状延伸。
越南语、他加禄语、阿姆哈拉语和海地克里奥尔语,每一种都有几千万人在说。它们之所以被称为"低资源",原因只有一个:这种语言以干净、数字化文本的形式存在于网络上的量很少。研究者正是依据这一点,把世界上的语言分成了不同等级,而最高等级和其余等级之间的差距极大(Joshi 等,2020)。
一种语言在网上越单薄,语料库就越会用能抓到的任何东西去填补,包括宗教翻译文本、政府公告,以及机器翻译(machine translation)出来的网页。一项对标准网络爬取多语言数据集的审计发现,低资源语料库存在系统性问题,其中好几个数据集里质量合格的句子还不到一半,另有几十个数据集的语言标签根本就是错的(Kreutzer 等,2022)。当一个模型用阿姆哈拉语回答你的服务对象时,垫在底下的,可能就是这样的材料。
因为这些文本不存在,公司就出钱去制造它们:扫描、转写、翻译、录音、书写这些缺失的语言。Meta 发布了一个覆盖 200 种语言的翻译模型(Meta AI, No Language Left Behind),Karya 这样的组织则付钱给印度农村的工人,让他们用自己的语言录制语音,再把这些数据集卖给大型科技公司(Karya)。这两件事同时都是真的。一种几乎没有数字记录的语言,可以因此拥有一份记录;而提供这份记录的人,通常只拿到按合同计算的报酬,对这份资源没有任何所有权,之后还要眼看着这项能力被卖回给他们自己。知情同意、报酬,以及语料库最终归谁所有,决定了这究竟是哪一种情况。
还有另一条独立的工作线,让模型变得"安全"又"讨人喜欢":给答案打分、给回答排出优劣、把暴力和色情内容从训练数据里过滤掉。这些工作大多用英语进行,并外包到英语普及、工资低廉的国家,而这种搭配之所以存在,源于殖民地时期留下的教育体系。有报道记录了肯尼亚工人以每小时约两美元的报酬,阅读创伤性内容,只为了让聊天机器人不会重复说出这些内容(Perrigo,2023),一项针对拉丁美洲数据标注平台的同行评审研究,也发现了同样的结构:生产数据的人,在这条链条里权力最小(Miceli 与 Posada,2022)。
已出版的材料,大多同样没有获得授权。作者们起诉 Anthropic,涉及数百万本书,其中既有从盗版图书馆里拉来的副本,也有公司买来后拆开、扫描的纸质书 (Washington Post,2026);那起案件以约 15 亿美元和解。以 New York Times 为首的多家报社仍在起诉 OpenAI(Reuters,2026)。已有一位联邦法官裁定,用合法获得的书籍进行训练属于合理使用,下载盗版书籍则不属于合理使用。其他案件仍未有定论,这笔账还没算清。
这里面贯穿着两种不公平,而且不是同一种。服务对象所说的语言,被排除在数据之外。让这个工具变得可用的劳动,是在和他们家乡很相似的地方,被低价买来的。
它耗费的电力和水
你得到的每一个答案,都是在某栋建筑里、在需要耗电和散热的硬件上算出来的。你单独一个问题很小,但支撑它的整套基础设施并不小。
这要用多少电
Google 测量了自己的助手,报告说一次典型的文字提问,大约耗电 0.24 瓦时、耗水 0.26 毫升,大致相当于看九秒电视,或者五滴水(Google,2025)。其他关于聊天机器人单次查询的估算,则接近 2.9 瓦时,大约是一次网络搜索的十倍(MIT Technology Review,2025)。不同估算之间能差出一个数量级,它们通常都没算上训练过程和硬件制造的耗能,而真正能把这个问题说清楚的公司,大多不公开数据。
2023 年,美国数据中心用掉了全国约 4.4% 的电力,而能源部下属的一家实验室预测,到 2028 年这个比例会升到 6.7% 到 12% 之间,AI 是主要推手(Lawrence Berkeley National Laboratory,2024)。你的一次提问,只是四舍五入时被抹掉的零头。真正促使一座发电厂被建起来的,是无数次提问累加起来的那条需求曲线。
一个要"思考"一分钟的推理模型(reasoning model)、一份被塞进大模型里处理的长文件、一张图片或一段视频,耗费都远远高于问轻量模型一个简单问题。除了速度和金钱之外,这是第三个理由,让你把轻量模型留作默认选项,只在需要时才特意换成重量级的那个。一个小模型专注做一件窄任务,在包括耗能在内的每一个维度上,都是最省的安排。
数据中心总要建在某个地方,而这个地方很少是富裕的。在孟菲斯,一家公司用几十台燃气轮机给一座 AI 数据中心供电,紧挨着一个历史上以黑人为主、原本污染负担就很重的社区,这引来了一起《清洁空气法》诉讼和有组织的社区反对(TIME,2025)。在圣地亚哥,居民对一项计划提出挑战,反对每天从一个已经吃紧的含水层抽取约 760 万升饮用水,环境法院随后把这座数据中心的许可退回重审(Municipality of Cerrillos v. Evaluation Commission,2024)。收益是全球性的,水却是当地的,而住在这些涡轮机旁边的人,本该由他们自己来决定这些设施建不建。
单靠一个人,能做的不多,但这不是别开眼睛不看的理由。工具真正派上用场时才用它,一份模板就能搞定的事就别用它。把轻量模型留作默认选项。你所在机构采购工具的时候,把这个问题也带进采购的讨论里,向供应商要具体数字。如果有人打算在你所服务的社区附近建数据中心,让居民真正有话语权,这才是重点,而不是走个过场。
为一次提问感到愧疚,改变不了什么;对整套基础设施视而不见,同样改变不了什么。问一问这个工具到底是为了什么用途,把它用得相称,并且留意到,承担这套基础设施本地代价的那些人,和你所服务的人,其实很像。
- 技能退化(deskilling)不是个人的过失。当一个工具接手了你原本靠练习维持的那部分工作时,这几乎是默认会发生的事,所以必须有意识地去设计对策来防止它。
- 供应商公布的能耗数字,是一个下限,不是全部。它通常没算上训练过程和芯片制造的耗能。
- 水耗数字和能耗数字,说的不是同一件事。有些只算了建筑本身用来散热的水,有些还把发电过程中用掉的水也算了进去。
- 开放权重(open weights)模型并不能抵消这一切。这些权重,依然是用同样的数据、由同样的劳动训练出来的。
- 服务对象可能比你更早提起这件事。"AI 偷了艺术家的作品"和"AI 靠廉价劳动力运转",这两种说法都离事实足够近,一口否认只会让你失去可信度。
用两句话说清楚
两人一组。一人扮演服务对象,问:"这东西不就是靠偷别人的劳动成果做出来的吗?"另一人用两句话如实回答,既不为这个行业辩护,也不假装自己没在用这个工具。然后交换角色,再问一次:"用这个东西,不会让你的工作能力变差吗?"没有人在找一套标准话术。你想听到的,是自己能说出一句关于你正在交给别人使用的这个工具的真话,这样第一次说出口,就不会是在服务对象面前。说完之后,回头看看一开始写下的那份担忧清单,标出这个模块回答了哪些。
本页引用来源
- Bastani, H., Bastani, O., Sungu, A., Ge, H., Kabakci, O., & Mariman, R. (2025). Generative AI without guardrails can harm learning: Evidence from high school mathematics. Proceedings of the National Academy of Sciences, 122(26). https://doi.org/10.1073/pnas.2422633122
- Budzyn, K., et al. (2025). Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: A multicentre, observational study. The Lancet Gastroenterology & Hepatology. https://www.thelancet.com/journals/langas/article/PIIS2468-1253(25)00133-5/abstract
- Google. (2025). Measuring the environmental impact of delivering AI at Google scale. arXiv:2508.15734. https://arxiv.org/abs/2508.15734
- Joshi, P., Santy, S., Budhiraja, A., Bali, K., & Choudhury, M. (2020). The state and fate of linguistic diversity and inclusion in the NLP world. Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, 6282-6293. https://doi.org/10.18653/v1/2020.acl-main.560
- Karya. Case studies: speech and text data collection in Indian languages. https://www.karya.in/
- Kreutzer, J., Caswell, I., Wang, L., Wahab, A., van Esch, D., Ulzii-Orshikh, N., et al. (2022). Quality at a glance: An audit of web-crawled multilingual datasets. Transactions of the Association for Computational Linguistics, 10, 50-72. https://doi.org/10.1162/tacl_a_00447
- Lawrence Berkeley National Laboratory. (2024). 2024 United States data center energy usage report. https://eta-publications.lbl.gov/sites/default/files/2024-12/lbnl-2024-united-states-data-center-energy-usage-report_1.pdf
- Lee, H.-P., Sarkar, A., Tankelevitch, L., Drosos, I., Rintel, S., Banks, R., & Wilson, N. (2025). The impact of generative AI on critical thinking: Self-reported reductions in cognitive effort and confidence effects from a survey of knowledge workers. Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems. https://doi.org/10.1145/3706598.3713778
- Meta AI. No Language Left Behind: Machine translation for 200 languages. https://ai.meta.com/research/no-language-left-behind/
- Miceli, M., & Posada, J. (2022). The data-production dispositif. Proceedings of the ACM on Human-Computer Interaction, 6(CSCW2), Article 460. https://doi.org/10.1145/3555561
- MIT Technology Review. (2025, August 21). In a first, Google has released data on how much energy an AI prompt uses. https://www.technologyreview.com/2025/08/21/1122288/google-gemini-ai-energy/
- Municipality of Cerrillos (Google Data Center) v. Evaluation Commission of the Metropolitan Region (2024). Climate Change Litigation Databases, Sabin Center for Climate Change Law. https://www.climatecasechart.com/document/municipality-of-cerrillos-google-data-center-v-evaluation-commission-of-the-metropolitan-region_7d3a
- Perrigo, B. (2023, January 18). Exclusive: OpenAI used Kenyan workers on less than $2 per hour to make ChatGPT less toxic. TIME. https://time.com/6247678/openai-chatgpt-kenya-workers/
- Reuters. (2026, July 9). New York Times-led group asks court to sanction OpenAI in US copyright dispute. https://www.reuters.com/legal/litigation/new-york-times-led-group-asks-court-sanction-openai-us-copyright-dispute-2026-07-09/
- TIME. (2025). Inside Memphis' battle against Elon Musk's xAI data center. https://time.com/7308925/elon-musk-memphis-ai-data-center/
- The Washington Post. (2026, January 27). Anthropic "destructively" scanned millions of books to build Claude. https://www.washingtonpost.com/technology/2026/01/27/anthropic-ai-scan-destroy-books/