简单说

把答案当作草稿，意思是把它当作一份有用的初稿去核实，而不是当作最终决定。草稿可以为你省时间，但也可能有错，所以在采取行动前，要确认其中重要的部分。这种阅读AI答案方式上的小转变，既能保护你，又不会让这个工具变得没用。

人们使用AI时遇到的大多数麻烦，都来自一个习惯：把答案当作最终定论来读。只要做出几个小小的改变，就能解决大部分问题。看答案之前先自己猜一猜，收到回答后把它当作草稿来看待。这两件事都不费额外的时间，做到之后，这个工具会既更安全，也更好用。

要点速览
  • 读AI的答案之前先自己猜一猜。如果答案和你的猜测不一致，就放慢脚步仔细核实。
  • 把AI的答案当作草稿，就像一位见多识广的邻居给的建议，重要的事情在行动前要再确认。
  • 要重点核实那些具体的、本地的、会变化的信息：电话号码、费用、营业时间，以及谁符合资格。

先自己猜一猜

在看AI的答案之前，花一秒钟问问自己预期是什么。比如你在问某家诊所是否接受你的保险，先停下来想一想：我原本认为答案是什么？然后再读AI的回答，把它和你的猜测比一比。

这个小小的步骤作用很大。如果答案和你预期的一致，你就可以更放心地往下走。如果它和你的猜测不一致，这个差距本身就是一个信号。这并不代表你是对的、AI是错的，也不代表相反，而是说明这一点值得在你行动之前再核实一下。一项关于人们借助AI助手做决策的研究发现，让人在看答案前先停下来自己想一想的这个小步骤，能降低仅仅因为答案听起来很自信就盲目采信错误答案的可能性（Buçinca et al., 2021）。

把答案当作草稿来看待

把AI的回答想象成一位见多识广的邻居给你的建议。这位邻居亲身经历过这套系统，出于好意，也确实能替你省下不少时间。但这位邻居也可能信息过时，或者自己的情况说对了，但用在你身上就不一定合适。你会乐意接受邻居的帮助，但在签字或错过截止日期之前，还是会去确认重要的事情。

对待AI的回答，也应该抱着同样的心态。它是一份很不错的初稿：一个你可以在此基础上斟酌、质疑、核实的起点。把它当作草稿来看待，一旦有错误，你就会在“修改”阶段发现，而不是等到已经照着做了才发现。

处理草稿的一个好方法，是在采取行动前，先用自己的话把答案复述一遍。用自己的理解把答案重新说一次，往往能立刻暴露出遗漏或错误的假设。本指南结尾附近有一个简单的复述小流程可以参考。

现在就试试。想一个你对自己的医疗照护存有疑问的问题。在输入之前，先用一句话把你自己的猜测说出来。然后再去问聊天机器人，把两者做个比较。如果答案让你感到意外，那正是需要找人再核实一下的地方。

AI说“我不确定”是一个好信号

你可能以为一个有用的工具应该总是显得很有把握。事实恰恰相反。当AI说“我不确定”或者“这个可能会因情况而异，请再确认一下”这类话时，它其实是在诚实地告诉你，它的答案在哪里可能不牢靠。一项关于人们使用AI搜索工具回答医疗问题的研究发现，当工具用明确的语言表达自己的不确定性时，人们对错误答案的依赖会降低，对答案的判断也会更准确（Kim et al., 2024）。“不确定”其实是一个对你有帮助的特性，看到它时应该欢迎，而对那些对具体、本地或会变化的信息说得很笃定的答案，则要多留一个心眼。

AI说“我不确定”是一个好信号

当AI说自己不确定，或者说某件事可能因情况而异时，它其实是在告诉你它的答案哪里可能不牢靠。要欢迎这种坦诚，并对那些看起来很笃定地谈论具体或会变化的信息的答案多加小心。

双向的信任

明智地使用AI，关键在于让你的信任程度和实际情况相匹配，而这是双向的。

一方面，不要完全相信AI告诉你的一切。一个表达流畅、语气自信的答案，仍然可能是错的，尤其是在电话号码、地址、费用和资格规定这类信息上。关于何时以及如何核实，可参见《AI也会出错》和《安全地使用AI了解你的健康》。

另一方面，也不要一概不信。有些人听说AI会出错，就干脆认为它整体上不可信。这样做会让你错失真正有用的帮助。有一项研究发现，同样的一份医疗建议，人们仅仅因为被告知这是AI给出的，就会认为它不那么可靠，也更不愿意照着做（Reis et al., 2024）。在指路、解释一个让人费解的词语、帮你起草要说的话、帮你准备就诊等方面，AI确实很有用。目标不是害怕它，也不是盲目依赖它，而是在它擅长的地方用好它，在重要的事情上让真人参与进来。本指南接下来会给你一些具体的工具：哪些信息要重点核实、怎么核实、接下来该问什么，以及怎么复述确认。

哪些信息最不可靠

不是所有信息的风险都一样。那些笼统的、比较稳定的解释性内容最安全。如果你问什么是共付额（copay），或者“转诊”（referral）这个词是什么意思，AI的答案通常是靠谱的，因为这类信息不会随着一周一周、一个城镇换一个城镇而改变。

最不可靠的信息，是那些具体的、本地的、会变化的内容。以下这些每次都要重点核实：

  • 电话号码和地址。这类小细节很容易出一点小差错。
  • 费用和共付额。这些取决于你的保险计划，而且经常变动。
  • 营业时间和等待时间。诊所这个月的具体安排，AI是不可能知道的。
  • 谁符合资格。资格规定很细致，因地而异，而且会变化。
  • 某家诊所是否接受你这一份保险计划。这相当于同时涉及两个会变化的信息，需要真正核实一下。

一个简单的判断原则：一个信息越是和某个具体地点、具体保险计划或“现在”绑定，就越值得打一个电话去确认。这也正是过度依赖AI最容易造成伤害的地方。研究人员把这种现象称为“自动化偏见”（automation bias），指人们即便本来花点时间就能发现问题，也会不加核实地直接采信自动化工具给出的答案，这是一种有据可查的普遍倾向；一项针对医疗领域的系统综述发现，这种倾向真实存在且相当常见（Goddard et al., 2012）。了解哪些信息风险高，能帮你决定把有限的那通电话用在哪里。

采取行动前，如何核实一条信息

大多数情况下，你并不需要核实整个答案，而只需要核实你下一步行动所依赖的那一条小信息。以下是一个每次都可以用的小流程：

找出那一条关键信息你要据以行动的那部分：一个号码、一个费用、一条规定
问问它的出处“有没有官方页面可以让我核实一下？”
到源头去确认打电话、打开官方网站，或者问一位医疗工作者
大多数情况下，你只需要核实一条小信息，而不是整个答案。

下面是三个真实的例子，来自人们在寻求心理健康服务时会用到的具体步骤。

这家诊所接受我的保险吗？AI告诉你附近有一家诊所接受你的保险计划。这是一条有用的线索，但也可能已经过时，因为诊所接受哪些保险计划是会变化的。把它当作草稿，然后用两种方式来确认：查看该诊所自己的官方网站，并给诊所打电话，把保险计划的名称和保险卡上的会员编号（member ID）念给对方听。可以问：“作为新病人，你们接受这个保险计划吗？”真正可以据以行动的答案，是诊所在电话里给你的答案。

这个电话号码对吗？AI给了你一个诊所或危机热线的电话号码。电话号码恰恰是AI最容易出错或搞混的那种细小而具体的信息。在你把它存下来之前，先在诊所的官方网站上找找同一个号码。如果两者对不上，以官方网站为准。有一个号码你永远不用去查证：在美国，要联系自杀与危机生命热线（Suicide and Crisis Lifeline），可以拨打或发短信到988。

我符合这个项目的资格吗？AI说有一个低收费或按收入浮动收费（sliding scale）的项目，你符合条件。资格规定因地而异、内容详细，而且会变化，所以这只是一份草稿，不能当作确定的答案。可以进一步追问：“具体的资格规定是什么？我需要带哪些材料？”然后在你抱有期待或者填写一份长长的表格之前，先向该项目本身确认这些规定。

留意一下这三个例子里共同的模式：AI很擅长给你指出一个方向，而真正让这条信息可以放心据以行动的，是一个真人或者一个官方页面。

值得追问AI的好问题

只要你继续追问，AI的答案往往会变得更完善。你不必接受它给出的第一个回答。以下这些追问方式，几乎适用于任何关于就医的问题：

  • “这个信息是从哪里来的？有没有官方网站可以让我核实？”
  • “你对这个答案有多大把握？什么情况下它可能是错的？”
  • “这个信息可能是什么时候发生变化的？”
  • “我需要带什么，或者提前准备好什么？”
  • “打电话给诊所的时候，问什么问题比较合适？”
  • “你能用更简单的话再说一遍吗？”
  • “有没有我没想到、但应该问的问题？”

最后这一句其实很有力量。它是在请AI帮你补上你自己计划里没考虑到的空缺，而这恰恰是AI最擅长的事情之一。

用一句话复述确认

发现问题最快的方法，就是在采取行动之前，先用自己的话把答案复述一遍。等AI回答完，把下面这句话补充完整，可以说出声，也可以打在聊天框里：

“所以你的意思是……”

然后把你复述的这句话读给AI听，问一句：“我理解得对吗？”这样会带来两个好处。如果你理解错了答案，你现在就能发现，而不是等到了诊所门口才发现。而且，如果答案本身就不太牢靠，用平实的话复述一遍，往往会让薄弱之处显现出来。这和你跟护士或个案管理员打交道时会用的做法是一样的：复述一遍，确认无误后再离开。

练习一下这个核实方法。选一家你感兴趣的诊所或项目。问AI它的电话号码，以及是否接受你的保险。然后在诊所自己的官方网站上找到同一个电话号码，再打电话确认保险的问题。这个简短的循环，就是这个习惯的全部内容。

Sources

  • Buçinca, Z., Malaya, M. B., & Gajos, K. Z. (2021). To trust or to think: Cognitive forcing functions can reduce overreliance on AI in AI-assisted decision-making. Proceedings of the ACM on Human-Computer Interaction, 5(CSCW1), Article 188. https://doi.org/10.1145/3449287.
  • Goddard, K., Roudsari, A., & Wyatt, J. C. (2012). Automation bias: A systematic review of frequency, effect mediators, and mitigators. Journal of the American Medical Informatics Association, 19(1), 121–127. https://doi.org/10.1136/amiajnl-2011-000089.
  • Kim, S. S. Y., Liao, Q. V., Vorvoreanu, M., Ballard, S., & Vaughan, J. W. (2024). “I’m not sure, but…”: Examining the impact of large language models’ uncertainty expression on user reliance and trust. In Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency (FAccT ‘24). Association for Computing Machinery. https://doi.org/10.1145/3630106.3658941.
  • Reis, M., Reis, F., & Kunde, W. (2024). Influence of believed AI involvement on the perception of digital medical advice. Nature Medicine, 30(11), 3098–3100. https://doi.org/10.1038/s41591-024-03180-7.

LINC是一个研究性原型项目，不是医疗或法律服务。翻译内容可能有误；你有权获得免费的、合格的专业口译员协助。凡是涉及重大利害的事情，请与社区健康工作者或你信任的人一起处理。如遇危机，请拨打或发短信至988；如有生命危险，请拨打911。