简单说

一份绿、黄、红分区指南,按照出错的代价大小来给不同的事情分类。绿色表示聊天机器人很适合做这件事,因为一旦出错您能及时发现并纠正。黄色表示聊天机器人可以帮忙,但重要细节必须找真人核实。红色表示这个决定太重要,AI做不了,每次都必须交给专业人员。

AI聊天机器人有些事情很适合做,有些事情却不适合。与其每次都要靠猜测,不如把您需要做的事分成几个区域:绿色、黄色和红色。分区背后的原则很简单:出错的代价越大,就越需要真人参与。

概览
  • 绿色任务,比如查路线、准备问题或写初稿,很适合交给AI来做,因为出错也容易发现。
  • 黄色任务,比如总结您自己的文件,AI可以帮忙,但要向真人核实细节后才能用。
  • 红色任务,比如诊断、用药决定、法律建议,或者任何您要签字的文件,永远只能交给专业人员。
  • 危机永远需要真人处理:拨打或发短信至988,如有紧急危险请拨打911。
绿色适合用AI;出错容易纠正
黄色可以用AI,但要向真人核实细节
红色永远交给真人
出错的代价越大,就越需要真人参与。

绿色:适合交给AI来做

这些任务出错时很容易发现,也容易在造成影响之前纠正过来。在这个区域,您可以放心使用聊天机器人。

  • 查路线和了解大致步骤,比如第一次做心理治疗一般会经历什么流程。
  • 准备就诊时要问的问题
  • 理解某个术语或大致主题,比如”按收入浮动收费”或”转诊”是什么意思。
  • 起草您想说的话,比如打电话给诊所的说辞脚本,或者写给医疗服务提供者的邮件。
  • 练习一段较难开口的对话,比如怎样告诉前台您需要口译员,或者怎样向老板请假,这样等真正说出口时,措辞已经准备好了。

如果您告诉聊天机器人您是谁、需要什么,得到的答案会更好。像”帮我写三句话,用简单易懂的语言,我可以在打给诊所时说,请求安排一位治疗师和一位[您的语言]口译员”这样具体的请求,效果会比一句话的笼统问题好得多。在绿色区域里,主动权始终在您手中:您来阅读草稿,决定保留哪些内容,只有您决定行动,事情才会发生。

黄色:可以用AI,但要核实细节

这些任务用AI来做会有帮助,但其中包含的具体细节,在您依赖之前需要再核实一遍。

  • 总结您自己的文件,比如用通俗语言解释一封信或一份表格。总结是一个有用的起点,但其中的数字、日期、金额和截止日期,恰恰是AI最容易出错的地方。
  • 本地信息,比如哪家诊所接受您的保险,或某个项目现在的费用是多少。

黄色区域的做法很简单:先用聊天机器人了解大致情况,然后在行动之前,通过官方页面或真人确认重要细节。检验自己是否理解正确的一个好办法,是用自己的话把总结复述一遍,然后问社区健康工作者(community health worker)或口译员:“我理解得对吗?“关于如何发现错误,可参见AI也会出错

现在就试试。想一件您本来打算问聊天机器人的事情。大声说出它属于哪个区域:绿色、黄色,还是红色。如果是黄色或红色,说出您会去核实的那个具体的人。整个判断过程,十秒钟就能完成。

红色:永远交给真人

有些决定太重要了,不能仅凭聊天机器人的回答来做,不管它听起来多么有条理。这些事情每次都应该交给专业人员。

  • 诊断。 只有了解您完整病史的持证临床医生(clinician)才能告诉您到底是什么情况。
  • 用药决定。 开始、停止或更改用药,是需要临床医生与您共同做出的决定。
  • 法律或移民建议。 这些事请交给律师或获得认证的法律援助代表,他们受保密义务约束。
  • 任何您要签字的文件,比如同意书或保险申诉书。在签字之前,您有权获得免费、合格的口译员协助。参见您获得口译员协助的权利
  • 危机情况。 见下一节。

危机永远需要真人处理

如果您处于危险中、有伤害自己的念头,或正经历危机,请不要求助于AI。直接联系真人。

如果您正处于危机中

请不要求助于AI。请拨打、发短信或在线联系988自杀与危机生命线(Suicide and Crisis Lifeline),全天24小时免费保密服务。按2键选择西班牙语,或者留在线上请求口译员协助。如有紧急人身危险,请拨打911。

  • 拨打、发短信或在线联系988,即自杀与危机生命线。此服务免费、保密,每天24小时全年无休。您可以拨打或发短信至988,或访问988lifeline.org在线联系。按2键选择西班牙语,或发短信”AYUDA”至988。如需其他语言服务,请留在线上请求口译员,988可以为来电者提供240多种语言的口译协助。退伍军人和现役军人可按1键。如果您使用美国手语,可以通过视频电话连接(SAMHSA,美国药物滥用和精神卫生服务管理局)。
  • 如有紧急人身危险,请拨打911。

988不仅仅用于应对自杀念头。您也可以因为焦虑、抑郁、深切的孤独感、创伤的影响、物质使用问题,或者只是需要找人说说话而拨打这个号码。您也可以为您担心的其他人打这个电话。受过培训的咨询师会先问几个问题以确认您的安全,然后不加评判地倾听您的诉说(SAMHSA)。

很多人担心打这个电话会招来警察。生命线表示,他们的咨询师会尽量用最不强制的方式来帮助您,对大多数来电者来说,咨询师可以直接在通话、短信或在线聊天中提供帮助。只有在有人面临即时的人身安全威胁时,他们才会联系911(SAMHSA)。您不必透露自己的姓名,也不必说明自己的移民身份。

聊天机器人对处于危机中的人的回应,质量并不稳定。研究人员将聊天机器人的回答与专业临床医生的判断进行比较后发现,对于风险最低和风险最高的问题,聊天机器人的判断与专业人员比较一致,但对于风险处于中间水平的问题,聊天机器人的判断最不稳定(McBain et al., 2025),而这恰恰是错误回答最危险的地方。这就是为什么危机情况每次都要转交给受过训练的真人处理。如果您拿不准,请当作危机情况处理,拨打988。

拿不准该归哪个区域时

如果您无法判断一件事属于黄色还是红色,请按更谨慎的那个区域来处理,交给真人来做。向社区健康工作者或口译员核实一下,付出的代价很小;而如果对一个高风险问题依据错误答案采取行动,代价可能非常大。拿不准的时候,先用AI做准备,再由真人来做决定。

我告诉聊天机器人的内容私密吗?

请把聊天机器人当作一个公共场所来对待,而不是诊所。根据一项名为HIPAA(《健康保险流通与责任法案》)的联邦法律,医生、诊所和治疗师必须对您告诉他们的内容保密。而普通的聊天机器人不是您的医生,也不受这项法律约束,所以您输入的内容可能会被保存下来,用于改进这个工具。参见您的隐私:谁能看到您的心理健康记录

需要了解

请把聊天机器人当作一个公共场所来对待,而不是诊所。普通聊天机器人不受HIPAA保护,您输入的内容可能会被保存下来。如果您只是想了解一般信息,请不要输入能识别出您身份的具体细节。

一个安全的习惯是:当您只是想了解一般信息时,不要提供能识别出您身份的细节。您可以问:“第一次做心理治疗一般会经历什么?“而不必输入您的全名、住址、出生日期或移民身份。把这些私密的细节留给真正在帮助您的人,比如您的医疗服务提供者、社区健康工作者,或口译员。

到哪里能找到真人帮助

当一件事属于黄色或红色区域时,您不必自己去找该找的人。下面这些联系方式都是免费的,大多数还提供您所用语言的服务。

  • 拨打、发短信或在线联系988,即自杀与危机生命线,全天24小时随时可用。按2键选择西班牙语,或留在线上说明您需要的语言;该服务可提供240多种语言的口译协助。
  • 如有紧急人身危险,请拨打911。
  • 拨打211,联系本地求助热线,可为您接通心理咨询、食物、住房及其他方面的帮助。这项服务免费保密,覆盖美国99%的地区,并提供180多种语言的服务(美国联合之路(United Way),211项目)。您可以随时拨打,很多地区也支持全天候发短信或在线聊天。您不必透露自己的姓名。
  • 寻找习惯与口译员合作的低成本诊所,请访问findahealthcenter.hrsa.gov。社区健康中心(community health center,即FQHC,联邦认定的合格医疗中心)会根据您的支付能力按浮动比例收费,无论您的支付能力或移民身份如何,都会为您提供服务。
  • 查找心理健康或物质使用治疗服务,请访问联邦免费工具findtreatment.gov
  • 联系NAMI(美国精神疾病联盟)求助热线获取信息和支持,电话1-800-950-6264,或发短信”NAMI”至62640,服务时间为周一至周五东部时间上午10点至晚上10点。详情请见nami.org

在您拨打这些电话时,可以请社区健康工作者、个案管理员,或您信任的人陪在身边。提出这样的请求是很正常、很合理的事情。

Sources


LINC是一个研究性原型工具,不是医疗或法律服务。翻译可能出错;您有权获得免费、合格的口译员协助。对于任何高风险的事情,请与社区健康工作者或您信任的人一起处理。如遇危机,请拨打或发短信至988,如有紧急危险请拨打911