사람들이 AI를 사용하면서 겪는 문제의 대부분은 하나의 습관에서 비롯됩니다. 바로 답변을 마치 최종 결론인 것처럼 읽는 습관입니다. 몇 가지 작은 변화만으로 이 문제의 대부분을 해결할 수 있습니다. 답변을 보기 전에 스스로 먼저 짐작해 보고, 돌아온 답변은 초안으로 다루십시오. 두 가지 모두 추가로 시간이 들지 않으며, 함께 실천하면 이 도구를 더 안전하고 더 유용하게 만들어 줍니다.

먼저 스스로 짐작해보기

AI의 답변을 읽기 전에 잠시 멈추고 자신이 무엇을 예상하고 있는지 생각해 보십시오. 예를 들어 어떤 병원이 내 보험을 받는지 묻고 있다면, 잠시 멈춰서 “내가 이미 알고 있다고 믿는 것은 무엇인가?”를 생각해 보십시오. 그런 다음 답변을 읽고 자신의 짐작과 비교하십시오.

이 작은 단계는 강력한 효과를 냅니다. 답변이 예상과 일치하면 더 확신을 가지고 다음 단계로 나아갈 수 있습니다. 답변이 짐작과 다르면, 그 차이 자체가 신호입니다. 그것이 내가 옳고 AI가 틀렸다거나 그 반대라는 뜻은 아닙니다. 다만 행동하기 전에 확인해 볼 가치가 있는 지점이라는 뜻입니다. AI 도우미와 함께 결정을 내리는 사람들을 대상으로 한 연구에 따르면, 답변을 보기 전에 스스로 잠시 멈춰 생각하게 하는 작은 장치가 있으면 답변이 자신 있게 들린다는 이유만으로 틀린 답을 그대로 따라갈 가능성이 줄어드는 것으로 나타났습니다 (Buçinca et al., 2021).

답변을 초안으로 다루기

AI의 답변을 잘 아는 이웃의 조언처럼 생각해 보십시오. 이웃은 그 시스템을 직접 겪어보았고, 선의로 말해 주며, 실제로 시간을 크게 아껴줄 수 있습니다. 하지만 그 이웃의 정보도 오래되었을 수 있고, 자신의 경우에는 맞았지만 내 경우에는 맞지 않을 수도 있습니다. 그럴 때 우리는 기꺼이 그 도움을 받아들이면서도, 서류에 서명하거나 마감을 놓치기 전에는 중요한 부분을 반드시 확인합니다.

AI의 답변도 같은 방식으로 대해야 합니다. 그것은 훌륭한 첫 초안, 즉 다듬고 질문하고 확인할 수 있는 출발점입니다. 답변을 초안으로 다루면, 실수는 행동에 옮긴 뒤에 발견하는 것이 아니라 검토 단계에서 미리 잡아낼 수 있는 것이 됩니다.

초안을 다루는 좋은 방법은 행동으로 옮기기 전에 그 내용을 자신의 말로 되짚어 말해 보는 것입니다. 답변을 자신의 이해를 거쳐 다시 표현해 보면 종종 빠진 부분이나 잘못된 가정이 즉시 드러납니다. 이 안내서의 마지막 부분에 이를 위한 간단한 방법을 소개합니다.

”잘 모르겠습니다”는 좋은 신호입니다

도움이 되는 도구라면 항상 자신 있게 말할 것이라고 기대할 수 있습니다. 하지만 실제로는 그 반대입니다. AI가 “잘 모르겠습니다” 또는 “이 부분은 상황에 따라 다를 수 있으니 확인해 보십시오”라고 말한다면, 그것은 자신의 답변이 어디에서 불확실한지를 솔직하게 알려주는 것입니다. AI 검색 도구를 사용해 의료 관련 질문에 답하는 사람들을 대상으로 한 연구에 따르면, 도구가 자신의 불확실성을 평이한 말로 표현했을 때 사람들은 틀린 답에 덜 의존했고, 답변을 더 정확하게 판단했습니다 (Kim et al., 2024). 불확실성은 오히려 사용자를 돕는 특징이므로, 그런 표현을 보면 반갑게 받아들이고, 반대로 구체적이거나 지역적이거나 자주 바뀌는 정보에 대해 자신 있게 들리는 답변에는 조금 더 조심하십시오.

양방향으로 작동하는 신뢰

AI를 현명하게 사용한다는 것은 상황에 맞게 신뢰의 정도를 조절하는 것이며, 이는 양방향으로 작동합니다.

한 방향으로는, 모든 것을 믿어서는 안 됩니다. 유창하고 자신 있게 들리는 답변도 틀릴 수 있으며, 특히 전화번호, 주소, 비용, 자격 요건에 관한 내용이 그렇습니다. 언제 어떻게 확인해야 하는지는 AI가 틀릴 수 있습니다와 건강을 위해 AI를 안전하게 사용하기를 참고하십시오.

다른 방향으로는, 모든 것을 무시해서도 안 됩니다. 어떤 사람들은 AI가 실수를 한다는 이야기를 듣고 전체를 신뢰할 수 없다고 판단합니다. 그렇게 하면 실제로 받을 수 있었던 도움을 놓치게 됩니다. 한 연구에서는 완전히 같은 의료 조언인데도 그것이 AI에서 나왔다는 말을 들은 사람들이 그 조언을 덜 신뢰하고 덜 따르려 하는 것으로 나타났습니다 (Reis et al., 2024). 길 안내, 헷갈리는 용어 설명, 할 말 초안 작성, 진료 준비에서는 AI가 실제로 유용합니다. 목표는 AI를 두려워하는 것도 아니고 맹목적으로 의존하는 것도 아닙니다. AI가 잘하는 일에는 AI를 활용하고, 중요한 일에는 사람을 함께 참여시키는 것이 목표입니다. 이 안내서의 나머지 부분에서는 어떤 정보를 다시 확인해야 하는지, 어떻게 확인하는지, 다음에 무엇을 물어야 하는지, 그리고 어떻게 되짚어 말하는지에 대한 구체적인 방법을 안내합니다.

신뢰하기에 가장 위험한 정보는 무엇인가

모든 정보가 같은 위험을 지니고 있는 것은 아닙니다. 일반적이고 변하지 않는 설명이 가장 안전합니다. 예를 들어 “본인부담금(copay)이 무엇인가요?”나 “‘의뢰(referral)‘라는 말이 무슨 뜻인가요?”를 묻는다면 AI의 답변은 대체로 믿을 만합니다. 이런 정보는 주마다, 지역마다 달라지지 않기 때문입니다.

가장 위험한 정보는 구체적이고 지역적이며 자주 바뀌는 정보입니다. 다음은 매번 다시 확인해야 할 항목들입니다.

• 전화번호와 주소. 작은 실수가 생기기 쉬운 세부 정보입니다.
• 비용과 코페이. 가입한 보험에 따라 다르며 자주 바뀝니다.
• 운영 시간과 대기 시간. 이번 달 병원의 일정을 AI가 알 방법은 없습니다.
• 누가 자격이 되는가. 자격 요건은 세부적이고, 지역마다 다르며, 계속 바뀝니다.
• 특정 병원이 내 보험을 받아 주는지. 이는 두 가지 변하는 정보가 동시에 겹치는 경우이므로 반드시 실제로 확인해야 합니다.

간단한 기준을 하나 소개하면, 어떤 정보가 특정 장소, 특정 보험, 또는 지금 이 순간과 관련될수록 전화 한 통을 걸어 확인할 가치가 있다는 것입니다. 바로 이 지점에서 AI를 지나치게 신뢰할 때 가장 큰 피해가 생깁니다. 연구자들은 이를 자동화 편향(automation bias)이라고 부르는데, 이는 자동화된 도구의 답변을 잠깐만 확인해도 실수를 잡아낼 수 있는 상황에서조차 확인 없이 그대로 받아들이는, 이미 잘 알려진 경향입니다. 의료 분야의 한 체계적 문헌고찰에서는 이러한 경향이 실제로 흔하게 나타난다는 것을 확인했습니다 (Goddard et al., 2012). 어떤 정보가 위험한지 아는 것이 바로 하나뿐인 확인 전화를 어디에 써야 할지 판단하는 방법입니다.

행동하기 전에 정보 하나를 확인하는 방법

대부분의 경우 우리는 답변 전체를 확인하는 것이 아니라, 다음 행동이 달려 있는 작은 정보 하나를 확인하는 것입니다. 매번 사용할 수 있는 방법은 다음과 같습니다.

정신건강 진료를 받기 위해 실제로 사람들이 거치는 단계에서 나온 세 가지 예를 소개합니다.

이 병원이 내 보험을 받나요? AI가 근처 병원이 내 보험을 받는다고 답했다고 합시다. 이는 유용한 실마리이지만, 병원이 받는 보험 목록은 자주 바뀌기 때문에 오래된 정보일 수도 있습니다. 이를 초안으로 다루십시오. 그런 다음 두 가지 방법으로 확인하십시오. 병원의 공식 웹사이트를 확인하고, 병원에 직접 전화해 보험카드에 적힌 보험 이름과 회원 번호를 알려주십시오. “신규 환자로 이 보험을 받으시나요?”라고 물어보십시오. 실제로 행동에 옮길 수 있는 답은 병원이 전화로 직접 알려준 답입니다.

이 전화번호가 맞나요? AI가 병원이나 위기상담 전화의 번호를 알려줍니다. 전화번호는 AI가 틀리거나 혼동하기 쉬운 대표적인 작은 구체적 정보입니다. 저장하기 전에 병원의 공식 웹사이트에서 같은 번호를 확인하십시오. 두 번호가 다르다면 웹사이트를 믿으십시오. 절대 따로 찾아볼 필요가 없는 번호가 하나 있습니다. 미국에서 자살예방 및 위기상담전화(Suicide and Crisis Lifeline)에 연락하려면 988로 전화하거나 문자를 보내면 됩니다.

제가 이 프로그램의 대상이 되나요? AI가 저비용 또는 소득에 따라 비용이 조정되는(sliding-scale) 프로그램의 대상이 된다고 답했다고 합시다. 자격 요건은 지역마다 다르고 세부적이며 계속 바뀌므로, 이는 최종 답이 아니라 초안입니다. 다음과 같이 후속 질문을 해보십시오. “정확한 자격 요건은 무엇이고, 무엇을 준비해서 가야 하나요?” 그런 다음 기대를 품거나 긴 신청서를 작성하기 전에 프로그램 담당 기관에 직접 그 요건을 확인하십시오.

세 가지 예에서 같은 패턴이 보입니다. AI는 방향을 알려주는 데 능합니다. 그 정보를 실제로 행동에 옮겨도 안전하게 만드는 것은 사람이나 공식 페이지입니다.

AI에게 물어볼 만한 좋은 후속 질문

AI의 답변은 계속 질문할수록 더 나아집니다. 첫 번째 답변을 그대로 받아들일 필요는 없습니다. 다음 후속 질문들은 진료를 받는 것과 관련된 거의 모든 질문에 사용할 수 있습니다.

• “이 정보의 출처는 무엇인가요? 확인할 수 있는 공식 웹사이트가 있나요?”
• “이 답변에 얼마나 확신이 있나요, 그리고 무엇 때문에 틀릴 수 있나요?”
• “이 정보가 언제쯤 바뀌었을 수 있나요?”
• “무엇을 챙기거나 준비해 가야 하나요?”
• “병원에 전화할 때 물어보면 좋을 질문이 무엇인가요?”
• “그 내용을 더 쉬운 말로 다시 설명해 주시겠어요?”
• “제가 미처 생각하지 못하고 있는, 물어봐야 할 것이 있나요?”

마지막 질문은 조용하지만 강력한 힘을 가지고 있습니다. 이는 AI에게 나의 계획에서 빠진 부분을 채워달라고 요청하는 것이며, 이는 AI가 가장 잘하는 일 중 하나입니다.

한 문장으로 되짚어 말하기

문제를 가장 빨리 잡아내는 방법은 행동에 옮기기 전에 그 답변을 자신의 말로 표현해 보는 것입니다. AI가 답변한 뒤, 다음 문장을 소리 내어 말하거나 채팅창에 입력해 완성해 보십시오.

“그러니까 말씀하시는 것은…”

그런 다음 자신이 정리한 내용을 AI에게 다시 읽어 주고 “제가 제대로 이해한 게 맞나요?”라고 물어보십시오. 이렇게 하면 좋은 일이 두 가지 생깁니다. 답변을 잘못 이해했다면 병원 문 앞에 가서가 아니라 지금 바로 잡아낼 수 있습니다. 그리고 답변 자체가 불확실했다면, 평이한 말로 되짚어 말하는 과정에서 그 약한 부분이 종종 드러납니다. 이는 간호사나 사례관리자와 이야기할 때 사용하는 것과 같은 방법입니다. 들은 내용을 다시 말해 보고, 자리를 뜨기 전에 확인하는 것입니다.

출처

• Buçinca, Z., Malaya, M. B., & Gajos, K. Z. (2021). To trust or to think: Cognitive forcing functions can reduce overreliance on AI in AI-assisted decision-making. Proceedings of the ACM on Human-Computer Interaction, 5(CSCW1), Article 188. https://doi.org/10.1145/3449287.
• Goddard, K., Roudsari, A., & Wyatt, J. C. (2012). Automation bias: A systematic review of frequency, effect mediators, and mitigators. Journal of the American Medical Informatics Association, 19(1), 121–127. https://doi.org/10.1136/amiajnl-2011-000089.
• Kim, S. S. Y., Liao, Q. V., Vorvoreanu, M., Ballard, S., & Vaughan, J. W. (2024). “I’m not sure, but…”: Examining the impact of large language models’ uncertainty expression on user reliance and trust. In Proceedings of the 2024 ACM Conference on Fairness, Accountability, and Transparency (FAccT ‘24). Association for Computing Machinery. https://doi.org/10.1145/3630106.3658941.
• Reis, M., Reis, F., & Kunde, W. (2024). Influence of believed AI involvement on the perception of digital medical advice. Nature Medicine, 30(11), 3098–3100. https://doi.org/10.1038/s41591-024-03180-7.

LINC는 연구용 시제품이며 의료 또는 법률 서비스가 아닙니다. 번역에는 오류가 있을 수 있으며, 이용자는 무료로 자격을 갖춘 통역사를 요청할 권리가 있습니다. 중요한 결정이 걸린 사안은 지역사회 보건요원이나 신뢰할 수 있는 사람과 함께 진행하십시오. 위기 상황에서는 988로 전화하거나 문자를 보내고, 즉각적인 위험이 있는 경우에는 911에 연락하십시오.