AI가 할 수 있는 일과 할 수 없는 일
지역사회 보건요원, 그리고 지역사회 보건요원을 통해 내담자에게 현실적인 기대치를 세워 주십시오. 내비게이션에서 AI가 실제로 유용한 부분은 무엇이고, 어디에서 실패하며, 확신에 찬 오답을 어떻게 알아채는지를 다룹니다.
학습 목표
이 모듈을 마치면 지역사회 보건요원은 다음을 할 수 있습니다.
- AI가 내비게이션에서 잘하는 일과 잘 못하는 일을 구분하여 말할 수 있습니다.
- 챗봇이 확신에 찬 것처럼 들리면서도 틀릴 수 있는 이유를 쉬운 말로 설명할 수 있습니다.
- AI 답변이 잘못되었을 수 있다는 신호를 알아채는 방법을 내담자에게 보여줄 수 있습니다.
- 상급 보고의 기본 태도를 말할 수 있습니다. 즉 확신이 서지 않을 때는 행동하기 전에 사람에게 확인한다는 원칙입니다.
진행자 개요
여러분은 이 자리의 AI 전문가가 아닙니다. 여러분은 신중하게 확인하는 모습을 보여 주는 사람입니다. 이 점을 말로 분명히 밝히고 시작하십시오.
전화 대본 초안 작성, 편지 내용의 대략적인 번역, 용어 설명, 의료 제공자에게 물어볼 질문 목록 작성, 다음 단계 정리입니다. 이는 모두 행정적인 일과 자기 옹호에 해당하는 과제이며, 진단이나 치료는 결코 아닙니다.
AI는 사실, 출처, 전화번호, 진료소 정보를 지어내면서도 확신에 차서 말할 수 있습니다. 지역적이고 최신이며 개인적인 세부 사항은 알지 못합니다. 내담자의 언어에서는 더 부정확할 수 있습니다. 이 패턴을 가리키는 쉬운 표현을 소개하십시오. 도구가 유창하게 추측한다는 것입니다.
아래의 "용량을 줄인" 예시를 함께 다루면서 미리 심어 둔 오류를 드러내고, 그 오류를 잡아낸 확인 절차를 복기하십시오.
나머지 교육 전체가 바탕으로 삼는 반사적 습관을 세우십시오. 임상, 법률, 금전, 안전과 관련된 일이라면 무엇이든 행동하기 전에 사람에게 확인한다는 것입니다. 상급 보고 카드를 미리 소개하십시오.
핵심 교육 요점
AI를 빠르고 자신감 있는 조력자로 소개하십시오. 일반적인 사항에는 대체로 맞고, 구체적인 사항에는 때때로 틀립니다. 내담자에게 가장 중요한 실패는 유창하고 확신에 찬 답변이 사실은 단순히 틀린 경우입니다. 지어낸 진료소 전화번호, 존재하지 않는 자격 규정, 처방된 적 없는 용량이 그 예입니다. 내담자는 답변이 어떻게 들리는지로는 진짜 답변과 지어낸 답변을 구분할 수 없습니다. 들리는 방식이 똑같기 때문입니다. 그러므로 필요한 기술은 "더 자세히 살펴서 가짜를 잡아낸다"가 아닙니다. 필요한 것은 하나의 습관입니다. 중요한 사항이라면 그 답변을 그대로 두고, 다른 곳에서도 같은 말을 하는지 확인하거나 사람에게 확인하는 것입니다.
차분한 어조를 유지하십시오. 목표는 내담자가 이미 매일 사용하고 있는 도구를 무서워하며 멀리하게 만드는 것이 아닙니다. 목표는 올바른 용도로는 사용하고 올바르지 않은 용도에서는 한 걸음 물러나도록 돕는 것입니다.
짧은 "오류를 찾은 다음 답을 확인하는" 연습은 좋은 정보와 나쁜 정보를 구별하는 능력을 꾸준히 향상시킵니다. 2024년의 한 실험(Leder와 동료들)에서는 연습에 피드백 단계를 추가하는 것이 효과를 만든다는 사실을 발견했습니다. 그래서 모듈 1은 강의식 설명 대신, 오류를 드러내는 실습 예시를 사용합니다.
사람들은 대체로 표면적인 단서만으로 AI가 쓴 내용과 사람이 쓴 내용을 구별하지 못하며, AI가 쓴 자료가 실제 자료보다 더 설득력 있게 느껴질 수도 있습니다(Spitale와 동료들, 2023). 그래서 저희는 단서 찾기 대신 확인하는 습관을 가르칩니다.
미국 성인 약 3명 중 1명은 이미 건강 정보를 얻는 데 AI 챗봇을 사용하고 있으며, 히스패닉 성인은 백인 성인보다 정신건강 관련 조언을 AI에 구하는 경우가 더 많습니다(KFF, 2024-25). 내담자는 이미 이러한 답변을 스스로 읽고 있으므로, 지역사회 보건요원은 이들이 찾은 내용을 함께 확인해 주는 차분한 두 번째 독자로서 함께합니다.
이민자는 이러한 도구에 특히 개방적일 수 있습니다. 이민자와 일반 인구를 대상으로 한 연구에서 이민자는 AI 정신건강 챗봇을 사용할 의향이 더 높았고, AI가 의료를 개선한다고 믿는 사람일수록 수용도가 높았습니다(Yoo와 Jang, 2026). 이러한 개방성은 걱정할 이유가 아니라 안전한 사용을 일찍 안내할 이유가 됩니다.
오류 찾기 (실습 예시)
다음 AI 답변을 내담자가 실제로 받는 그대로 소리 내어 읽어 보십시오.
그룹에게 물어보십시오. 행동하기 전에 여기서 무엇을 확인하시겠습니까? 그런 다음 미리 심어 둔 문제점을 드러내십시오. 전화번호는 지어낸 것이며 신뢰만으로 걸어서는 안 됩니다. 미시간주 Medicaid는 대부분의 행동건강 서비스에서 주치의 의뢰서를 요구하지 않으며, 지역사회 정신건강 서비스는 아동을 포함해 모든 연령대에게 제공됩니다. 확신에 찬 어조는 정확한 답변과 똑같습니다.
효과적인 확인 방법을 복기하십시오. AI가 제시한 구체적인 번호나 규정, 자격 주장에 근거해서 행동하지 마십시오. 공식 출처로 확인하거나 슈퍼바이저에게 가져가십시오. 각 지역사회 보건요원에게 내담자와 함께 이를 실제로 보여 줄 때 사용할 문장을 하나씩 말해 보게 하십시오.
자료
- AI는 틀릴 때가 있습니다: 이유, 시점, 확인 방법가이드
- AI가 만든 건강 허위정보 알아채기가이드
- 건강을 위해 AI를 안전하게 사용하기가이드
- LINC는 AI를 어떻게 사용합니까투명성 정보
- 전문 용어를 쓰지 않고도 확신에 찬 오답의 예를 쉬운 말로 들 수 있습니까?
- 모든 지역사회 보건요원이 내담자가 답변을 확인하도록 코칭하는 문장을 하나씩 연습했습니까?
- 내담자가 이미 사용하고 있는 도구를 두려워하며 멀리하지 않도록, 차분하고 담담한 어조를 유지했습니까?