적정 수준의 신뢰 가르치기

도구에 맞는 만큼만 신뢰하도록 합니다. 내담자가 AI 답변을 그대로 받아들이지도, 두려움 때문에 유용한 도움을 거부하지도 않도록 구체적인 습관을 코칭합니다.

• 시간

  45–55분

• 형식

  워크숍 세션, 역할극

• C3 영역

  지도 및 사회적 지지

학습 목표

이 모듈을 마치면 지역사회 보건요원은 다음을 할 수 있습니다.

1. 적정 수준의 신뢰를 내담자가 이해할 수 있는 한 문장으로 설명할 수 있습니다.
2. 습관을 코칭할 수 있습니다. 먼저 추측하기, 답변을 초안으로 다루기, "잘 모르겠습니다"라는 답을 기대하기입니다.
3. 두 가지 불균형 방향을 모두 알아볼 수 있습니다. 챗봇을 과신하는 것과, 정확한 도움을 거부하는 것입니다.
4. 확인 없이 AI 답변을 그대로 베끼는 내담자의 방향을 바꾸어 줄 수 있습니다.

진행자 개요

핵심 교육 요점

적정 수준의 신뢰란, 지금 앞에 놓인 과제에 걸맞은 만큼만 이 도구를 신뢰한다는 뜻입니다. 전화 대본에는 좀 더, 자격 규정에는 좀 덜, 위기 상황에는 전혀 신뢰하지 않는 것입니다. 이 습관들은 이를 실천 가능하게 만듭니다. 첫째, 먼저 추측하기입니다. 내담자가 AI의 답변을 읽기 전에 이미 무엇을 생각하고 있는지 물어보십시오. 그러면 그 답변은 따라야 할 것이 아니라 비교할 대상이 됩니다. 둘째, 답변을 초안으로 다루는 것입니다. 초안은 원래 수정하고 확인하고 확정하기 위한 것이며, 이것이 바로 우리가 원하는 태도입니다. 셋째, 불확실성을 기대하는 것입니다. 도구가 확신이 없다고 말할 때, 이는 결함이 아니라 유용한 정보입니다. 이를 긍정적으로 받아들이고, 사람에게 확인함으로써 행동하십시오.

반대 방향의 오류도 주의하십시오. 일부 내담자는 AI가 틀릴 수 있다는 경고를 들은 뒤, 진료로 이어질 수 있는 정확한 도움을 포함해 모든 것을 불신하기로 마음먹습니다. 신뢰 보정은 양방향으로 작동합니다. 전하려는 메시지는 "절대 신뢰하지 말라"가 아닙니다. "올바른 일에는 신뢰하고, 나머지는 확인하라"는 것입니다.

답변이 틀리는 두 가지 방식을 짚어 보는 것도 도움이 됩니다. AI의 답변이든 어떤 선별 검사든 틀릴 때는 두 방향 중 한 방향으로 틀립니다. 하나는 거짓 경보(위양성)로, 실제 답이 아니오인데 예라고 말하는 것입니다. 예를 들어 내담자가 어떤 혜택 자격이 안 되는데 된다고 말하는 경우입니다. 다른 하나는 놓침(위음성)으로, 실제 답이 예인데 아니오라고 말하거나 실제로 존재하는 무언가를 알아채지 못하는 것입니다. 예를 들어 내담자가 자격이 되는데 안 된다고 말하거나, 누군가 위기 상황에 있다는 것을 알아채지 못하는 경우입니다. 어느 실수가 더 나쁜지는 사안의 중대성에 달려 있는데, AI는 그 중대성을 알지 못하며 여러분이 압니다. 혜택과 자격 문제에서는 놓침 하나가 한 가족을 그들이 마땅히 받을 도움에서 끊어 버릴 수 있습니다. 안전과 위기 상황에서는 놓침 하나가 생명을 앗아갈 수 있으므로, 실제 위험은 모두 실제 위험으로 다루고 사람에게 연결하십시오. 법률이나 이민 문제에서는 거짓 경보 하나가 내담자에게 해가 되는 신청으로 이어질 수 있습니다. AI의 답변에 따라 행동하기 전에, 여기서 어느 실수가 내담자에게 더 큰 해를 끼칠지 자문하고, 바로 그 실수를 가장 엄격하게 점검하십시오.

자료

• 먼저 스스로 추측해 보십시오: AI 답변을 초안으로 다루기가이드
• 무엇을 AI에게 묻고, 무엇을 사람에게 물어야 합니까가이드
• 챗봇에게 물어보기 잘 활용하기가이드