AI 도구에 절대 입력하면 안 되는 것
클라이언트가 가장 먼저 걱정하는 것은 어떤 도구가 이민 단속 기관에 도달하는지 여부라고 가정하십시오. 그에 맞게 클라이언트의 정보를 보호하고, 데이터에 관한 분명한 설명으로 시작하십시오.
카드로 나누고, "절대 안 됨" 목록을 합의합니다
- 이번 주에 실제로 한 업무 여덟 가지를 카드에 하나씩 적습니다.
- 세 더미로 나눕니다. 챗봇에 맡겨도 되는 것, 절대 안 되는 것, 잘 모르겠는 것.
- "잘 모르겠는" 더미를 소리 내어 읽고, 그중 무엇을 "절대 안 됨"으로 옮길지 팀으로 정합니다. 그 목록을 적어 둡니다. 클라이언트 앞에서 설명할 수 있어야 하는 목록입니다.
아직 "잘 모르겠는" 더미에 남은 것은 무엇이고, 우리 기관에서는 누가 그것을 정합니까?
- ChatGPT, Claude, Gemini, Microsoft Copilot 등에 입력하면 그 텍스트는 화면을 떠납니다. 그 내용은 도구를 운영하는 회사로 전달되어 서버에 남고, 오랫동안 보관될 수 있습니다. 많은 일반 계정에서는 이 내용이 도구의 향후 버전을 학습시키는 데에도 사용될 수 있습니다.
- 클라이언트를 식별할 수 있는 내용은 절대 붙여넣지 마십시오. 여기에는 이름, A 번호, 사건 번호나 접수 번호, 주소, 전화번호, 생년월일, 체류 신분, 그리고 그 사람의 상황에 관한 의료나 법률 세부 사항이 포함됩니다.
- 클라이언트의 문서, 스크린샷, 서식을 일반 AI 도구에 업로드하지 마십시오. 복지 급여 통지서나 이민 관련 통지서에는 식별 정보가 가득하며, 일단 업로드되면 그것이 어디로 가는지 더 이상 통제할 수 없습니다.
- 도구를 사용하기 전에 세부 정보를 제거하십시오. 일반적인 규칙이나 절차를 물어보고 클라이언트의 구체적인 파일은 빼십시오. 취업 허가를 갱신하려면 어떤 서류가 필요한지와 같은 질문은 누구도 노출하지 않으면서 필요한 답을 줍니다.
- 클라이언트가 가장 먼저 걱정하는 것은 그 도구가 이민 단속 기관에 닿는지 여부라고 가정하십시오. 그 답이 클라이언트의 안전과 관련될 수 있다는 것처럼 정보를 보호하십시오. 실제로 일부 클라이언트에게는 그렇기 때문입니다.
- 체류 신분은 노출되면 위험합니다. 정부 기관과 상업적 데이터 브로커가 개인정보를 수집하고 공유하므로, 신분과 식별 정보를 통제할 수 없는 어떤 도구에도 남기지 마십시오.
- 매 상담을 시작할 때 데이터에 관한 분명한 설명으로 시작하십시오. 전문 용어 없이 짧은 문장으로, 클라이언트의 이름이나 사건을 외부 도구에 절대 입력하지 않는다고 말해 주십시오. 데이터 처리 방식을 분명히 보여주는 것은 신뢰를 얻는 방법의 일부이며, 그 자리에서 클라이언트의 두려움을 낮출 수 있는 몇 안 되는 방법 중 하나입니다.
공개된 AI 도구에 입력하는 모든 내용은 사용자의 기기를 떠나 그 도구를 운영하는 회사로 전달되며, 그곳에 저장될 수 있습니다. 대규모 언어 모델은 훈련 데이터의 일부를 기억했다가 이름, 전화번호, 주소를 포함해 그대로 재현할 수도 있습니다(Carlini 외, 2021). 업체가 계정 입력 내용을 향후 모델 학습에 사용한다면, 오늘 입력한 클라이언트의 정보가 나중에 다시 나타날 수 있습니다.
이민 단속에 대한 두려움은 합법적으로 체류하는 사람들 사이에서도 서비스 이용을 줄입니다(Herring과 Barnow, 2025). 이 영향은 아동에게도 미칩니다. 2016년 대선과 공적 부담 규정안 발표 이후 이민자 가정 어린 자녀의 의료 방문이 감소했습니다(Ettinger de Cuba 외, 2023).
코로나19로 입원한 라틴계 환자들은 체류 신분과 비용에 대한 두려움 때문에 진료를 미뤘다고 말했습니다(Cervantes 외, 2021). 신중하고 분명하게 드러나는 데이터 처리 방식을 보여주면, 클라이언트가 발길을 끊을 이유를 하나 더 없앨 수 있습니다.
체류 신분은 정당한 이유로 민감한 정보입니다. 소비자용 AI 계정은 HIPAA 같은 건강 정보 보호법의 적용을 받지 않으며, 단속 기관은 상업적 데이터 브로커와 행정 기록을 통해 이민자 커뮤니티에 관한 개인정보를 확보해 왔습니다(Data and Society, Poverty Lawgorithms). 신분과 식별 정보를 자신이 통제할 수 없는 도구 밖에 두는 것이 안전한 기본 원칙입니다.
내 데이터가 실제로 어떻게 이동하는지, 누가 볼 수 있는지
AI 챗봇을 사용할 때, 입력한 말은 화면 너머로 훨씬 멀리까지 이동합니다. 그 말이 지나가는 경로와 실제 보호 장치가 어디에 있는지를 아는 것이 무엇을 입력해도 안전한지 판단하게 해 줍니다. 이 내용에는 기술적 배경지식이 필요하지 않습니다.
상업용 챗봇은 내 컴퓨터에서 돌아가지 않습니다. 엔터를 누르는 순간 입력한 글은 인터넷을 통해 그 회사의 서버로 전송됩니다. 이 서버는 흔히 클라우드(cloud)라고 부르는, 회사가 운영하는 데이터 센터입니다. 모델은 그곳에서 글을 읽고 답을 돌려보냅니다. 입력한 내용은 이미 내 기기를 떠나, 내가 통제할 수 없는 회사에 가 있는 셈입니다.
대부분의 기관이 사용하는 도구, 즉 ChatGPT, Claude, Gemini, Microsoft Copilot는 클라우드(cloud) 기반 상업용 모델입니다. 성능이 뛰어나지만, 입력하는 모든 내용이 업체로 전달됩니다. 로컬 모델(local model)은 사용자 자신의 컴퓨터나 기관 자체의 서버에서 실행되므로 데이터가 건물 밖으로 나가지 않습니다. 로컬 모델도 존재하고 계속 발전하고 있지만, 구축이 더 어렵고 대체로 성능이 떨어지기 때문에 대부분의 일상적인 도구는 클라우드 모델입니다. 대략적인 판단 기준은 이렇습니다. 어떤 도구가 답을 하기 위해 인터넷 연결이 필요하다면, 그 도구는 입력 내용을 외부로 보내고 있는 것입니다.
이는 도구와 요금제에 따라 다르므로 확인해 볼 가치가 있습니다. 많은 무료 계정과 개인 계정에서는 업체가 입력한 내용을 향후 모델을 개선하거나 학습시키는 데 사용할 수 있으며, 때로는 설정에서 학습 여부를 끄는 토글이나 채팅 기록 끄기 같은 선택 해제(opt-out) 옵션이 있습니다. 비즈니스(business), 엔터프라이즈(enterprise), 팀 요금제, 그리고 대부분의 API 접근은 대개 입력 내용을 학습에 사용하지 않는다는 서면 약속을 포함하며, 이는 흔히 데이터 처리 계약(data processing agreement) 안에 명시됩니다. 그 계약이야말로 실질적인 보호 장치이며, 문구는 계약마다 다르므로 기관은 민감한 정보를 어떤 도구에 맡기기 전에 반드시 그 계약을 읽어 봐야 합니다.
API는 다른 소프트웨어가 화면 뒤에서 모델에 텍스트를 보내는 데 쓰는 통로입니다. 많은 업체는 기본적으로 API 데이터를 학습에 사용하지 않으며, 규제 대상 정보에 대해서는 계약을 체결해 줍니다. 이것이 기관이 검증한 앱이 직원 개인 계정보다 더 안전할 수 있는 이유 중 하나입니다. 그래도 데이터는 여전히 제공업체로 전달되므로, 누가 그 계약을 맺었는지, 계약에 무엇이 적혀 있는지는 여전히 중요합니다.
신뢰할 만한 도구는 데이터를 전송 중과 저장 중 모두 암호화하여, 외부인이 전송 도중이나 저장된 상태에서 내용을 읽을 수 없도록 뒤섞습니다. 이는 가로채기를 막아 줍니다. 하지만 그 회사 자체로부터는 아무것도 숨기지 못하며, 그 회사의 시스템과 때로는 직원이나 하도급 업체가 여전히 사용자가 보낸 내용에 접근할 수 있습니다. 암호화는 클라이언트의 식별 정보를 입력해도 되는 이유가 되지 않습니다.
입력 내용을 학습에 쓰지 않겠다고 약속하는 도구라 해도 일정 기간 동안 그 내용을 저장할 수 있습니다. 예를 들어 악용 여부를 감시하거나 법적 요청에 대응하기 위해서입니다. 앱에서 대화를 삭제한다고 해서 그 기록이 모든 곳에서 즉시 사라진다는 보장은 없습니다. 이민 단속 기관에 닿을 수 있는 정보에 대해서는, 사용자가 접근할 수 없는 어딘가에 사본이 남아 있을 수 있다고 가정하십시오.
클라이언트가 눈앞에 있는 그 순간에는 대개 어떤 도구의 정확한 약관을 확인할 수 없으므로, 안전한 원칙은 요금제에 좌우되지 않습니다. 이름, A 번호, 주소, 생년월일, 체류 신분, 사건 세부 사항은 통제할 수 없는 어떤 도구에도 넣지 말고, 그 대신 신원을 알 수 없는 일반적인 질문을 하십시오.
복지 내비게이터가 상담 도중 챗봇에 손을 뻗다
- 자원 내비게이터가 영주권자인 오콘퀘 부인(Mrs. Okonkwo)의 가족이 식료품 지원 대상이 되는지 알아보는 것을 돕고 있습니다. 내비게이터는 ChatGPT를 열고 클라이언트의 성명 전체, A 번호, 자택 주소, 가구 소득, 그리고 그녀가 합법적 영주권자라는 사실을 입력하기 시작합니다.
- 전송하기 직전, 내비게이터는 멈춥니다. 그 모든 내용은 기관 밖으로 나가 업체의 서버에 남고, 향후 모델 학습에 사용될 수도 있습니다. 답을 얻는 데 그중 어느 것도 필요하지 않습니다.
- 내비게이터는 식별 정보를 지우고 일반적인 질문을 합니다. 4인 가구의 식료품 지원 소득 기준은 얼마인지, 합법적 영주권자 신분이 자격에 영향을 미치는지를 묻습니다. 돌아오는 답은 동일하며, 누구의 정보도 노출되지 않습니다.
- 내비게이터는 오콘퀘 부인에게 무엇이든 말하기 전에 그 답을 주(state)의 공식 복지 페이지와 대조해 확인하고, 다음 상담을 시작할 때 클라이언트의 이름이나 사건을 외부 도구에 절대 입력하지 않는다고 분명히 말합니다.
클라이언트 정보를 없애도록 프롬프트를 다시 작성하기
클라이언트의 이름, A 번호, 주소가 들어간 프롬프트를 하나 준비하십시오. 조를 이루어 식별 정보 없이 일반적인 규칙을 묻도록 다시 작성하십시오. 두 프롬프트를 비교하고, 다시 작성한 프롬프트로도 사례 담당자에게 필요한 답을 얻을 수 있는지 확인하십시오.
데이터에 관해 클라이언트에게 할 말을 문장으로 써 보기
혼자서, 상담을 시작할 때 할 수 있는 한두 문장의 평이한 말을 써 보십시오. 그 문장에는 무엇을 외부 도구에 입력하고 무엇을 입력하지 않는지가 클라이언트에게 분명히 전달되어야 합니다. 짧고 전문 용어 없이 쓰십시오. 이민 단속을 두려워하는 클라이언트 역할을 맡은 짝에게 읽어 주고, 그 두려움을 실제로 낮출 수 있을 때까지 다듬으십시오.