이민자와 난민 클라이언트는 이미 연락이 안전한지를 저울질하고 있습니다

이러한 조심스러움은 근거 없는 불안이 아니라 문서로 뒷받침됩니다. Friedman과 Venkataramani(2021)는 전국 설문 데이터를 이민세관집행국(ICE) 활동과 대조하여, 자신이 속한 주에서 ICE 활동이 증가한 이후 히스패닉 성인은 평소 의료진이 있다거나 연례 건강검진을 받았다고 응답할 가능성이 낮아졌지만, 비히스패닉 성인은 그런 변화를 보이지 않았다는 사실을 발견했습니다. Young과 동료들(2023)은 캘리포니아의 라틴계 및 아시아계 이민자들 사이에서, 단속 시스템과의 직접적인 접촉이 한 번 늘어날 때마다 진료를 미룰 확률이 높아진다는 것을 발견했습니다(오즈비 1.30, 95% 신뢰구간 1.10~1.50). Herring과 Barnow(2025)는 "안전한 지역사회"(Secure Communities) 프로그램 시행 이후, 추방 위험이 개인적으로는 없는 집단인 합법 체류 고령 히스패닉 이민자들 사이에서 의료진 방문이 16.9% 감소했다고 추정했습니다. 이 패턴은 직접적인 추방이 아니라 두려움과 그 파급 효과가 원인임을 보여줍니다.

AI 사용에 주는 교훈은 명확합니다. 클라이언트의 체류 신분, A 번호, 또는 사건의 세부 사항은 일반적인 연락처 정보가 아닙니다. 이런 정보가 유출되거나, 소환장(subpoena)에 의해 제출되거나, 데이터 유출 사고에서 드러나면, 클라이언트나 그 가족을 단속에 노출시키거나, 구제 신청이 거부되게 하거나, 출신국에서 해를 입게 할 수 있으며, 이런 결과는 항상 되돌릴 수 있는 것이 아닙니다. 클라이언트 정보를 외부 도구에 입력하는 모든 행위를 이런 무게를 지닌 것으로 다루십시오.

모델은 훈련 데이터를 기억했다가 그대로 재현할 수 있습니다

이는 가설이 아닙니다. Carlini와 동료들(2021)은 언어 모델이 훈련 데이터의 일부를 그대로 토해내도록 만들 수 있음을 보여주었고, GPT-2에서 추출한 내용 중에는 이름, 전화번호, 이메일 주소 등 실제 개인 식별 정보가 포함되어 있었습니다. 이후 Carlini와 동료들(2023)은 이러한 기억화가 모델의 크기, 훈련 중 특정 텍스트 조각이 중복된 횟수, 그리고 공격자가 제공하는 주변 맥락의 양에 따라 커진다는 것을 보여주었습니다.

실무자에게 주는 시사점은, 입력을 학습에 사용하는 도구에 들어간 정보는 지금 업체에게만 보이는 것이 아니라, 나중에 다른 누군가에게 드러날 수 있다는 것입니다. 이것이 바로 추출 위험이며, 민감한 내용에 어떤 도구를 사용하기 전에 서면으로 된 학습 미사용 조항을 요구할 가치가 있는 이유이기도 합니다.

암호화는 외부인으로부터 당신을 보호할 뿐, 업체로부터는 보호하지 못합니다

신뢰할 수 있는 도구는 전송 중인 데이터를 암호화하여 네트워크를 통과하는 동안 읽히지 않도록 하고, 저장된 데이터도 암호화하여 디스크가 도난당하더라도 저장된 파일을 읽을 수 없게 합니다. 암호화(encryption)는 외부인으로부터 당신을 보호합니다. 그러나 업체로부터는 당신을 보호하지 못하는데, 업체는 내용을 처리하기 위해 그것을 복호화하기 때문입니다. 암호화는 데이터를 보유한 회사에 대한 기밀 보장이 아닙니다.

브라우저나 앱을 통해 접근하는 대부분의 AI 도구는 클라우드 도구입니다. 즉 데이터가 당신의 통제를 벗어나 제3자에게 전달됩니다. 로컬 또는 온디바이스(on-device) 모델은 사용자 자신의 기기에서 실행되며 내용을 외부로 보내지 않는데, 이는 근본적으로 다르고 대체로 더 안전한 위험 특성을 가집니다. 기본 설정은 제품 등급에 따라서도 달라집니다. 무료 소비자용 도구가 기본적으로 가장 위험합니다. OpenAI는 사용자가 학습 기능을 끄지 않는 한 소비자용 ChatGPT 대화 내용이 기본적으로 자사 모델 학습에 사용된다고 밝히는 반면, Business, Enterprise, Team, Edu 및 API 제품은 기본적으로 모델 학습에 사용되지 않는다고 명시합니다(OpenAI, 2026년 확인). 약관은 계속 바뀌고 업체마다 다르므로 절대 당연시하지 말고, 기본으로 접하게 되는 무료 버전이 대개 보호 수준이 가장 약한 버전이라는 점을 기억하십시오.

이름을 지운다고 해서 기록이 익명이 되는 것은 아닙니다

신원 비식별화란 정보를 더 이상 특정 개인으로 추적할 수 없을 때까지 벗겨내는 것을 말합니다. 즉 이름, 번호, 주소 같은 직접 식별자뿐 아니라, 조합되면 어떤 사람을 가리키게 되는 준식별자(quasi-identifier)까지 제거하는 것입니다. "마리아, 생년월일 1990년 3월 12일, A 번호 087..."를 "한 클라이언트"로 바꾸는 것은 시작일 뿐, 끝이 아닙니다.

중요한 것은 그 한계입니다. Rocher, Hendrickx, de Montjoye(2019)는 데이터셋이 불완전할 때도 성립하는 방법을 사용하여, 단 15개의 인구통계학적 속성만으로도 미국인의 99.98%를 임의의 데이터셋에서 정확히 재식별할 수 있다고 추정했습니다. 흔한 속성 몇 가지만 조합해도 어떤 사람을 특정하기에 충분하므로, 신원 비식별화는 결코 보장되지 않으며, 바로 당신의 클라이언트들이 사는 지점에서 가장 빨리 실패합니다. 즉 드문 언어, 특정 출신국, 작은 마을, 흔치 않은 사건 특징에서 그렇습니다.

자유 서술형 텍스트는 체크리스트가 결코 떠올리지 못할 부수적인 세부 사항을 담고 있기 때문에 특히 정보가 새기 쉽습니다. 안전한 관행은 실제 기록을 비식별화한 뒤 붙여넣는 것이 아닙니다. 대신 훈련에서 질문을 던질 때처럼, 실제 인물과 연결 짓지 않고 일반적이고 가정적이거나 집계된 표현으로 작업하십시오. 클라이언트가 그 자리에 있는 상태에서 붐비는 공공장소에서 그 문장을 소리 내어 읽지 않을 것 같다면, 그것을 입력하지 마십시오.