비공개 베타

지금까지 가장 분명한 증거는 의료에서 나왔습니다. 네 곳의 내시경 센터에서 AI 보조가 일상이 된 뒤, 같은 의사들이 AI 없이 한 대장내시경의 병변 발견율이 약 6퍼센트포인트 떨어졌습니다. 각자 수천 건을 해 온 숙련된 임상의들이었습니다 (Budzyn 외, 2025). 누구도 실력을 깎기로 결심하지 않았습니다. 실력이 도구 쪽으로 옮겨 갔고, 도구가 없는 날 그 자리가 비어 있었을 뿐입니다.

지식 노동자 319명을 조사했더니, AI를 신뢰할수록 비판적으로 따져 보는 일을 덜 한다고 답했고, 자기 판단을 신뢰할수록 더 많이 한다고 답했습니다. 일 자체도 답을 만들어 내는 쪽에서 기계가 만든 것을 확인하고 관리하는 쪽으로 옮겨 갔습니다 (Lee 외, 2025). 결과물은 겉보기에 똑같고 오히려 더 나아 보이기 때문에, 이 변화는 알아차리기 어렵습니다.

현장 실험에서, 아무 제약 없는 AI 튜터를 받은 학생들은 그것을 쓰는 동안에는 더 잘했지만 혼자 시험을 볼 때는 AI를 아예 써 보지 않은 학생들보다 못했습니다. 반면 안전장치를 넣어 설계한 버전에서는 이런 손해가 나타나지 않았습니다 (Bastani 외, 2025). AI가 학습을 망친다는 이야기가 아닙니다. 사람이 여전히 생각하도록 도구를 설계해야 한다는 뜻이고, 판단력을 쌓아 가는 신입 직원일수록 더 그렇습니다.

초안도 요약도 계획도 다 만들어진 채로 오면, 일은 기계가 낸 결과물을 승인하는 것이 됩니다. 좋은 사례 담당자를 만드는 것의 상당 부분은 기록을 쓰면서 하는 생각과 파일을 다시 펼치게 만드는 찜찜함인데, 도구가 가장 먼저 가져가는 것이 바로 그 부분입니다. 슈퍼비전에서 이 이야기를 꺼내십시오. 남의 결과물을 검토하는 사람이 된 것 같다고 말하는 직원은 실제로 일어난 일을 말하고 있는 것입니다.

어려운 사례는 먼저 직접 해 보고, 그다음에 도구에 물어 비교하십시오. 신입에게는 일부러 도구 없이 사례를 맡기십시오. 어느 전문직이나 그렇게 훈련합니다. "AI가 초안, 결정은 내가"라는 규칙은 클라이언트의 정확성만이 아니라 내 역량을 지키는 규칙이기도 합니다.

모델이 가진 것은 전부, 기업이 수집할 수 있는 형태로 이미 존재하던 텍스트에서 왔습니다. 말로 오가는 지식, 공동체 안에 살아 있는 지식, 아무도 스캔하지 않은 종이 서류, 온라인 기록이 거의 없는 언어는 그냥 없는 것이 됩니다. 모델은 자기에게 무엇이 없는지도 모릅니다. 무엇이 디지털화되었는지는 누가 돈과 출판과 기반 시설을 가졌는지가 정했고, 그래서 모델이 아는 것의 모양은 경제사와 식민의 역사를 그대로 닮았습니다.

베트남어, 타갈로그어, 암하라어, 아이티 크리올어는 각각 수천만 명이 씁니다. 이 언어들을 저자원이라 부르는 이유는 하나뿐입니다. 깨끗하게 디지털화된 텍스트로 온라인에 올라와 있는 양이 적다는 것입니다. 연구자들은 바로 이 기준으로 세계의 언어를 층으로 나눴고, 맨 위층과 나머지의 거리는 아주 멉니다 (Joshi 외, 2020).

어떤 언어가 온라인에 얼마 없으면, 말뭉치는 긁어모을 수 있는 것으로 채워집니다. 종교 번역문, 정부 공고문, 기계 번역(machine translation)된 웹페이지 같은 것들입니다. 웹에서 수집한 표준 다국어 데이터셋을 감사한 연구는 저자원 말뭉치에서 체계적인 문제를 찾아냈습니다. 쓸 만한 품질의 문장이 절반도 안 되는 말뭉치가 여럿 있었고, 수십 개는 언어 표시 자체가 틀려 있었습니다 (Kreutzer 외, 2022). 모델이 클라이언트에게 암하라어로 답할 때, 그 밑에 깔린 재료가 이런 것일 수 있습니다.

텍스트가 없으니 기업들이 돈을 들여 만들어 냅니다. 스캔하고, 받아쓰고, 번역하고, 녹음하고, 없는 언어를 적어 냅니다. Meta는 200개 언어를 다루는 번역 모델을 내놓았고 (Meta AI, No Language Left Behind), Karya 같은 조직은 인도 농촌의 노동자에게 자기 언어로 말한 음성을 녹음하게 하고 그 데이터셋을 대형 기술기업에 팝니다 (Karya). 두 가지가 동시에 참입니다. 디지털 기록이 거의 없던 언어가 기록을 갖게 됩니다. 그리고 그 재료를 대 준 사람들은 대개 계약직 단가를 받고, 만들어진 자원에 대한 권리는 갖지 못하며, 그렇게 만들어진 기능을 나중에 돈 내고 사야 합니다. 이 일이 회복인지 수탈인지는 동의와 보수, 그리고 결국 그 말뭉치를 누가 소유하느냐가 정합니다.

모델을 안전하고 고분고분하게 만드는 별개의 작업 흐름이 있습니다. 답변에 점수를 매기고, 어느 응답이 나은지 고르고, 학습 데이터에서 폭력적이고 성적인 내용을 걸러 냅니다. 이 일의 대부분은 영어로 이루어지고, 영어가 널리 쓰이면서 임금이 낮은 나라로 외주화됩니다. 이 조합이 존재하는 것은 식민 지배가 남긴 교육 제도 때문입니다. 챗봇이 그런 말을 되풀이하지 않도록 케냐의 노동자들이 시간당 2달러 안팎을 받으며 충격적인 내용을 읽어 냈다는 사실이 보도로 남아 있고 (Perrigo, 2023), 라틴아메리카의 데이터 노동 플랫폼을 다룬 동료 심사 연구도 같은 구조를 확인했습니다. 데이터를 만드는 사람이 그 사슬에서 가장 힘이 없습니다 (Miceli & Posada, 2022).

출판된 자료도 대부분 이용 허락 없이 쓰였습니다. 저자들은 수백만 권의 책을 두고 Anthropic을 상대로 소송을 냈습니다. 불법 복제 도서관에서 내려받은 사본뿐 아니라, 회사가 사들여 제본을 잘라 내고 스캔한 종이책도 포함됩니다 (Washington Post, 2026). 이 사건은 약 15억 달러에 합의로 끝났습니다. 뉴욕타임스가 이끄는 신문사들은 지금도 OpenAI를 상대로 소송을 이어 가고 있습니다 (Reuters, 2026). 한 연방 판사는 합법적으로 산 책으로 학습하는 것은 공정 이용이지만 불법 복제본을 내려받는 것은 아니라고 판단했습니다. 다른 사건들은 아직 진행 중이고, 계산은 끝나지 않았습니다.

구글이 자사 어시스턴트를 측정해 내놓은 수치로는, 텍스트 질문 한 번의 중앙값이 전기 약 0.24와트시, 물 약 0.26밀리리터입니다. 텔레비전 9초, 물 다섯 방울쯤 됩니다 (Google, 2025). 챗봇 질문 한 번을 2.9와트시, 즉 웹 검색의 열 배쯤으로 잡는 추정치도 있습니다 (MIT Technology Review, 2025). 추정치끼리 열 배가 차이 나고, 대개 훈련 과정과 장비 제조는 빼고 계산하며, 이 문제를 정리해 줄 수 있는 회사들은 대부분 수치를 내놓지 않습니다.

2023년 미국 데이터센터는 미국 전력의 약 4.4퍼센트를 썼고, 미국 에너지부 산하 연구소는 2028년에 6.7~12퍼센트에 이를 것으로 내다봅니다. 가장 큰 원인은 AI입니다 (Lawrence Berkeley National Laboratory, 2024). 내 질문 하나는 반올림하면 사라지는 양입니다. 그 질문들이 쌓여 만드는 수요 곡선이 발전소를 짓게 만듭니다.

1분씩 생각하는 추론 모델(reasoning model), 큰 모델에 통째로 밀어 넣는 긴 문서, 이미지나 영상 생성은 가벼운 모델에 던지는 짧은 질문보다 훨씬 많이 듭니다. 속도와 비용에 더해, 가벼운 모델을 기본으로 두고 무거운 모델은 필요할 때만 꺼내 쓸 세 번째 이유입니다. 좁은 일 하나를 맡은 작은 모델이 모든 면에서 가장 값싼 선택이고, 여기에는 전기도 포함됩니다.

데이터센터는 어딘가에 지어지고, 그 어딘가가 부유한 동네인 경우는 드뭅니다. 멤피스에서는 한 회사가 AI 데이터센터에 가스 터빈 수십 기로 전기를 댔는데, 바로 옆은 이미 오염 부담이 큰 흑인 밀집 지역이었습니다. 이 시설은 대기청정법 소송과 조직된 주민 반대에 부딪혔습니다 (TIME, 2025). 산티아고에서는 이미 물이 모자란 대수층에서 하루 약 760만 리터의 식수를 끌어 쓰겠다는 계획에 주민들이 이의를 제기했고, 환경법원이 데이터센터 허가를 되돌려 다시 심사하게 했습니다 (Municipality of Cerrillos v. Evaluation Commission, 2024). 이득은 전 세계가 나눠 갖고 물은 그 동네 것입니다. 터빈 옆에 사는 사람들이 그것을 지을지 말지를 정해야 합니다.

혼자 할 수 있는 일은 많지 않지만, 그렇다고 눈을 돌릴 이유는 아닙니다. 값을 하는 자리에서만 쓰고, 양식 하나로 될 일에는 쓰지 마십시오. 가벼운 모델을 기본으로 두십시오. 기관이 도구를 구매할 때 이 질문을 논의에 올리고, 업체에 수치를 요구하십시오. 우리가 돕는 지역에 데이터센터가 들어선다는 이야기가 나오면, 주민이 발언권을 갖는 것이 절차가 아니라 핵심입니다.