AI가 실제로 작동하는 방식, 쉬운 말로
챗봇이 어떻게 문장을 만들어 내는지 알고 나면, 다른 모듈에서 나오는 실패들이 더 이상 놀랍지 않습니다. 생성형 AI 모델은 근본적으로, 훈련에 사용한 방대한 텍스트의 패턴을 바탕으로 다음 단어를 예측하는 일을 반복하면서 작동합니다. 바로 이 방대한 양의 언어 때문에 이런 도구를 대규모 언어 모델(large language model)이라고 부릅니다. 바로 이 하나의 단순한 엔진에서, 오늘날의 모델들은 많은 일을 해내고 있으며, 그것이 진짜 이해에 해당하는지에 대해서는 연구자들 사이에서도 의견이 진지하게 갈립니다. 이 논쟁을 매듭짓지 않아도 이 도구를 잘 사용할 수 있습니다. 이 작업에서 중요한 점은, 모델이 언어를 만들어 내는 방식이 확인된 사실이 저장된 목록에서 나오는 것이 아니라 통계적 패턴에서 나온다는 것이며, 바로 이 때문에 유창하게 들리면서도 틀릴 수 있는 것입니다.
2분 동안 모델이 되어 봅니다
- 한 사람이 종이에 지역 사무소에 관한 문장의 첫 네 단어만 적습니다.
- 종이를 옆으로 넘깁니다. 각자 상의하지 않고, 가장 그럴듯한 다음 한 단어만 덧붙입니다.
- 열두 단어가 되면 소리 내어 읽습니다.
문장처럼 들립니까? 그 내용은 사실입니까? 이 방의 누구도 사실이 되게 하려 한 적은 없습니다.
- 모델은 확인된 사실이 저장된 목록에서 답을 찾아오지 않습니다. 패턴에서 통계적으로 가능성이 높은 것을 만들어 낼 뿐입니다. 이는 강력한 능력이며, 동시에 유창하게 들리면서도 틀릴 수 있는 이유이기도 합니다. 사람들이 챗봇이 "할루시네이션(hallucination)을 일으킨다"라고 말할 때 뜻하는 바가 바로 이것입니다.
- AI는 텍스트로 학습하기 때문에 텍스트가 적은 곳일수록 더 약합니다. 자원이 적은 언어, 지역 규정과 지역 사무소, 아주 최근의 변경 사항이 그렇습니다. AI의 훈련된 기억에는 마감 시점이 있으며, 최근에는 많은 도구가 실시간 웹 검색(web search)을 더해 그 시점 이후까지 다루기도 하지만, 답변은 결국 가져오는 출처만큼만 신뢰할 수 있습니다.
트랜스포머(transformer)가 실제로 하는 일
이런 도구에 쓰이는 AI 종류를 대규모 언어 모델(large language model)이라고 부르며, 대부분이 사용하는 설계 방식을 트랜스포머(transformer)라고 합니다. 트랜스포머는 인공신경망(artificial neural network)의 한 종류로, 단순한 단위들이 서로 연결된 그물망이며 뇌에서 뉴런이 연결되는 방식에서 느슨하게 착안했지만, 실제 뇌와는 상당히 다르게 작동합니다. 이를 잘 활용하는 데 수학 지식은 필요하지 않습니다. 몇 가지 쉬운 개념만으로도 이 모델이 왜 그토록 유창한지, 그리고 다른 모듈에서 설명한 방식대로 왜 실패하는지 설명할 수 있습니다.
모델은 온전한 단어 단위로 작동하지 않습니다. 텍스트를 토큰(token)이라는 더 작은 조각으로 나누는데, 대략 짧은 단어 하나 또는 단어의 일부 정도이며, 한 번에 토큰 하나씩 읽고 씁니다. 영어는 대개 적은 수의 토큰으로 나뉩니다. 다른 많은 언어는 같은 문장이라도 훨씬 더 많은 토큰으로 나뉘는데, 이것이 같은 요청이 클라이언트의 언어에서 더 느리고, 비용이 더 들고, 정확도가 더 떨어지는 구체적인 이유 중 하나입니다.
모델은 각 단계마다 지금까지 작성된 모든 내용을 되짚어 보고, 다음 단어를 고르는 데 이전의 어떤 단어들이 가장 중요한지 가중치를 매깁니다. 이 가중치 계산을 어텐션(attention)이라고 하며, 트랜스포머가 새로 도입한 핵심 개념입니다. 이 덕분에 모델은 대명사를 올바른 이름에 계속 연결하고, 한 문단 내내 하나의 주제를 유지할 수 있습니다. 모델이 하는 일은 단어 간 관계에 대한 통계적 가중치 계산이며, 사람처럼 의미를 이해하는 것이 아닙니다.
모델은 방대한 양의 텍스트를 읽고, 파라미터(parameter)라고 불리는 내부 수치 수십억 개를 조정하는 방식으로 학습했습니다. 다음 토큰에 대한 예측이 실제로 이어지는 내용과 일치할 때까지 이 조정을 반복했습니다. 무엇도 나중에 찾아볼 수 있는 사실로 따로 저장되지는 않았습니다. 모델이 가지고 있는 것은 어떤 단어 다음에 어떤 단어가 오는 경향이 있는지에 관한 패턴들의 그물입니다. 그래서 유창하고 자신감 있어 보이지만 단순히 틀린 문장을 만들어 낼 수 있는 것입니다.
모델은 언제나 가장 가능성이 높은 단 하나의 다음 토큰만 고르지는 않습니다. 흔히 신중함에서 창의성까지의 다이얼로 표현되는 설정값을 이용해 가능성 있는 선택지들 가운데서 표본을 추출합니다. 이 다이얼을 올리면 표현은 더 다양해지고 사실에서 더 멀어집니다. 같은 질문을 두 번 던졌을 때 서로 다른 답변이 나오는 것은 바로 이 샘플링 때문입니다.
모델은 한 번에 컨텍스트 윈도우(context window)라고 불리는 제한된 양의 텍스트만 시야에 담아 둘 수 있습니다. 대화가 길어지면 가장 앞부분의 내용이 이 시야 밖으로 밀려나므로, 대화 초반에 알려 준 내용을 잊어버릴 수 있습니다. 매우 긴 문서를 붙여 넣는 경우에도 같은 방식으로 이전의 세부 내용이 밀려날 수 있습니다.
이 내용은 이 기제를 신뢰하라고 요구하는 것이 아닙니다. 다른 모듈에서 다룬 습관들 뒤에 있는 이유를 알려줄 뿐입니다. 이 도구는 검증된 사실이 아니라 그럴듯하게 들리는 언어를 만들어 내므로, 사실로 삼아 의지할 내용은 무엇이든 웹 검색이나 다른 신뢰할 수 있는 출처를 통해 확인하기 전까지 확인되지 않은 것으로 다루십시오. 중요한 내용은 확인하고, 언어 격차를 예상하십시오.
단어가 숫자로 바뀌는 과정, 자연어 처리가 하는 일
이런 도구들의 기반이 되는 분야를 자연어 처리(natural language processing, NLP)라고 부르며, 컴퓨터가 인간의 언어를 다룰 수 있게 만드는 일을 뜻합니다. 컴퓨터는 "병원"이라는 단어로 수학 연산을 할 수 없기 때문에, 가장 먼저 언어를 숫자로 바꿉니다. 이 하나의 전환이 이런 도구들이 잘하는 것과 못하는 것의 상당 부분을 설명해 줍니다.
자연어 처리는 각 토큰을 임베딩(embedding)이라고 불리는 긴 숫자 목록으로 바꾸는데, 이는 공간 속의 한 점으로 떠올릴 수 있습니다. 비슷하게 쓰이는 단어들은 서로 가까이 놓이게 되어, "병원", "의원", "의사"는 서로 가깝게 자리하고, "병원"과 "자전거"는 멀리 떨어져 자리합니다. 모델은 의미를 본 적이 없습니다. 위치와 거리만을 다룰 뿐입니다.
관련된 단어들이 서로 가까이 놓이기 때문에, 모델은 이 공간 속을 이동하는 방식으로 답을 내놓을 수 있습니다. 정의를 한 번도 받은 적이 없어도 "아플 때 가는 곳"이라는 개념을 "병원" 근처로 옮겨 놓을 수 있습니다. 이는 강력한 방식이지만 여전히 연상 작용에 지나지 않으므로, 겉으로만 관련되어 보이는 것들을 서로 연결해 버릴 수도 있습니다.
이 위치들은 실제 인간이 쓴 텍스트에서 나오기 때문에, 고정관념을 포함해 그 텍스트에 담긴 모든 패턴이 이 지도 안에 그대로 새겨집니다. 모델은 학습 텍스트가 그렇게 되어 있었다는 이유만으로 특정 직업이나 특성을 어떤 집단에 더 가깝게, 다른 집단과는 더 멀게 배치할 수 있습니다. 이는 누군가 모델에게 질문 하나를 던지기도 전에 편향이 들어오는 구체적인 한 가지 경로입니다.
각 언어는 이 공간에서 자기 몫을 배정받는데, 그 크기는 모델이 그 언어로 얼마나 많은 텍스트를 접했는지에 따라 정해집니다. 온라인에 텍스트가 적은 언어는 더 거칠고 덜 신뢰할 수 있는 지도를 갖게 됩니다. 이는 자원이 적은 언어에서 답변의 질이 낮아지는 더 근본적인 이유이며, 모델이 번역을 할 때만 그런 것이 아닙니다.
수학을 알 필요는 없습니다. 유용한 핵심은, 이런 도구들이 인간이 쓴 텍스트로부터 학습한 단어 사이의 거리를 바탕으로 작동한다는 점입니다. 그래서 유창하고, 그래서 그 텍스트의 편향을 그대로 실어 나르며, 그래서 클라이언트에게 가장 필요한 언어에서 가장 취약합니다.
- 완전히 진짜처럼 보이는 출처, 인용, 링크를 지어낼 수 있습니다.
- 긴 대화의 앞부분을 잊어버릴 수 있습니다. 한 번에 제한된 양의 텍스트만 살펴보기 때문입니다.
- 같은 질문을 두 번 하면 서로 다른 답변이 나올 수 있습니다.
- 표현이 자신 있어 보인다고 해서 그것이 맞다는 증거는 아닙니다.
- 붙여 넣는 내용은 무엇이든 그 도구로 전송되므로, 해당 회사와 공유된 것으로 여기십시오.
같은 질문을 두 번 하기
지역 규정이나 사무소에 관한 사실 질문을 하나 준비해 참가자들에게 제시합니다. 같은 질문을 별도의 대화 두 개에서 AI 도구에 두 번 던지고, 두 답변을 모두 소리 내어 읽습니다. 어디가 다른지 살피고, 어느 쪽이든 확인이 필요한 구체적인 정보, 즉 전화번호, 마감일, 주소를 표시합니다. 요점은 저절로 드러납니다. 매끄러운 표현은 확인된 사실과 같지 않습니다.