베타 이 사이트는 베타 버전입니다. 정보는 계속 추가하고 검토하고 있습니다.
LINC 당신의 언어로 정신건강 진료를 받으십시오
한국어
AI로 실제로 할 수 있는 일
6

맞춤형 어시스턴트 만들기

매번 같은 지시를 다시 입력하는 대신, 반복해서 하는 작업을 위해 설정을 마친 어시스턴트를 저장해 둘 수 있습니다. 어시스턴트는 여러분이 원하는 작업 방식을 기억하므로, 빈 입력창에서 다시 시작할 필요가 없습니다.

작동 방식

맞춤형 어시스턴트는 여러분의 지시에 여러분의 자료를 더한 것입니다

고정 지시사항 여러분 자신의 문서 재사용 가능한 어시스턴트
여전히 초안을 작성할 뿐, 검증하지는 않습니다. 사실 확인 습관은 그대로 유지됩니다.
맞춤형 어시스턴트는 여러분의 설정을 재사용해 매번 다시 입력하지 않아도 되게 해 줄 뿐, 결과물을 더 검증된 것으로 만들어 주지는 않으므로, 여전히 산출물을 직접 확인해야 합니다.
  • 이 기능은 주요 도구마다 다른 이름으로 제공됩니다. Claude에는 Projects와 Skills가, ChatGPT에는 Custom GPTs와 Projects가, Google Gemini에는 Gems가, Microsoft Copilot에는 agents가 있습니다. 그 밑바탕에 깔린 개념은 동일합니다.
  • 맞춤형 어시스턴트는 고정 지시사항, 일관된 문체, 그리고 기관의 쉬운 말 스타일 가이드나 승인된 FAQ처럼 한 번만 불러오면 되는 참고 자료를 하나로 묶어, 같은 설정을 다시 입력하지 않아도 되게 해 줍니다.
  • 설정이 저장되고 공유되므로, 이를 사용하는 모든 직원이 같은 지시사항과 같은 참고 자료에서 출발하게 되어, 결과물이 팀 전체에서 일관되게 유지됩니다.
  • 여러분의 읽기 수준에 맞춘 쉬운 말 다시쓰기 어시스턴트를 설정해, 모든 다시쓰기 결과가 클라이언트가 따라올 수 있는 수준으로 돌아오게 하십시오.
  • 매번 같은 형식으로 메모를 돌려주는 접수 요약 어시스턴트와, 지역 의뢰 목록을 미리 불러와 이미 신뢰하는 이름에서 결과를 끌어오는 자원 찾기 어시스턴트를 설정하십시오.
  • 팀이 공유하는 어시스턴트에는 기관이 소유하고 공유해도 되는 자료만 불러오고, 참고 파일에는 클라이언트 식별 정보를 넣지 마십시오. 이를 사용하는 모든 사람이 답변을 형성한 내용을 볼 수 있기 때문입니다.
  • 저장된 설정은 작업 속도를 높이고 안정시켜 주지만, 어시스턴트는 참고 자료를 놓치거나 벗어날 수 있으므로 모든 산출물은 여전히 여러분이 확인해야 할 초안입니다.

작동 원리와 실패 지점

맞춤형 어시스턴트는 저장된 지시문에, 참고하는 파일을 더한 것입니다

Custom GPT, Gem, Project, Skill은 여러분의 데이터로 새로 훈련된 모델이 아닙니다. 이는 여러분의 고정 지시사항을 담은 저장된 시스템 프롬프트(system prompt)와, 여러분이 무언가를 물을 때 도구가 검색하는 참고 파일 묶음을 갖춘, 동일한 기반 모델일 뿐입니다. 답하기 전에 관련 구절을 프롬프트 안으로 끌어옵니다. 이렇게 검색된 참고 텍스트를 범용 모델에 붙이는 방식을 검색 증강 생성(retrieval-augmented generation)이라고 부릅니다 (Lewis 외, 2020). 그래서 여러분의 지시사항과 참고 파일이 모든 답변을 형성하는 것입니다. 이들은 모델이 응답할 때마다 그 앞에 놓이기 때문입니다.

파일을 불러오는 것은 모델을 재훈련하는 것과 다릅니다

파인튜닝(fine-tuning)은 새로운 예시로 모델을 추가로 훈련해 모델의 내부 가중치(weight)를 바꾸는 작업으로, 비용이 많이 들고 그 결과가 해당 모델 사본에 고정되어 남습니다. 맞춤형 어시스턴트는 훨씬 가벼운 방식을 씁니다. 모델 자체는 그대로 두고, 여러분이 질문하는 순간 읽을 자료를 건네줄 뿐입니다. 그래서 참고 파일 하나만 바꿔도 맞춤형 어시스턴트를 갱신할 수 있고, 어시스턴트가 아는 내용은 딱 여러분이 불러온 파일만큼만 최신이고 정확합니다. 여러분 기관에 관한 어떤 것도 모델 자체에 새겨지지 않습니다.

참고 자료는 답변을 안내할 뿐, 답변을 가두지는 못합니다

모델은 여전히 텍스트를 예측함으로써 각 답변을 작성하므로, 일반 훈련에서 배운 내용에 기대어 참고 파일이 전혀 언급하지 않은 내용을 만들어 내거나, 파일 검색 결과가 빈약할 때도 확신에 찬 답변을 내놓을 수 있습니다. 이러한 시스템을 검토한 연구들은 원문의 뒷받침을 받지 못하거나 원문과 어긋나는 유창한 결과물을 기록하고 있습니다 (Ji 외, 2023). 어시스턴트에게 불러온 자료에서만 답하고 다루지 않는 내용은 그렇다고 말하도록 지시하되, 누군가 사용하기 전에는 여전히 결과물을 직접 읽으십시오.

한 번만 설정하기
팀이 재사용할 수 있는 맞춤형 어시스턴트 설정법
  1. 쉬운 말 다시쓰기나 접수 요약처럼 어시스턴트가 처리할 과제의 이름을 정하십시오.
  2. 원하는 읽기 수준, 어조, 형식을 포함해 고정 지시사항을 한 번에 작성하십시오.
  3. 스타일 가이드나 승인된 FAQ처럼 팀 전체가 공유할 수 있는 참고 자료를 불러오되, 클라이언트 식별 정보는 넣지 마십시오.
  4. 결과를 사용하기 전에 이용자가 무엇을 확인해야 하는지 지시사항에 한 줄을 추가하십시오.
  5. 팀과 공유하고, 도구나 참고 자료가 바뀌면 설정을 다시 살펴보십시오.
매번 다시 입력하는 같은 다시쓰기 지시사항 공유 쉬운 말 다시쓰기 어시스턴트
팀 전체가 재사용할 수 있는 쉬운 말 다시쓰기 어시스턴트 설정하기

당신은 저희 기관의 쉬운 말 다시쓰기 담당입니다. 제가 붙여 넣는 무엇이든 6학년 읽기 수준으로, 쉬운 제목이 달린 짧은 문단으로 다시 써 주십시오. 모든 날짜, 금액, 기한은 그대로 유지하고 마지막에 목록으로 정리해 주십시오. 그래야 제가 확인할 수 있습니다. 제가 불러온 스타일 가이드의 표현과 어조를 따라 주십시오. [기관의 쉬운 말 스타일 가이드를 불러오고, 클라이언트 식별 정보를 뺀 텍스트를 붙여 넣으십시오]

안전 수칙. 클라이언트 세부 정보가 없는, 기관이 소유한 자료만 불러오고, 발송 전에 모든 다시쓰기 결과를 확인하십시오.

제각각인 형식의 초안 접수 메모 일관된 접수 요약
팀이 공유하는 접수 요약 어시스턴트 설정하기

당신은 접수 메모를, 상황, 파악된 필요, 취해진 조치, 다음 단계에 대한 짧은 절로 이루어진 일관된 형식으로 요약합니다. 사실에 기반해 중립적으로 작성하십시오. 제가 쓰지 않은 내용은 추가하지 마십시오. 제가 불러온 접수 템플릿을 따르십시오. [빈 접수 템플릿을 불러오고, 클라이언트 식별 정보를 뺀 메모를 붙여 넣으십시오]

안전 수칙. 붙여 넣는 메모에는 클라이언트 식별 정보를 넣지 말고, 모든 요약을 여러분이 쓴 내용과 대조해 읽으십시오.

신뢰하는 의뢰처를 매번 다시 입력하기 여러분의 목록에서 끌어오는 어시스턴트
의뢰 목록을 미리 불러온 자원 찾기 어시스턴트 설정하기

당신은 저희 기관의 자원 찾기 담당입니다. 제가 식별 정보 없이 쉬운 말로 클라이언트의 필요를 설명하면, 제가 불러온 의뢰 목록에서만 일치하는 항목을 제안하고, 서비스, 연락처, 적합한 대상을 알려 주며, 목록에 맞는 것이 없을 때는 선택지를 지어내는 대신 명확히 그렇다고 말해 주십시오. 마지막에는 각 의뢰처가 최신인지 확인하라고 저에게 상기시켜 주십시오. [기관의 의뢰 목록을 불러오고, 클라이언트 식별 정보 없이 필요를 설명하십시오]

안전 수칙. 기관이 소유하고 공유해도 되는 콘텐츠만 불러오고, 클라이언트에게 전달하기 전에 각 의뢰처를 출처와 대조해 확인하십시오. 자세한 내용은 모듈 4를 참고하십시오.

계속 손으로 처리하는 과제 설정에 붙여 넣을 수 있는 고정 지시사항
공유 어시스턴트를 위한 지시사항 작성하기

제가 지정하는 과제를 수행하는 맞춤형 어시스턴트를 위한 고정 지시사항을 작성하도록 도와주십시오. 제가 읽기 수준, 어조, 결과 형식을 알려 주지 않았다면 물어보시고, 이후 어시스턴트가 제가 불러올 참고 자료에서만 작업하고, 다루지 않는 내용은 표시하며, 결과를 사용하기 전에 이용자에게 무엇을 확인해야 하는지 상기시키도록 하는 짧고 쉬운 지시사항 초안을 작성해 주십시오. [과제와 팀에서 사용할 사람을 지정하십시오]

안전 수칙. 지시사항과 불러온 모든 파일에서 클라이언트 식별 정보를 빼고, 모든 결과물을 검증해야 할 초안으로 다루십시오. 자세한 내용은 모듈 4를 참고하십시오.

적용 예시

파일이 다루지 않은 빈틈을 어시스턴트가 채울 때

  1. 한 팀이 자원 찾기 어시스턴트를 설정하고 승인된 의뢰 목록을 불러온 뒤, 목록이 다루지 않는 동네의 식료품 지원 선택지를 물어봅니다.
  2. 어시스턴트는 불러온 목록의 항목과 똑같이 읽히는, 이름과 전화번호가 담긴 확신에 찬 정리된 제안을 돌려줍니다.
  3. 한 직원이 확인해 보니 그 기관은 실제로 존재하지만 프로그램은 이미 종료되었고, 애초에 기관의 목록에 있던 적도 없습니다. 목록에 맞는 것이 없다고 말했어야 할 상황에서, 어시스턴트가 일반 훈련에서 그 빈틈을 채운 것입니다.
  4. 그들은 어시스턴트에게 불러온 목록에서만 답하고 맞는 것이 없을 때는 그렇다고 말하도록 지시를 추가하고, 이를 다시 불러온 뒤, 클라이언트에게 전달되기 전에 모든 의뢰처를 출처와 대조해 확인합니다.

안전 수칙. 공유 어시스턴트는 참고 자료에 클라이언트 데이터가 없을 때만 안전합니다. 기관이 소유하고 공유해도 되는 콘텐츠만 불러오고, 모든 결과물을 검증해야 할 초안으로 다루십시오. 자세한 내용은 모듈 4를 참고하십시오.

출처
  1. Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., Goyal, N., Kuttler, H., Lewis, M., Yih, W., Rocktaschel, T., Riedel, S., & Kiela, D. (2020). Retrieval-augmented generation for knowledge-intensive NLP tasks. In Advances in Neural Information Processing Systems 33. https://arxiv.org/abs/2005.11401
  2. Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), 1-38. https://doi.org/10.1145/3571730