지난 컬럼에서는 세무상담에 적합한 AI 챗봇의 종류와 활용법을 다루었습니다. AI 검색 에이전트인 퍼플렉시티와 서치GPT, 맞춤형 AI 챗봇인 챗GPT의 프로젝트와 퍼플렉시티의 공간 기능, 그리고 추론모델인 오픈AI의 o1 등 5가지 모델을 사용하면 월 6만원에 주니어 스탭 5명을 고용하는 효과를 얻을 수 있다고 소개하였습니다.
관련기사☞ 세무상담의 혁신! AI 챗봇 사용기 – 월 6만원으로 5명 스탭 고용하기
이번 글에서는 세무상담 이외의 다양한 세무 업무에 맞춤형 AI 챗봇을 활용하는 실제 사례를 간략히 설명하겠습니다.
맞춤형 AI 챗봇이란 사용자의 특정 요구나 목적에 맞게 기능과 데이터를 최적화한 인공지능 기반의 대화형 소프트웨어를 말합니다. 맞춤형 AI 챗봇의 3대 주요 구성 요소는 언어 모델(LLM), 지침(Instruction) 및 지식(Knowledge)/작업(Actions)입니다. ‘언어 모델’에 대해서는 지난 시간에 자세히 살펴보았습니다.
‘지침’이란 AI에게 특정한 작업이나 답변을 요청하기 위해 작성하는 명령이나 지시문입니다. 프롬프트 셋이라고도 합니다. 생성형 AI로부터 원하는 결과물을 얻기 위해 효과적이고 최적화된 프롬프트(지시문, 명령어)를 설계하고 개발하는 과정을 프롬프트 엔지니어링이라고 합니다.
‘파일’은 사용자가 텍스트 파일, PDF, 이미지 파일 등을 업로드하여 AI와 상호 작용할 수 있는 기능을 제공합니다. 세무 목적용 맞춤형 AI 챗봇에서는 세법 규정, 기본서, 예규･판례 등을 업로드합니다.
이제부터는 세무 업무별로 사용하는 봇을 살펴보겠습니다. ‘봇’이란 맞춤형 AI 챗봇의 준말입니다.
첫 번째로 세무 상담 봇입니다. 클라이언트나 세무대리인 등으로부터 받은 질의에 대한 상담을 목적으로 합니다. 세무 상담 봇은 모든 개별 세법에서 공통으로 적용되어야 하므로, 별도의 특이한 프롬프트나 지식 파일은 없습니다.
다만, 지침 작성 시 쟁점을 먼저 기재하도록 하였습니다. 세무 상담 봇이 맥락을 정확히 이해하여 쟁점을 올바르게 파악했는지 눈에 먼저 띌 수 있도록 하였습니다. 예규･판례도 마지막에 별도로 표시하여 출처를 확인할 수 있게 하였습니다.
세무 상담 봇은 프롬프트만 작성했으므로 퍼플렉시티의 공간이나 챗GPT의 GPTs 같은 맞춤형 AI 챗봇에서 사용 가능하며, 또한 일반 채팅창에 프롬프트 셋을 그대로 입력해도 가능합니다. 따라서, 문제의 난이도에 따라 추론 모델 또는 챗GPT의 심층 리서치를 비롯한 고급 기능의 사용도 가능합니다.
두 번째로, 조특법 기본서 상담 봇입니다. 필자가 10년 이상 집필해 오고 있는 「조세특례제한법 해석과 사례」 책자를 지식 자료로 활용하여 조특법에 대한 세무 상담을 목적으로 하는 맞춤형 AI 챗봇입니다. 퍼플렉시티 공간(Space)을 선택하였고 기능은 pro 검색, 언어 모델은 GPT-4o(또는 GPT-4.5)를 사용합니다.
지침 작성 시 파일의 이름과 페이지 번호, 예규 번호를 같이 제시하도록 하여 오류를 검증하고 환각을 방지하도록 하였습니다.
세 번째로 예규 검색 봇입니다. 세무 상담 봇에서는 세무 이슈의 해결을 목적으로 하므로 예규 검색은 필요한 범위 내에서만 수행합니다. 복잡하거나 매우 중요한 업무를 수행하기 위해, 해당 이슈와 관련성이 높은 예규를 가능한 한 많이 찾고 싶은 의도를 세무 상담 봇은 만족시킬 수 없습니다. 그렇기 때문에 지금까지 발행된 모든 예규와 판례를 맞춤형 AI 챗봇의 지식에 업로드하여 예규 검색 봇을 제작할 필요성이 생깁니다.
예규 검색 봇은 챗GPT의 프로젝트를 사용합니다. 외부 인터넷 검색은 비활성화하고 언어 모델은 GPT-4o(또는 GPT-4.5)를 사용합니다. 추론 모델이나 심층 리서치 등의 고급 기능은 사용하지 않았습니다.
지난 10년간의 예규･판례를 제공 받았지만, 챗GPT의 업로드 파일 제한으로 인하여 심판례 등은 제외하고 예규 1만5000개만 업로드하여 예규 검색 봇을 만들었습니다. 파일에서 답을 찾을 수 없다면 “정보 부족”이라고 답하도록 하여 내부 데이터베이스만을 사용하도록 하였습니다.
네 번째로, 불복 이유서 작성 봇입니다. 조세 불복 절차에서 양자 간에 주고받는, 회사 측 세무 대리인의 항변서와 과세관청의 답변서에는 양측의 주장과 근거가 잘 드러나 있습니다. 이러한 문서 등을 근거로 조세심판청구 이유서를 작성하는 맞춤형 챗봇을 만들었습니다. 불복 이유서 작성 봇은 퍼플렉시티의 공간을 선택하였으며 기능은 심층연구를 사용하였습니다.
프롬프트 작성에서는 이유서의 일반적 작성 요령에 따르도록 하였습니다. 정보 프롬프트 셋에서 청구취지, 청구이유, 처분 개요, 청구인 주장 등 해당 세무 용어의 정의를 명확하게 AI 챗봇에 전달하여 해당 목차에서 포함하는 내용을 특정했습니다.
다섯 번째로, 판례 평석 봇입니다. 판례 평석의 내용은 특정 판결에 대한 사건의 배경, 법적 쟁점, 판결의 논리적 근거, 그리고 판결의 사회적･법적 영향으로 구성됩니다. 이를 통해 판결의 타당성을 검토하고, 법리적 발전 가능성을 모색하며 실무적 적용 방안을 제시합니다.
법률 전문가의 수준이 필요하므로, 판례 평석 작성 봇으로는 챗GPT의 심층 리서치만을 사용합니다. 경험상 퍼플렉시티의 심층연구도 쟁점과 사실관계의 정리는 만족스럽지만, 검토 부분에서 리서치가 충분하지 못합니다.
검색 범위를 블로그, 뉴스보다는 논문이나 전문적 연구보고서 등으로 한정해야 합니다. 자료의 출처도 학술 데이터베이스, 국가법령정보센터 등에서 수집하도록 프롬프트를 설정합니다
프롬프트 중 정보와 출력 형식을 통해서 판례 평석 특유의 형식에 따르도록 합니다. 출력 형식에서는 판례 평석의 일반적 목차를 지정하고, 정보에서는 해당 목차에서 다루어져야 할 내용을 설명해 줍니다.
여섯 번째로, 의견서 작성 봇입니다. 불복 절차에서 이유서를 작성하는 업무 또는 판례 평석을 쓰는 업무보다는 세무 컨설팅을 수행하면서 의견서를 작성할 기회가 상대적으로 많습니다. 다른 문서 작성 봇과 동일하게 의견서 작성 봇에서도 챗GPT의 심층 리서치를 사용하는 것을 추천합니다.
세무 컨설팅 의견서 작성은 불복 이유서나 판례 평석보다는 문서 형식에 자유도가 높습니다. 문단을 경영진에 대한 요약, 질의 배경, 질의 사항, 검토로 나누었습니다. 그리고, 각 문단에 들어갈 내용을 정보로 제공하였습니다.
또, 프롬프트 중 제약조건에서는 세무 컨설팅 의견서의 일반적인 형식을 지정하였습니다. 분량은 3~5페이지 정도, 목차는 3단 이내로 하고, 경어를 사용하도록 “문장의 끝을 ‘~습니다'로 끝나는 완전한 서술문 형태로 작성”할 것을 요청했습니다.
이외에도 예규심 추론 봇과 조특법 작가 업데이트 봇을 설계하여 사용 중에 있습니다. 구체적인 사용법은 곧 출간된 책을 통해 확인하실 수 있습니다.
☞최문진 회계사는?
서울대 경영학과를 졸업하고, 한국 및 미국 공인회계사 자격을 보유하고 있다. 기획재정부 국세예규심사위원회 민간위원을 맡고 있으며, 조세특례 분야의 이론과 실무를 친절하게 담은 필독서 '조세특례제한법 해석과 사례'를 2014년부터 매년 집필하고 있다.
