코딩 1도 모르는 KCD 법무팀이 AI 환각을 잡은 방법
안녕하세요. 한국신용데이터 법무팀의 Robin입니다.
저는 코드를 모릅니다. GitHub가 뭘 하는 곳인지도 몰랐고, 터미널 창은 학창시절에 ipconfig를 쳐본 게 다였습니다. (이유는 묻지 마세요.) 그런 제가 코드가 난무한 MCP를 클로드 코드에 붙이고, 실무에 쓸 수 있도록 손까지 봤습니다.
그게 가능했던 건 KCD의 'AI 앰버서더' 프로그램 덕분입니다. 구성원이 신청해 활동하는 사내 AI 활용 프로그램인데, 저는 2기로 활동 중입니다. (2기는 비개발자만 모여 있습니다.) 핵심 혜택은 사내 AI 전문가와의 1:1 멘토링입니다. 활동 시작 때 함께 계획을 세우고, 막힐 때 바로 물어볼 수 있는 사람이 생긴 거죠.
시작은 단순한 좌절이었습니다. 법령 검색에 AI를 쓸수가 없었거든요.
AI는 사실, 법령을 ‘조회’하지 않습니다.
결론부터 말씀드리면, 평범한 AI가 알려주는 법령은 진짜가 아닐 수도 있습니다.
"금소법 44조 원문 가져와줘"
AI는 깔끔한 조문 형식으로 답했습니다. 항목 구분도 있고, 법령 특유의 딱딱한 문체도 있었습니다. 전공자가 아닌 분이 보면 실제 법조문처럼 보입니다.
하지만 틀렸습니다. 실제 금소법 44조와 내용이 달랐고, 없는 3항까지 만들어냈습니다. 법을 자주 접하는 분이라면 '이건 조문 형식이 아닌데?' 바로 알아채셨을 겁니다. (오히려 계약서에 가깝더군요.)
더 당황스러운 건 따로 있었습니다.
"민법 1203조는?"
멀쩡하게 답했습니다. 실제 민법은 1118조가 끝입니다. 이번엔 존재하지 않는 조문을 그럴듯하게 만들어낸 거죠.
지적하면 사과합니다. "죄송합니다, 사실은…" 하고 정정합니다.
문제는, 제가 틀렸다는 걸 알아야만 지적할 수 있다는 겁니다. 모르는 상태에서 물어봤다면? 가짜 법령 위에서 검토 의견이 나갔을 겁니다. 법무 검토의 토대가 가짜라면, 그 위에서 이루어지는 모든 판단도 무너집니다.
왜 이런 일이 생기느냐. AI는 법령 데이터베이스를 조회하는 게 아닙니다. 학습 데이터를 바탕으로 그럴듯한 텍스트를 생성합니다. 법령도 예외가 아닙니다. 원문을 끌어오는 게 구조적으로 불가능하고, 어찌됐든 답을 해야 하니 없는 조항을 만들어냅니다. LLM 방식 AI의 한계라고 하네요.
그래서 저는 AI를 법무 검토에 제한적으로 쓸 수밖에 없었고, 조문은 법제처에서 직접 찾아볼 수밖에 없었습니다.
해결책은 하나였습니다. AI가 법령을 생성하지 않고, 실시간으로 원문을 조회해서 가져오게 하기.
찾아보니 MCP(Model Context Protocol)라는 게 있었습니다. Claude에 외부 도구를 연결하는 프로토콜 표준입니다. 그리고 법제처 Open API를 Claude에 바로 연결해주는 MCP가 이미 GitHub에 존재했습니다.
설치하는 데 사흘이 걸렸습니다.
결론부터 말씀드리면, 다섯 번 막혔습니다.
GitHub의 MCP 설치 문서를 그대로 따라하려 했습니다. 막힐 때마다 Claude가 원인을 짚어줬고, 저는 이해 못 해도 괜찮았습니다. 터미널에 입력하라면 복붙. Claude에 입력하라면 복붙. 오류가 뜨면 그 오류 메시지를 그대로 복붙해서 "이렇게 뜨는데?"라고 했습니다.
npx -y mcp 실행 → "'npx'은(는) 인식되지 않습니다" Node.js가 없는 게 원인이라고 했습니다. 알려준 링크에서 설치했습니다.
다시 실행 → PowerShell 스크립트 차단 오류 명령어 하나 입력하면 된다고 했습니다. 입력했습니다.
다시 실행 → /mcp가 깜빡이기만 함 "이거 왜 이래?" 했더니, 첫 실행은 패키지 다운로드 중이라 그럴 수 있다고. 기다렸다가 재시작하랍니다.
그리고… 재부팅 후 "연결된 거 맞아?" 물었더니… 드디어 MCP tool 연결 성공!
Claude와 티키타카 하다 보니, 어느새 설치가 끝나 있었습니다.
이번엔 "1203조는 존재하지 않습니다"
같은 질문을 다시 던졌습니다. 답이 달랐습니다.
"민법 1203조는?"
이번엔 달랐습니다. 법제처 DB를 API로 직접 조회하더니, "1203조는 존재하지 않습니다."
없는 조항을 지어내지 않습니다. 실시간 개정 법령도 즉시 반영됩니다. 기존보다 훨씬 명확하게 알려줍니다.
MCP 하나로는 부족했습니다.
도구는 됐지만, 그것만으로는 검토를 맡길 수 없었습니다.
연결은 됐습니다. 그런데 그것만으로는 부족했습니다. 도구가 아무리 정확해도, 어떻게 사용할지 기준이 없으면 엉뚱한 방향으로 갑니다.
그래서 실무 원칙을 추가했습니다.
그 규칙을 Claude에게 이야기하고 추가해달라고 했습니다. 이제 '에이전트'라고 부를 만한 수준입니다. 제가 작성한 그 기준대로 검토합니다.
결국 이 에이전트는 두 축으로 완성됐습니다. 정확한 데이터를 가져오는 도구(MCP), 그리고 어떻게 판단할지를 담은 기준(제가 추가한 규칙). 전자는 MCP가, 후자는 저와 제 AI 멘토인 Kook이 담당했습니다. (항상 감사합니다 Kook!)
완성된 에이전트 위에서, 규칙은 계속 다듬을 수 있습니다. 실무에서 새 검토 유형이 생기거나 놓친 지점을 발견하면, Claude에게 이야기하고 규칙을 업데이트하면 됩니다. 코드를 수정하는 게 아니라, 말로 가르치면 됩니다. 에이전트는 그렇게 조금씩 더 나아집니다.
그래도, 맹신은 금물입니다
이 에이전트는 출발점이지, 종착점이 아닙니다.
하위 법령·조례·고시는 검색 범위 밖일 수 있고, 공개되지 않은 판례도 많습니다. 유권해석이나 부처 회신처럼 법령에 담기지 않는 실무 기준도 존재합니다.
에이전트의 의견은 법무 검토의 출발점이지 끝이 아닙니다. 이후 판단은 여전히 사람이 합니다.
어렵지 않습니다, 시작이 어려웠을 뿐
저는 코드를 몰랐고, 지금도 모릅니다. 그런데 만들었습니다.
막힐 때마다 Claude한테 물어봤고, Claude가 매번 원인을 설명해줬습니다. 제가 직접 한 건 법제처 API 키 발급, 그것 하나입니다.
KCD는 Claude Code를 쓸 수 있는 환경을 제공하고, AI 앰버서더 프로그램처럼 비개발자도 AI를 실무에 연결할 수 있도록 지원합니다. 그 판 위에서, 저 같은 사람도 이런 걸 만들 수 있었습니다.
AI 도구가 막막하게 느껴지는 건, 잘 모른다는 느낌 때문이기도 합니다. 그 느낌, 저도 있었습니다. 그래도 했고, 됐습니다.
코딩 1도 모르는 KCD 법무팀이 AI 환각을 잡은 방법
안녕하세요. 한국신용데이터 법무팀의 Robin입니다.
저는 코드를 모릅니다. GitHub가 뭘 하는 곳인지도 몰랐고, 터미널 창은 학창시절에 ipconfig를 쳐본 게 다였습니다. (이유는 묻지 마세요.) 그런 제가 코드가 난무한 MCP를 클로드 코드에 붙이고, 실무에 쓸 수 있도록 손까지 봤습니다.
그게 가능했던 건 KCD의 'AI 앰버서더' 프로그램 덕분입니다. 구성원이 신청해 활동하는 사내 AI 활용 프로그램인데, 저는 2기로 활동 중입니다. (2기는 비개발자만 모여 있습니다.) 핵심 혜택은 사내 AI 전문가와의 1:1 멘토링입니다. 활동 시작 때 함께 계획을 세우고, 막힐 때 바로 물어볼 수 있는 사람이 생긴 거죠.
시작은 단순한 좌절이었습니다. 법령 검색에 AI를 쓸수가 없었거든요.
AI는 사실, 법령을 ‘조회’하지 않습니다.
결론부터 말씀드리면, 평범한 AI가 알려주는 법령은 진짜가 아닐 수도 있습니다.
"금소법 44조 원문 가져와줘"
AI는 깔끔한 조문 형식으로 답했습니다. 항목 구분도 있고, 법령 특유의 딱딱한 문체도 있었습니다. 전공자가 아닌 분이 보면 실제 법조문처럼 보입니다.
하지만 틀렸습니다. 실제 금소법 44조와 내용이 달랐고, 없는 3항까지 만들어냈습니다. 법을 자주 접하는 분이라면 '이건 조문 형식이 아닌데?' 바로 알아채셨을 겁니다. (오히려 계약서에 가깝더군요.)
더 당황스러운 건 따로 있었습니다.
"민법 1203조는?"
멀쩡하게 답했습니다. 실제 민법은 1118조가 끝입니다. 이번엔 존재하지 않는 조문을 그럴듯하게 만들어낸 거죠.
지적하면 사과합니다. "죄송합니다, 사실은…" 하고 정정합니다.
문제는, 제가 틀렸다는 걸 알아야만 지적할 수 있다는 겁니다. 모르는 상태에서 물어봤다면? 가짜 법령 위에서 검토 의견이 나갔을 겁니다. 법무 검토의 토대가 가짜라면, 그 위에서 이루어지는 모든 판단도 무너집니다.
왜 이런 일이 생기느냐. AI는 법령 데이터베이스를 조회하는 게 아닙니다. 학습 데이터를 바탕으로 그럴듯한 텍스트를 생성합니다. 법령도 예외가 아닙니다. 원문을 끌어오는 게 구조적으로 불가능하고, 어찌됐든 답을 해야 하니 없는 조항을 만들어냅니다. LLM 방식 AI의 한계라고 하네요.
그래서 저는 AI를 법무 검토에 제한적으로 쓸 수밖에 없었고, 조문은 법제처에서 직접 찾아볼 수밖에 없었습니다.
해결책은 하나였습니다. AI가 법령을 생성하지 않고, 실시간으로 원문을 조회해서 가져오게 하기.
찾아보니 MCP(Model Context Protocol)라는 게 있었습니다. Claude에 외부 도구를 연결하는 프로토콜 표준입니다. 그리고 법제처 Open API를 Claude에 바로 연결해주는 MCP가 이미 GitHub에 존재했습니다.
설치하는 데 사흘이 걸렸습니다.
결론부터 말씀드리면, 다섯 번 막혔습니다.
GitHub의 MCP 설치 문서를 그대로 따라하려 했습니다. 막힐 때마다 Claude가 원인을 짚어줬고, 저는 이해 못 해도 괜찮았습니다. 터미널에 입력하라면 복붙. Claude에 입력하라면 복붙. 오류가 뜨면 그 오류 메시지를 그대로 복붙해서 "이렇게 뜨는데?"라고 했습니다.
npx -y mcp 실행 → "'npx'은(는) 인식되지 않습니다" Node.js가 없는 게 원인이라고 했습니다. 알려준 링크에서 설치했습니다.
다시 실행 → PowerShell 스크립트 차단 오류 명령어 하나 입력하면 된다고 했습니다. 입력했습니다.
다시 실행 → /mcp가 깜빡이기만 함 "이거 왜 이래?" 했더니, 첫 실행은 패키지 다운로드 중이라 그럴 수 있다고. 기다렸다가 재시작하랍니다.
그리고… 재부팅 후 "연결된 거 맞아?" 물었더니… 드디어 MCP tool 연결 성공!
Claude와 티키타카 하다 보니, 어느새 설치가 끝나 있었습니다.
이번엔 "1203조는 존재하지 않습니다"
같은 질문을 다시 던졌습니다. 답이 달랐습니다.
"민법 1203조는?"
이번엔 달랐습니다. 법제처 DB를 API로 직접 조회하더니, "1203조는 존재하지 않습니다."
없는 조항을 지어내지 않습니다. 실시간 개정 법령도 즉시 반영됩니다. 기존보다 훨씬 명확하게 알려줍니다.
MCP 하나로는 부족했습니다.
도구는 됐지만, 그것만으로는 검토를 맡길 수 없었습니다.
연결은 됐습니다. 그런데 그것만으로는 부족했습니다. 도구가 아무리 정확해도, 어떻게 사용할지 기준이 없으면 엉뚱한 방향으로 갑니다.
그래서 실무 원칙을 추가했습니다.
검색·검토 시 반드시 정의 조항부터 확인할 것
법령은 시행령까지 함께 불러올 것
예외 사례나 우회 근거가 있는 경우 관련 조항을 함께 불러올 것
그 규칙을 Claude에게 이야기하고 추가해달라고 했습니다. 이제 '에이전트'라고 부를 만한 수준입니다. 제가 작성한 그 기준대로 검토합니다.
결국 이 에이전트는 두 축으로 완성됐습니다. 정확한 데이터를 가져오는 도구(MCP), 그리고 어떻게 판단할지를 담은 기준(제가 추가한 규칙). 전자는 MCP가, 후자는 저와 제 AI 멘토인 Kook이 담당했습니다. (항상 감사합니다 Kook!)
완성된 에이전트 위에서, 규칙은 계속 다듬을 수 있습니다. 실무에서 새 검토 유형이 생기거나 놓친 지점을 발견하면, Claude에게 이야기하고 규칙을 업데이트하면 됩니다. 코드를 수정하는 게 아니라, 말로 가르치면 됩니다. 에이전트는 그렇게 조금씩 더 나아집니다.
그래도, 맹신은 금물입니다
이 에이전트는 출발점이지, 종착점이 아닙니다.
하위 법령·조례·고시는 검색 범위 밖일 수 있고, 공개되지 않은 판례도 많습니다. 유권해석이나 부처 회신처럼 법령에 담기지 않는 실무 기준도 존재합니다.
에이전트의 의견은 법무 검토의 출발점이지 끝이 아닙니다. 이후 판단은 여전히 사람이 합니다.
어렵지 않습니다, 시작이 어려웠을 뿐
저는 코드를 몰랐고, 지금도 모릅니다. 그런데 만들었습니다.
막힐 때마다 Claude한테 물어봤고, Claude가 매번 원인을 설명해줬습니다. 제가 직접 한 건 법제처 API 키 발급, 그것 하나입니다.
KCD는 Claude Code를 쓸 수 있는 환경을 제공하고, AI 앰버서더 프로그램처럼 비개발자도 AI를 실무에 연결할 수 있도록 지원합니다. 그 판 위에서, 저 같은 사람도 이런 걸 만들 수 있었습니다.
AI 도구가 막막하게 느껴지는 건, 잘 모른다는 느낌 때문이기도 합니다. 그 느낌, 저도 있었습니다. 그래도 했고, 됐습니다.