직원의 개인적 노하우를 AI에게 학습시키는 방법 | 기업 암묵지 자산화 전략

"데이터를 충분히 넣었는데 AI가 기대만큼 작동하지 않아요."

크몽 AX팀이 진단을 위해 클라이언트분들을 만나면 이미 AI툴(LLM모델)을 쓰며 회사의 데이터를 학습시키신 분들이 많습니다. 예전에 비하면 AI를 유용하게 사용하시는 것 같습니다. 하지만 문서를 업로드하고, 데이터베이스를 연결하고, 회사 자료를 넣었는데 결과물이 여전히 어딘가 어색하다는 생각이 듭니다. 아무리 학습시켜도 AI가 업무 맥락을 모르는 것처럼 느껴지신다고 얘기합니다.

이 문제의 원인 대부분은 데이터의 양이 적어서가 아니라 암묵지(Tacit Knowledge)가 담겨있지 않기 때문입니다. 문서에 담기지 않는 경력직의 판단 기준, 의사결정 맥락, 조직 고유의 노하우가 AI에게 전달되지 않으면 어떤 도구를 써도 한계가 생깁니다. 이 글은 그 문제를 구조적으로 해결하는 방법을 정리합니다.

📍 목차

1. 암묵지 vs 형식지 — AI는 왜 형식지만으로 부족한가
2. SECI 모델 — 지식 전환의 4단계와 AI의 역할
3. Agentic Work — 업무 흐름 속에서 암묵지를 자동 포착하는 방법
4. 지식 충돌 해결 — 시니어 간 노하우가 다를 때 3단계 접근
5. Knowledge Graph — 조직 판단 체계를 구조화하는 기술
6. 크몽 AX의 암묵지 자산화 접근 방식

암묵지 vs 형식지 — AI는 왜 형식지만으로 부족한가

지식경영 분야의 선구자 이쿠지로 노나카(Ikujiro Nonaka)는 조직 내 지식을 두 종류로 구분했습니다. 형식지(Explicit Knowledge)는 언어·숫자·도식으로 표현 가능한 문서화된 지식이고, 암묵지(Tacit Knowledge)는 경험과 직관 속에 내재되어 언어로 표현하기 어려운 지식입니다.

대부분의 AI 도입 프로젝트는 형식지를 학습시키는 데 집중합니다. 문서를 업로드하고, 데이터베이스를 연결하고, 보고서를 입력합니다. 그러나 실무에서 차이를 만드는 것은 문서에 없는 판단 기준과 맥락입니다. 이것이 암묵지이고, AI에게 전달되지 않으면 어느 도구를 써도 한계가 생깁니다.

-

형식지 (Explicit Knowledge)

문서화된 지식 : 누구나 접근하고 전달할 수 있습니다. AI가 가장 잘 처리하는 영역입니다.

• 업무 매뉴얼, 프로세스 문서
• 데이터베이스, 보고서 양식
• 법규, 규정, 계약서

암묵지 (Tacit Knowledge)

체험으로 쌓인 지식 : 조직 경쟁력의 핵심이지만 AI 학습에서 가장 많이 누락됩니다.

• 거래처별 소통 뉘앙스와 관계 맥락
• 경영진이 선호하는 보고 방식
• 위기 상황에서의 판단 기준

SECI 모델 — 지식 전환의 4단계와 AI의 역할

노나카가 제시한 SECI 모델은 암묵지와 형식지가 서로 도움을 주며, 조직 지식이 성장하는 순환 구조를 설명합니다. AI 도입 관점에서 이 모델은 '어느 단계에서 AI가 개입하고, 어느 단계에서 사람이 반드시 개입해야 하는가'를 판단하는 실무 프레임입니다. 많은 조직이 AI를 도입하면서 연결화(C) 단계만 자동화합니다. 이미 명시된 지식을 처리하고 재조합하는 데는 탁월하지만, 암묵지가 가장 밀집된 공동화(S)와 표출화(E) 단계를 설계하지 않으면 AI는 표면적 업무 처리는 가능하지만 조직 고유의 판단 기준을 갖추지 못합니다.

-

(1) Socialization 공동화 (암묵지 → 암묵지)

직접 경험과 관찰을 통해 암묵지가 전달됩니다. 도제 방식 교육, 현장 동행, OJT가 이에 해당합니다.

(2) Externalization 표출화 (암묵지 → 형식지)

암묵지를 언어·도식·개념으로 표현합니다. 가장 어렵지만 자산화의 핵심 단계입니다.

(3) Combination 연결화 (형식지 → 형식지)

구조화된 지식을 결합·분류·재편집합니다. AI가 가장 효과적으로 지원하는 구간입니다.

(4) Internalization 내면화 (형식지 → 암묵지)

명시된 지식을 체화하여 다시 개인의 암묵지로 전환합니다. 학습과 경험의 반복이 핵심입니다.

Agentic Work — 업무 흐름 속에서 암묵지를 자동 포착하는 방법

암묵지를 수집하는 가장 흔한 방법은 "직원에게 자신의 노하우를 문서로 정리해 달라"고 요청하는 것입니다. 이 방식은 구조적으로 한계가 있습니다. 암묵지의 특성상 보유자 본인도 자신이 무엇을 알고 있는지 완전히 인식하지 못하는 경우가 많기 때문입니다. 또한 별도의 문서화 작업은 업무 부담으로 인식되어 형식적인 결과물로 끝나기 쉽습니다.

이럴 때 중요한 개념이 Agentic Work입니다. McKinsey, Gartner, Deloitte 등 주요 기관이 2025년 핵심 기업 AI 전략으로 주목하는 개념으로, AI 에이전트가 단순 응답이 아닌 업무 도구를 직접 사용하며 자율적으로 작업을 수행하는 방식입니다. 이 과정에서 결과물뿐 아니라 업무의 의도와 맥락이 자연스럽게 기록됩니다.

-

1. 업무 흐름의 에이전트화

AI 에이전트가 특정 업무를 수행하는 모든 단계를 기록합니다. '어떤 도구를 왜 선택했는가', '어떤 순서로 판단했는가'가 데이터로 남습니다.

2. 시니어 검토 : 수정을 하는 것 자체가 암묵지의 실행

에이전트 결과물을 시니어가 검토하고 수정합니다. 어디를, 어떻게, 왜 수정했는지가 구조화된 학습 데이터가 됩니다. 이 수정 행위 자체가 SECI 모델의 표출화(E) 과정입니다.

3 학습 루프 : 판단 기준의 점진적 내재화

수정 패턴이 누적될수록 에이전트는 시니어의 판단 기준을 반영합니다. 별도의 문서화 작업 없이 업무 흐름 속에서 암묵지가 시스템으로 이전됩니다.

4. 조직 전파 : 개인 노하우의 집단 자산화

특정 시니어의 판단 기준이 에이전트를 통해 팀 전체로 전달됩니다. 신규 입사자도 에이전트와 협업하며 실무 감각을 빠르게 체득할 수 있습니다.

지식 충돌 해결 노하우 : 시니어 간 노하우가 다를 때 3단계 접근

실제 조직에서는 동일한 업무에 대해 시니어마다 서로 다른 판단 기준과 방식을 가지고 있는 경우가 흔합니다. 이를 지식 충돌(Knowledge Conflict)이라고 합니다. 이 충돌을 정리하지 않고 혼재된 기준을 AI에 학습시키면, AI는 상황에 따라 일관성 없는 결과를 생성합니다. 지식 충돌을 해결할 때 가장 많이 하시는 실수는 'AI에게 가장 좋은 답변을 선택하게' 위임하는 것입니다. 어떤 방식이 조직에 맞는 기준인지는 AI가 판단할 수 없습니다. 이 판단을 AI에 위임하면 조직 문화와 맞지 않는 기준이 시스템에 내재화될 수 있습니다.

-

첫 번째 단계 : 팩트 체크 — 사실 오류 제거

충돌하는 지식 중 객관적 사실과 다른 정보를 식별하고 제거합니다. 이 단계에서 '틀린 것'과 '다른 것'을 엄밀히 구분하는 것이 핵심입니다. 팩트가 아닌 오류는 제거하지만 방식의 차이는 오류가 아닙니다.

두 번째 단계 : 맥락 태깅 — 지식의 조건화

팩트의 오류가 아닌 '방식의 차이'는 충돌로 보지 않고 맥락에 따라 분리합니다. 해당 지식이 어떤 부서, 직급, 상황, 거래처 유형에서 유효한지를 Knowledge Graph라고 불리는 곳에 따로 태깅합니다. 두 가지 방식이 모두 유효하되, 적용 맥락이 다른 것으로 공존시킵니다.

세 번째 단계 : 조직 문화 기준 — 최종 판단

팩트 체크와 맥락 태깅으로도 해결되지 않는 판단 기준의 충돌은 '우리 회사가 일을 풀어가는 방식', 즉 조직 문화를 기준으로 결정합니다. 이는 기술적 판단이 아닌 경영적 판단의 영역으로 리더들이 결정합니다.

Knowledge Graph — 조직 판단 체계를 구조화하는 기술

암묵지 자산화의 최종 목표는 Knowledge Graph(지식 그래프)를 구축하는 것입니다. Gartner는 Knowledge Graph를 2024년 Hype Cycle의 핵심 기술로 분류하며, 기업 AI의 맥락 이해 문제를 해결하는 인프라로 평가했습니다. Knowledge Graph가 조직에 만드는 실질적 효과는 다음과 같습니다.

• 핵심 인력 이탈 리스크 완화: 시니어의 판단 기준이 개인이 아닌 시스템에 저장됩니다. 퇴직·이동 후에도 노하우가 조직에 남습니다.
• 신규 인력 온보딩 효율화: 에이전트를 통해 시니어의 판단 방식을 실무 속에서 즉시 참고할 수 있습니다.
• 의사결정 일관성 확보: 담당자가 바뀌어도 조직 기준이 일관되게 작동합니다.
• AI 결과물 품질 향상: 범용 LLM에 조직 고유 맥락이 더해져 실무에 적합한 결과물이 생성됩니다.

크몽 AX의 암묵지 자산화 접근 방식

크몽 AX는 암묵지 자산화를 AI 전환(AX) 로드맵의 주요한 과제로 다룹니다. 전사 시스템 도입 이전에 조직의 지식 구조를 먼저 파악하고 설계하지 않으면, 이후 어떤 AI 도구를 도입하더라도 조직 맥락이 빠진 결과물이 반복됩니다.

• 현황 진단: 조직 내 암묵지 의존도가 높은 업무와 핵심 보유자를 먼저 파악합니다.
• PoC-First 검증: 핵심 업무 1개를 선정해 30일 이내에 암묵지 수집 구조를 검증합니다.
• Agentic Work 환경 설계: 직원의 추가 부담 없이 업무 흐름 속에서 암묵지가 포착되는 구조를 구성합니다.
• Knowledge Manager 역할 수행: 지식 충돌 해결과 맥락 태깅을 함께 수행하며 내부 담당자에게 인수인계합니다.
• Knowledge Graph 초기 설계: 조직 판단 체계의 첫 번째 구조를 설계하고 단계적 AX 로드맵에 반영합니다.

크몽 AX의 접근은 'AI 도구를 먼저 고르는 것'에서 시작하지 않습니다. 조직이 무엇을 알고 있는지, 그 지식이 어디에 어떤 형태로 존재하는지를 먼저 파악합니다. 이 구조가 갖춰진 이후에 AI 시스템을 연결할 때, 비로소 조직 고유의 판단 기준이 AI에 반영된 결과물이 나옵니다.

처음부터 전사 시스템을 바꾸지 않습니다. PoC-First 컨설팅으로 검증된 범위에서 시작하고, AX 안전망 구조로 리스크를 관리하며, 첫 성과를 빠르게 확인합니다. 단계적 AX가 크몽의 방식입니다. 실제 우리 회사의 비즈니스에 도움이 되고 사용할 수 있는 AX 전환이 필요하신 분들은 크몽 AX팀의 무료진단부터 시작해보세요. 함께 고민해 드리겠습니다.