RAG 챗봇 · 에이전트
챗봇의 품질은 모델이 아니라 검색 품질과 근거 제시 방식에서 결정됩니다.
사내 문서를 근거로 답하는 챗봇. 지어내지 않고, 모르면 사람에게 넘깁니다.
이 솔루션이 해결하는 문제
문서는 있는데 못 찾음
규정·매뉴얼·과거 견적서가 드라이브 어딘가에 있지만, 아는 사람에게 물어보는 게 빠릅니다.
같은 질문 반복 응대
CS·총무·영업지원이 매일 같은 질문에 답합니다.
일반 LLM은 지어냄
사내 규정을 모르는 모델이 그럴듯한 오답을 만들어 더 큰 문제가 됩니다.
접근 방식
- 01문서 수집 · 정규화PDF·HWP·Office·위키·DB를 표/이미지 포함해 텍스트 레이어로 정규화합니다.
- 02청킹 · 임베딩문단 의미 단위 청킹 + 메타데이터(부서·버전·유효기간)를 붙여 벡터화합니다.
- 03하이브리드 검색벡터 유사도 + BM25 키워드 + 리랭킹. 한국어 고유명사·품번 검색 정확도를 위해 필수입니다.
- 04근거 기반 생성검색된 문단만 근거로 답하고 출처를 함께 표기합니다. 근거 부족 시 답하지 않습니다.
- 05평가 · 폴백100문항 골든셋으로 정답률·근거 적합도를 측정하고, 임계값 미달이면 담당자 연결로 전환합니다.
산출물 명세
| RAG 파이프라인 | 수집 → 청킹 → 임베딩 → 검색 → 리랭킹 → 생성 → 평가 전 구간 |
|---|---|
| 관리자 콘솔 | 문서 업로드·버전 교체·색인 상태·차단 키워드 관리 |
| 대화 로그 분석 | 미응답 질문 리포트 — 콘텐츠 보완 우선순위로 재투입 |
| 위젯 · API | 웹 위젯, 사내 메신저 연동, REST API |
| 평가 리포트 | 골든셋 100문항 기준 정답률·근거 제시율·거절율 |
진행 단계
| 단계 | 기간 | 내용 |
|---|---|---|
| 문서 진단 | 1주 | 대상 문서 목록·형식·권한 체계 파악 |
| 파이프라인 구축 | 2주 | 수집·색인·검색 구현 |
| 골든셋 QA | 1~2주 | 100문항 작성, 정답률 개선 반복 |
| 연동 · 오픈 | 1주 | 위젯·권한 연동, 로그 대시보드 |
D1 — 데모는 따로 없습니다. 이 사이트가 데모입니다
우측 하단 챗봇은 이 사이트의 솔루션·레퍼런스·FAQ를 지식베이스로 색인한 자사 RAG 엔진입니다. 답변마다 근거 위치를 표기하고, 근거가 부족하면 답하지 않고 담당자 연결로 전환합니다.
자주 받는 질문
RAG 챗봇이란 무엇인가요?
RAG(Retrieval-Augmented Generation)는 답변을 만들기 전에 사내 문서를 먼저 검색해, 그 문단만 근거로 답을 생성하는 방식입니다. 모델의 기억이 아니라 조직의 문서가 답의 출처가 됩니다.
할루시네이션(허위 생성)은 어떻게 막나요?
검색된 근거 밖의 내용을 쓰지 못하도록 제약하고, 근거 유사도가 임계값 미달이면 "확인 후 안내"로 응답을 전환합니다. 모든 답변에 출처 문서와 페이지를 함께 표시합니다.
우리 문서가 모델 학습에 쓰이나요?
쓰이지 않습니다. 고객 데이터는 학습에 사용하지 않으며, 전용 인덱스로 격리합니다. 학습 미사용 조건이 보장된 API만 사용하고, 요구 시 온프레미스 모델로 구성합니다.
부서별로 볼 수 있는 문서를 제한할 수 있나요?
가능합니다. 문서 메타데이터에 권한 태그를 부여하고 질의 시점의 사용자 권한으로 검색 범위를 먼저 필터링합니다. 권한 밖 문서는 검색 결과에 아예 포함되지 않습니다.
HWP·스캔 PDF도 처리되나요?
HWP는 텍스트 추출로, 스캔 PDF는 OCR을 거쳐 처리합니다. 표가 많은 문서는 표 구조를 유지한 채 색인해 수치 질의 정확도를 확보합니다.
문서가 개정되면 어떻게 되나요?
관리자 콘솔에서 새 버전을 올리면 이전 버전은 색인에서 내려가고, 유효기간이 지난 문서는 자동으로 검색 대상에서 제외됩니다.
구축 기간과 필요한 준비물은요?
통상 4~6주입니다. 고객 측 준비물은 대상 문서 목록과 권한 기준, 그리고 자주 들어오는 질문 30개 정도입니다.
RAG 챗봇 · 에이전트 — 진단부터 시작합니다
범위 확정 전에는 단가를 제시하지 않습니다. 30분 통화로 현재 흐름을 정리하고, 1주 내 아키텍처 초안과 단계별 견적 범위를 문서로 회신합니다.