똑똑한 AI 비서(RAG) 만들기

RAG란? — 왜 필요한가?

RAG(검색 증강 생성) 기술은 우리 조직의 문서를 직접 학습시켜, 해당 문서 내 정보만을 근거로 정확하게 답변하는 챗봇을 만듭니다.

일반 AI 챗봇의 한계

인터넷의 일반적인 정보로만 답변함
학칙·내규 등 조직 고유 정보를 알지 못함
그럴듯하지만 틀린 허위 사실(할루시네이션) 생성 위험
최신 변동 사항이 즉시 업데이트되지 않음

RAG 기반 AI 챗봇

사용자가 업로드한 문서 내용만을 근거로 답변
답변에 출처(문서명·페이지 번호)를 자동차로 표시
조직 내부 문서를 업데이트하면 즉시 답변에 반영
내부 업무 및 전문적인 고객 상담에 바로 투입 가능

RAG = Retrieval-Augmented Generation
문서 색인/검색 능력 + AI의 자연어 요약 능력을 결합

도구 소개 — 코딩 없이 만드는 챗봇 'Dify'

Dify 특장점

코딩 없이 RAG 기반의 앱/챗봇을 구성하는 플랫폼
문서를 드래그 앤 드롭하면 AI가 알아서 학습 & 색인
챗봇 구성을 시각적 화면에서 디자인
완성된 챗봇을 링크(URL) 하나로 외부/팀원과 공유

업로드 가능한 문서(지식) 소스

📄 PDF: 학칙, 규정집, 매뉴얼, 학술 논문
📝 텍스트: DOCX 파일, 메모장 TXT 파일
📊 스프레드시트: CSV / XLSX 데이터
🌐 웹 링크: 공식 홈페이지 크롤링

NotebookLM이 개인용이라면, Dify는 '챗봇 서비스 배포/공유용'입니다.

작동 원리 — 4단계 흐름

1. 지식 학습

문서 업로드 & 색인

AI가 PDF 등 문서의 내용을 조각(Chunk)으로 나눠 데이터베이스에 저장합니다.

2. 질문

사용자 질문 입력

외부 사용자 또는 직원이 "휴학 절차가 뭐야?" 하고 자연어로 질문합니다.

3. 검색

4. 답변

답변 및 출처 생성

찾아온 원문 내용만을 토대로 답변을 깔끔하게 작성하고, [출처]를 함께 덧붙입니다.

챗봇 제작 5단계와 활용

Dify 로 챗봇 만드는 5단계

문서 업로드: 학칙.pdf, 가이드.pdf 등
지식베이스 생성: 자동 벡터화 등 Dify가 처리
프롬프트 설정: "친절한 상담사 역할, 출처 표기 필수"
테스트: "졸업요건 물어보기" → 답변 확인
배포 및 공유: 링크로 사용 권한 공유

활용 시나리오: 부서 업무 안내

[업로드] 내부 수의계약/출장 매뉴얼

Q: "수의계약 가능 기준 금액이 얼마야?"
A: "내규 제OO조에 따르면, 2천만원 이하 시 가능합니다 (출처: 계약내규 p.8)"

맞춤 실습: 우리만의 AI 챗봇 만들기

실습 A. 학과 상담 챗봇

[목적] 학생 대상 빈출질문 자동화

학칙/교육과정표 PDF 준비 및 업로드
역할부여: '학사 상담 챗봇봇사'
테스트: "복수전공 졸업요건은?"

실습 B. 부서 업무 챗봇

[목적] 직원 대상 내부 규정 안내

업무 매뉴얼/FAQ 내규 업로드
역할부여: '경영지원팀 봇'
테스트: "출장비 정산 서류 뭐뭐임?"

실습 C. 자유 챗봇

[목적] 내 업무에 맞는 나만의 도우미

연구실 논문 QA (pdf 업로드)
진행할 행사 안내 QA 기획안 등록
이력서/취업 지원 정보 봇