CHAPTER 16 (PRACTICE)

내 컴퓨터에서 동작하는
생성형 AI 설치하기

✦ ✦ ✦
— 인터넷 없이도, 데이터가 밖으로 나가지 않는, 완전히 "내 것"인 AI —
활용 도구: Ollama (ollama.com, 완전 무료)
강의 실습 개요
실습 도구 Ollama (ollama.com) 및 Llama 3.1 / Gemma 2 모델
실습 목표 교안의 [실습 B: 기밀 문서 AI 분석] 과정을 따라, 인터넷을 완전히 차단한 상태에서도 외부 서버 전송(유출) 걱정 없이 기밀 문서와 개인정보를 AI로 안전하게 처리하는 로컬 AI의 장점을 체험하기
💡 핵심 포인트
이 실습은 단순히 도구를 설치하는 것이 아니라, 보안과 프라이버시를 직접 체험하는 시간입니다.

먼저 이렇게 해보세요: 노트북의 Wi-Fi를 끄거나, 비행기 모드로 전환해 주세요. 그리고 그 상태에서 실습 프롬프트를 입력해보세요. 인터넷이 완전히 끊겼는데도 내 컴퓨터 안에서 AI가 자연스럽게 답하는 모습을 확인할 수 있습니다.

이 경험을 하시면, "내 데이터가 외부로 나가지 않는다"는 것이 어떤 의미인지 훨씬 확실하게 이해되실 겁니다.
• • •

제 1 부. 대학 직원을 위한 맞춤 실습 10선

(대상: 학사/교무/재정/행정/인사/총무 등 대학 행정 업무 담당자)
교직원분들은 학생의 개인정보(주소, 성적, 연락처)나 교직원 인사 평가, 미공개 예산안 등 외부 클라우드 AI(ChatGPT 등)에 올리면 보안 규정 위반이 되는 민감한 데이터를 다룹니다. Ollama를 활용하면 보안 사고 걱정 없이 AI의 도움을 받을 수 있습니다.

실습 01 [인사/행정] 교직원 다면평가 및 인사고과 서술형 의견 요약
상황: 동료 평가 등 익명으로 작성된 민감한 서술형 인사 평가 데이터를 종합해야 할 때. (ChatGPT에 입력 불가)
실습 방법: Wi-Fi 연결 해제 후 Ollama 터미널 실행
▸ 프롬프트 예시:
"(수십 명의 서술형 평가 텍스트를 붙여넣은 후) 이 인사평가 의견들을 분석해서, 해당 직원의 '소통 능력', '업무 전문성', '리더십' 3가지 항목으로 나누어 잘된 점과 개선할 점을 요약해 줘."
실습 02 [학사/교무] 개인정보가 포함된 학생 징계/상담 위원회 회의록 정리
상황: 학생의 실명과 학번, 민감한 사유가 포함된 위원회 회의록의 초안을 작성해야 할 때.
실습 방법: 오프라인 상태에서 Ollama(Llama 3.1) 모델에 질의
▸ 프롬프트 예시:
"다음은 오늘 진행된 학생 지도 위원회 회의 메모야. 학생 개인정보와 민감한 사유가 포함되어 있어. 이 메모를 '사건 개요', '위원별 의견', '최종 결정 사항'으로 나누어 공식 회의록 포맷으로 다듬어 줘."
실습 03 [재정/예산] 외부 비공개 차년도 대학 예산 편성안 검토
상황: 아직 이사회 승인이 나지 않은, 외부에 절대 유출되면 안 되는 내년도 예산안의 변동 폭을 분석할 때.
실습 방법: 인터넷 차단 후 로컬 AI 실행
▸ 프롬프트 예시:
"다음은 우리 대학의 2027학년도 예산안 초안 데이터야. 올해 대비 예산이 가장 많이 삭감된 상위 3개 부서를 찾고, 삭감 사유를 예산안 텍스트에 기반해서 3줄로 설명해 줘."
실습 04 [학생/장학] 저소득층 장학금 신청 사유서(가정사) 요약
상황: 학생들의 어려운 가정 형편과 경제적 상황이 적나라하게 담긴 사유서를 심사위원용으로 요약해야 할 때.
실습 방법: Ollama 실행 후 텍스트 프롬프트 입력
▸ 프롬프트 예시:
"다음 장학금 신청 사유서 5건을 읽고, 심사위원들이 빠르게 파악할 수 있도록 각 학생의 경제적 어려움의 핵심 원인(예: 부모님 실직, 투병 등)과 아르바이트 병행 여부를 엑셀 표에 넣기 좋게 요약해 줘."
실습 05 [총무/계약] 외부 업체와의 비밀유지협약(NDA) 초안 비교
상황: 특정 업체와 맺을 기밀 계약서 조항을 검토하는데, 외부 클라우드 AI에 올리면 기업 비밀이 유출될 수 있을 때.
실습 방법: Wi-Fi를 끄고 계약서 텍스트를 로컬 AI에 입력
▸ 프롬프트 예시:
"이 비밀유지협약서 초안을 분석해 줘. 대학(갑)의 입장에서 나중에 법적으로 불리하게 작용할 수 있는 '손해배상 책임'이나 '비밀 유지 기간' 조항이 있다면 찾아내고, 어떻게 수정하면 좋을지 제안해 줘."
실습 06 [기획/평가] 미공개 대학 구조조정 및 학과 통폐합 기획안 브레인스토밍
상황: 대학 내부에서만 극비리로 논의 중인 학과 통폐합 시나리오의 장단점을 정리해야 할 때.
실습 방법: 철저한 오프라인 환경에서 로컬 AI 보조 활용
▸ 프롬프트 예시:
"현재 우리 대학은 '인문학부'와 '사회과학부'를 '글로벌융합학부'로 통합하는 방안을 극비리에 검토 중이야. 이 통합으로 인해 발생할 수 있는 교수진의 반발 논리 3가지와, 이를 설득하기 위한 행정적 대안을 정리해 줘."
실습 07 [감사/관리] 교내 정기 감사 지적 사항 및 징계 보고서 분석
상황: 각 부서의 예산 오남용, 복무 규정 위반 등 민감한 감사 결과 보고서를 유형별로 분류해야 할 때.
실습 방법: 인터넷 연결 해제 후 감사 초안 데이터 입력
▸ 프롬프트 예시:
"다음 감사 지적 사항 리스트를 분석해서, '예산 지침 위반', '복무 규정 위반', '기타'로 카테고리를 분류하고, 가장 빈번하게 발생하는 위반 사례를 요약해 줘."
실습 08 [산학/연구] 미공개 특허 출원서 및 기술 이전 제안서 영문 번역
상황: 교수님의 미공개 핵심 연구 기술(특허 출원 전)을 영문으로 번역해야 하는데 유출이 우려될 때.
실습 방법: 오프라인 상태에서 Gemma 2 또는 Llama 3.1 활용
▸ 프롬프트 예시:
"다음은 우리 대학 연구실에서 개발한 세계 최초의 '차세대 배터리 소재' 기술에 대한 초록이야. 특허 출원 전 기밀문서이므로 절대 외부로 유출되면 안 돼. 이 내용을 가장 전문적인 학술 영어(Academic English)로 번역해 줘."
실습 09 [입학/홍보] 입학 면접관 평가 코멘트 및 채점표 분석
상황: 면접관들이 수험생들에 대해 남긴 주관적이고 민감한 평가 코멘트를 종합하여 합불 근거를 정리할 때.
실습 방법: 로컬 AI에 면접 평가 데이터 입력
▸ 프롬프트 예시:
"면접 번호 1024번 수험생에 대한 면접관 3명의 평가 코멘트야. 평가자 A는 '창의성은 좋으나 논리 부족'이라고 했고, B와 C의 의견도 있어. 이 코멘트들을 종합해서 1024번 수험생의 최종 평가 요약본을 작성해 줘."
실습 10 [공통/해외출장] 비행기 안(오프라인)에서 출장 결과 보고서 작성
상황: 인터넷이 터지지 않는 장거리 비행기 안에서, 노트북을 열고 며칠간 쌓인 출장 메모를 보고서로 만들고 싶을 때.
실습 방법: 비행기 모드 상태에서 Ollama 터미널 실행
▸ 프롬프트 예시:
"나는 지금 인터넷이 안 되는 비행기 안이야. 내가 출장지에서 적은 두서없는 메모들을 줄 테니, 이것들을 '출장 목적', '주요 면담 내용', '향후 추진 과제' 순서로 깔끔한 공식 출장 결과 보고서로 변환해 줘."
• • •

제 2 부. 학부생을 위한 맞춤 실습 10선

(대상: 인문/사회/경영/경제/통계/호텔/미술 등 비전공 학부생)
학생들은 인터뷰 대상자의 프라이버시가 담긴 녹취록, 유출되면 안 되는 공모전 아이디어, 미발표 창작물 등을 다룰 때 로컬 AI를 활용할 수 있습니다. 또한, 유료 구독(월 3만 원) 없이 무제한으로 대량의 문서를 처리할 수 있다는 큰 장점이 있습니다.

실습 11 [사회/미디어] 민감한 심층 인터뷰(FGI) 녹취록 텍스트 분석
상황: 사회학 과제로 '가정 폭력 피해자' 또는 '사내 괴롭힘' 등 인터뷰이의 신원과 민감한 개인사가 담긴 녹취록을 분석해야 할 때.
실습 방법: Wi-Fi 끄고 로컬 AI에 텍스트 붙여넣기
▸ 프롬프트 예시:
"(가명 처리된 녹취록 입력 후) 이 인터뷰는 매우 민감한 개인 경험을 다루고 있어. 응답자가 사회적 지원 시스템에서 느낀 가장 큰 한계점 3가지를 분석해 주고, 연구 윤리에 위배되지 않도록 객관적인 어조로 요약해 줘."
실습 12 [경영/경제] 대규모 창업 공모전 혁신 비즈니스 모델(BM) 검토
상황: 아직 특허나 상표권 등록 전인 혁신적인 스타트업 아이템을 ChatGPT에 입력했다가 학습 데이터로 쓰일까 봐 불안할 때.
실습 방법: 오프라인 상태에서 Ollama 활용
▸ 프롬프트 예시:
"우리 팀이 이번 공모전에 낼 아이디어는 'AI 기반 1인 가구 맞춤형 식단 구독 및 재고 관리 플랫폼'이야. 이 사업의 핵심 수익 모델(BM)을 설명할 텐데, 경쟁사가 따라 할 수 없는 우리만의 해자(Moat)를 구축할 마케팅 전략을 브레인스토밍해 줘."
실습 13 [인문/문학] 미발표 자작 소설 및 에세이 윤문 및 피드백
상황: 내가 직접 쓴 독창적인 세계관의 소설이나 개인적인 에세이를 다듬고 싶은데, AI의 학습 데이터로 흡수되어 표절 논란이 생길까 두려울 때.
실습 방법: 인터넷 차단 후 Llama 3.1에 질의
▸ 프롬프트 예시:
"다음은 내가 출판을 목표로 쓰고 있는 디스토피아 SF 소설의 1장 초안이야. 내 창작물이니 외부로 유출되면 안 돼. 문맥이 어색한 문장이나 묘사가 부족한 부분을 찾아서 소설가의 관점에서 피드백해 줘."
실습 14 [미술/디자인] 미공개 졸업 작품 컨셉 및 기획 의도 정리
상황: 아직 전시되지 않은 내 졸업 작품의 철학적 배경과 디자인 컨셉을 텍스트로 정리해야 할 때.
실습 방법: 로컬 AI에 기획 스케치 텍스트 입력
▸ 프롬프트 예시:
"내 졸업 전시 작품은 '현대인의 디지털 소외'를 주제로, 스마트폰 부품들을 해체해서 캔버스에 재조립한 입체 미술이야. 이 미공개 작품의 도록에 들어갈 서문(Artist Statement)을 예술 비평가처럼 전문적인 어조로 작성해 줘."
실습 15 [통계/데이터] 개인정보가 포함된 로우 데이터(Raw Data) 코딩 보조
상황: 설문조사 응답자의 전화번호나 이메일이 일부 섞인 엑셀 데이터를 파이썬(Python)이나 R로 전처리하려는데 코딩이 막힐 때.
실습 방법: 데이터 유출 없이 Ollama에게 코드 질문만 수행
▸ 프롬프트 예시:
"응답자의 이메일 주소와 나이가 포함된 데이터프레임(df)이 있어. 개인정보 보호를 위해 이메일 주소의 아이디 뒷부분을 모두 '*'로 마스킹(Masking) 처리하고 싶은데, 파이썬 pandas 코드를 어떻게 짜야 해?"
실습 16 [호텔/관광] 호텔 고객의 민감한 컴플레인 데이터 분석
상황: 산학협력 프로젝트로 특정 호텔의 실제 고객 불만 접수 내역(VIP 고객 명단 일부 포함)을 분석해서 서비스 개선안을 도출해야 할 때.
실습 방법: Wi-Fi 연결 해제 후 데이터 요약
▸ 프롬프트 예시:
"다음은 파트너십을 맺은 호텔의 실제 컴플레인 데이터야. 객실 위생과 관련된 불만 사항만 추출해서, 어떤 층/어떤 객실 타입에서 가장 문제가 많이 발생했는지 요약해 줘."
실습 17 [법학/행정] 개인정보가 가려지지 않은 실제 판결문/행정처분서 분석
상황: 과제를 위해 스크랩한 원본 행정 처분서에 이름이나 주소가 남아 있어서 클라우드 AI에 올리기 찜찜할 때.
실습 방법: 로컬 AI로 오프라인 텍스트 요약
▸ 프롬프트 예시:
"이 행정 처분서 원문에서 당사자의 개인정보를 무시하고, '처분 사유'와 '적용된 법 조항(근거)'이 무엇인지만 법률 용어로 간략하게 추출해 줘."
실습 18 [언론/미디어] 엠바고(보도 유예)가 걸린 보도자료 사전 요약
상황: 내일 오전 9시까지 절대 외부에 공개되면 안 되는 기업의 엠바고 보도자료를 미리 분석해 기사 초안을 작성해야 할 때.
실습 방법: 오프라인 상태에서 Ollama 실행
▸ 프롬프트 예시:
"이 자료는 내일 아침까지 절대 유출 불가인 A기업의 신제품 발표 보도자료야. 이 내용을 바탕으로 대학생 독자층을 겨냥한 흥미로운 카드뉴스용 헤드라인 3개와 본문 텍스트 3단락을 작성해 줘."
실습 19 [전공 공통] 데이터 무제한 처리 (유료 API 비용 절감 실습)
상황: 수십 편의 논문을 분석해야 하는데, ChatGPT 무료 버전의 '사용량 초과(Limit Reached)' 제한에 걸렸을 때.
실습 방법: Ollama를 활용해 무제한 텍스트 입력 체험
▸ 프롬프트 예시:
"(A4 50장 분량의 논문 텍스트를 제한 없이 계속 복사/붙여넣기 하며) 1번 논문의 서론 요약해 줘. 2번 논문 요약해 줘... (횟수 제한 없이 AI가 응답하는 것을 체감)"
실습 20 [일상/공통] 기차나 도서관 지하 등 와이파이가 끊기는 곳에서 과제하기
상황: 명절에 내려가는 KTX 안이나 인터넷이 터지지 않는 도서관 구석 자리에서 급하게 레포트를 써야 할 때.
실습 방법: 핫스팟 연결 없이 내 노트북의 Ollama 실행
▸ 프롬프트 예시:
"지금 와이파이가 안 터져서 구글링을 할 수 없어. 네가 아는 지식만으로 '행동경제학에서 말하는 넛지(Nudge) 효과'의 개념을 설명하고, 일상생활에서 볼 수 있는 대표적인 사례 3가지를 정리해서 내 과제 개요를 잡아줘."