모듈 Gen-2: LLM 모델 이해 및 활용 (16h)

학습 결과

학생은 NLP 기초부터 LLM까지의 진화 과정을 이해하고, Fine-tuning을 통해 도메인 특화 모델을 구축할 수 있다.

선행 학습

• Module Gen-1: Transformer 아키텍처 이해 → LLM 기반 기술 습득의 전제

ABCD 학습목표 & Bloom 수준

#	ABCD 학습목표	Bloom 수준	관련 sources	평가 방법
Gen-2-1	Behavior: Tokenization·Positional Encoding·Embedding의 역할을 설명하고 / Condition: 실제 LLM 입력 단계에서 / Degree: 토큰화 프로세스를 손으로 추적 가능	Understand	the-illustrated-transformer	토큰화 프로세스 검증
Gen-2-2	Behavior: LoRA(Low-Rank Adaptation) 또는 QLoRA를 이용하여 오픈소스 LLM을 Fine-tuning하고 / Condition: 도메인 특화 데이터(500+문장)로 / Degree: 기본 모델 대비 도메인 정확도 20% 이상 향상	Apply	fine-tuning-llms-lora-qlora-medium, lora-qlora-insights-from-experiments	Fine-tuning 결과 검증

📚 사용 Sources (권장 읽기 순서)

순서	Sources	학습목표	예상 학습 시간	비고
1️⃣	the-illustrated-transformer	Gen-2-1	1.5h	기초: Encoder-Decoder, Tokenization, Positional Encoding 시각화
2️⃣	fine-tuning-llms-lora-qlora-medium	Gen-2-2	2h	핵심: LoRA/QLoRA 개념 + 파인튜닝 실전 실습
3️⃣	lora-qlora-insights-from-experiments	Gen-2-2	1.5h	심화: 수백 실험에서 도출한 LoRA 최적화 인사이트
	학습 시간 합계	Gen-2-1~Gen-2-2	~5h	강의 16h 중 이론·실습 학습 부분

강의 자료 출처

• the-illustrated-transformer — Encoder-Decoder 구조, 토큰화, 위치 인코딩 시각화 (학습목표 Gen-2-1)
• fine-tuning-llms-lora-qlora-medium — LoRA/QLoRA 파인튜닝 실전 기록, 하이퍼파라미터 튜닝 (학습목표 Gen-2-2)
• lora-qlora-insights-from-experiments — 수백 실험 인사이트, Rank 최적화, 벤치마크 분석 (학습목표 Gen-2-2)

역링크

⬅️ lecture-planning-2026에서 참조