JYP Garden Internal

Reference Sliding Window Attention (R-SWA)

Properties1
tagsattention, ocr, long-context, document-ai, knowledge

3 min read

Reference Sliding Window Attention (R-SWA)

다페이지 문서 파싱·OCR처럼 입력 참조 범위는 넓게 유지하면서도 출력 생성 시 메모리 증가를 억제하려는 attention 설계. Unlimited-OCR 문맥에서는 문서 전체 이미지/프롬프트는 계속 참조하되, 출력 토큰 쪽은 최근 윈도우만 집중해 KV cache 증가 병목을 줄이는 방식으로 소개된다.

왜 중요한가

  • 기존 다페이지 OCR은 페이지 수와 출력 길이가 늘수록 KV cache가 커져 디코딩 속도가 급격히 느려질 수 있다.
  • R-SWA는 “문서 전체 참조 + 출력 최근 구간 집중” 구조로 장문 출력 비용을 통제하려는 접근이다.
  • 결과적으로 페이지를 따로 OCR한 뒤 다시 병합하던 워크플로를, 문서 전체를 한 번에 보는 방식으로 바꿀 가능성을 만든다.

핵심 아이디어

  • Reference: 이미지 토큰과 프롬프트는 전체 문서를 계속 참조한다.
  • Sliding Window: 출력 토큰은 직전 일정 길이(window)만 강하게 본다.
  • 효과: 출력이 길어져도 cache가 선형으로 비대해지는 문제를 완화한다.

실무 해석

  • 장문 계약서·보고서·제안서 OCR에서 페이지 간 문단 단절, 제목 계층 붕괴, 포맷 병합 비용을 줄이는 데 유리할 수 있다.
  • 단, “긴 문서를 한 번에 본다”는 것이 곧바로 한국어 정확도 보장을 뜻하지는 않는다. 장문 유지성과 문자 정확도는 별도로 검증해야 한다.

JYP Labs 관점

  • 문서 AI 파이프라인을 평가할 때 단순 OCR 정확도 외에 다페이지 일관성 / 레이아웃 보존 / 장문 추론 비용 / 병합 후처리 복잡도를 함께 봐야 한다.
  • R-SWA류 설계는 에이전트 문서처리 워크플로에서 “분할-병합” 단계를 줄이는 인프라 후보로 볼 수 있다.

관련 노트

참고

그래프 뷰

백링크