RAG 파이프라인 아키텍처

MicrocosmWorks는 소스 권한 순위, 타임스탬프 기반 최신성 가중치, 그리고 각 검색된 구절이 주장을 얼마나 강력하게 뒷받침하는지 평가하는 신뢰도 점수 부여를 통해 RAG 파이프라인에서 충돌 해결을 구현합니다. 상충되는 구절이 검색될 때, 당사의 파이프라인은 가장 권위 있는 답변을 제시하는 동시에 불일치 및 출처 인용을 명확하게 드러내어 사용자가 정보에 입각한 결정을 내릴 수 있도록 합니다. 당사는 또한 도메인 전문가가 잘못된 해결을 표시할 수 있는 피드백 루프를 구축하며, 이는 시간이 지남에 따라 검색 순위를 향상시킵니다.

MicrocosmWorks는 문서 구조에 따라 다른 전략을 적용하는 콘텐츠 인지 청킹을 사용합니다—산문에는 의미론적 문단 분할, 헤더 컨텍스트가 보존된 테이블에는 행 수준 또는 섹션 수준 청킹, 임포트 문(import statements)이 첨부된 코드에는 함수 수준 청킹을 적용합니다. 우리는 각 청크에 문서 제목, 섹션 계층, 콘텐츠 유형을 포함한 메타데이터를 추가하여 검색 단계에서 유형별 스코어링을 적용할 수 있도록 합니다. 이 접근 방식은 우리 고객 프로젝트의 검색 관련성 벤치마크에서 단순한 고정 크기 청킹보다 25-40% 더 우수한 성능을 일관되게 보여줍니다.

MicrocosmWorks는 세 가지 차원에서 RAG 파이프라인을 테스트하는 평가 하네스를 구축합니다: 검색 관련성(올바른 청크가 발견되는가), 답변 충실도(생성된 답변이 검색된 내용을 실제로 반영하는가), 그리고 답변 완전성(전체 질문을 다루는가)입니다. 우리는 도메인 전문가와 함께 알려진 답변 쿼리, 적대적 에지 케이스, 그리고 다중 문서 합성을 요구하는 질문을 포함하는 골든 테스트 세트를 생성합니다. 이 평가는 CI/CD에서 자동으로 실행되므로, 모든 파이프라인 변경 사항은 배포 전에 기준 품질 지표에 대해 벤치마킹됩니다.

MicrocosmWorks는 고객의 규모, 쿼리 패턴, 운영 요구 사항에 따라 벡터 데이터베이스를 선정합니다. 관리 용이성을 위한 Pinecone, 하이브리드 키워드-벡터 검색을 위한 Weaviate, 이미 PostgreSQL에 투자한 팀을 위한 pgvector, 그리고 고성능 자체 호스팅 배포를 위한 Qdrant가 있습니다. 1천만 개 미만의 vectors 규모에서는 대부분의 옵션이 100ms 미만의 지연 시간을 제공하지만, 수억 개의 vectors 규모에서는 index type, quantization, sharding strategy가 매우 중요해지면서 그 차이가 크게 나타납니다. 저희는 architecture design phase에서 고객의 실제 embedding dimensions와 query patterns를 최종 후보 옵션들과 비교하여 벤치마킹합니다.

MicrocosmWorks는 원본 문서 저장소의 변경 사항을 감지하여 수정된 섹션만 재청크 및 재임베딩하고 전체 재인덱싱 없이 벡터 스토어를 업데이트하는 증분 수집 파이프라인을 구축합니다. 저희는 섹션 수준에서 콘텐츠 변경을 감지하는 문서 핑거프린팅을 구현하여, 단일 단락 편집이 전체 200페이지 문서의 재처리를 유발하지 않도록 합니다. 실시간 최신성 요구 사항이 있는 고객을 위해서는 최근 수정된 문서를 원본 시스템에 직접 질의하고 해당 결과를 벡터 검색 결과와 병합하는 실시간 검색 레이어를 추가합니다.