Vespa.ai, 검색 증강 생성(RAG)에서 콜팔리 지원 발표

검색 증강 생성(Retrieval-Augmented Generation, RAG)을 포함한 AI 애플리케이션용 일류 플랫폼 개발업체인 Vespa.ai가 PDF와 같이 시각 요소가 강화된 문서(visually rich document)를 위한 새로운 오픈소스 검색 모델인 콜팔리(ColPali)를 지원한다고 오늘 발표했다.

콜팔리는 시각적 요소를 포함한 전체 렌더링 문서를 대규모 언어 모델(LLM)에 최적화된 벡터 표현에 임베딩함으로써 문서 검색 성능을 향상시킨다. 이로써 지연 시간을 줄이고 정확도를 개선할 수 있으며, 특히 시각적 요소가 강화된 콘텐츠의 경우에 컨텍스트를 더 잘 인지하는(more context-aware) 정보 검색이 가능해진다. 문서를 텍스트가 아닌 시각적 개체로 취급하는 콜팔리는 복잡한 전처리를 없애고 시각적 컨텍스트를 보존하며 RAG 파이프라인을 간소화한다.

존 브라체트(Jon Bratseth), Vespa.ai의 최고경영자 겸 설립자: “콜팔리의 기능에 우리의 확장 가능한 아키텍처 및 하이브리드 검색을 결합함으로써 Vespa.ai에서 대규모 RAG 및 생성형 AI 애플리케이션을 위한 가장 빠르고 정확한 솔루션을 제공할 수 있게 됐다. 베스파는 배포를 더욱 간소화할 수 있도록 서비스형(as a service)으로 제공된다.”

베스파 소개

베스파(Vespa)는 검색, 추천, 개인화 및 RAG를 위한 AI 기반 애플리케이션을 구축하고 실행하기 위한 플랫폼이다. 대용량 데이터와 높은 쿼리 속도를 처리하여 효율적인 데이터, 추론 및 논리 관리를 제공한다. 베스파는 관리형 서비스와 오픈 소스로 제공된다.

이 보도자료는 해당 기업에서 원하는 언어로 작성한 원문을 한국어로 번역한 것이다. 그러므로 번역문의 정확한 사실 확인을 위해서는 원문 대조 절차를 거쳐야 한다. 처음 작성된 원문만이 공식적인 효력을 갖는 발표로 인정되며 모든 법적 책임은 원문에 한해 유효하다.

웹사이트: https://vespa.ai/