Cohere, Rerank 5 공개 - 검색 결과 재정렬부터 문서 속 핵심 구절 추출까지

7 hours ago 4

Cohere가 검색 결과를 질문과의 관련성에 따라 재정렬하는 Rerank 5를 공개. 품질 중심의 Pro와 속도 및 비용을 고려한 Fast 두 모델로 제공
새 기능 Context Focus는 문서 순위를 매기는 데서 나아가, 문서 안에서 질문에 필요한 구절까지 추출. API 한 번으로 문서 관련성 점수와 구절별 점수를 함께 반환
30개 질의응답 데이터셋 평가에서 컨텍스트를 절반으로 줄였을 때 답변 품질의 96%를 유지. 임계값을 조절해 전달할 근거의 양과 토큰 사용량을 조정할 수 있음
검색 에이전트 평가에서는 BM25만 사용했을 때보다 전체 토큰 사용량을 35% 줄이면서 정답률을 46%에서 58%로 높였다고 보고
Pro는 공개 벤치마크를 구성하는 46개 데이터셋 중 39개에서 1위. 한국어 내부 평가 점수는 91.8로, 이전 Rerank 4 Pro의 89.8에서 상승
관련성 점수를 문서가 유용할 확률에 가깝게 보정. 고정된 상위 문서 개수 대신 점수 기준으로 문서를 걸러내거나, 관련 자료가 부족할 때 재검색하도록 구성 가능
기존 키워드, 벡터, 하이브리드 검색에 재색인 없이 추가할 수 있음. API 가격은 100만 토큰당 Pro 0.05달러, Fast 0.02달러
성능 수치는 Cohere 자체 평가 기준이며, 검색 품질 비교에는 자체 평가 방식인 RCP-nDCG@10을 사용.