https://blakewoo.github.io/Blake WooTech blog 2026-07-15T15:31:02+09:00 Blake Woo https://blakewoo.github.io/ Jekyll © 2026 Blake Woo /assets/img/favicons/favicon.ico /assets/img/favicons/favicon-96x96.png SIGIR26' - GIGP+, A CPU-GPU Co-Processing Engine for Multi-Vector Retrieval2026-07-14T22:00:00+09:00 2026-07-15T15:30:39+09:00 https://blakewoo.github.io/posts/GIGP+-SIGIR26'/ blakewoo GIGP+: A CPU-GPU Co-Processing Engine for Multi-Vector Retrieval ※ 본 논문을 읽기 전에 IGP 논문을 읽고 오는게 좋다. 1. 문제 정의 PLAID-GPU는 GPU의 병렬성을 잘 살릴 수 있지만, 불필요한 수많은 후보군을 선정하기 때문에 Re-rank 과정에서 많은 연산 시간을 필요하게 한다. IGP는 좀 더 유망한 후보군을 소수 뽑지만 GPU를 병렬성을 활용하지 못한다. 이를 해결하기 위핸 GIGP+ 논문이 등장했다고 말하고 있다. 2. GIGP+ 디자인 2.1. Index build GIGP+가 Index를 빌드하는 절차를 크게 보자면 아래와 같다. 1. 문서 몇개를 샘플링하여 Centroid를 생성 2. 모든 문서를 Multi-... SIGIR25' - IGP, Efficient Multi-Vector Retrieval via Proximity Graph Index2026-07-09T22:00:00+09:00 2026-07-12T21:18:29+09:00 https://blakewoo.github.io/posts/IGP-SIGIR25'/ blakewoo IGP: Efficient Multi-Vector Retrieval via Proximity Graph Index ※ 본 논문을 읽기 전에 PLAID 논문을 읽고 오는게 좋다. 1. 문제 정의 기존의 PLAID나 DESSERT 논문에서 제시한 방법들은 다수의 1차 후보군을 얻은 다음에 이를 가지고 Rerank를 해서 정확도를 높이는 방법을 채택한다. 이 과정에서 1차 후보군을 다수 얻는데 이렇게 많은 1차 후보군을 뽑아내는 것 자체가 시간이 많이 걸리며 그렇다고 1차 후보군을 적게 뽑으면 Recall이 떨어지기 때문에 정확도를 위해 많은 후보군을 뽑을 수 밖에 없는 구조가 성능상 가장 큰 병목이라고 지적한다. 때문에 IGP에서는 기존의 방식보다 정답에 가까운 후보군을 좀 더 적게 뽑는 방식... CIKM22' - PLAID, An Efficient Engine for Late Interaction Retrieval2026-07-07T22:00:00+09:00 2026-07-12T20:50:04+09:00 https://blakewoo.github.io/posts/PLAID-CIKM22'/ blakewoo PLAID: An Efficient Engine for Late Interaction Retrieval ※ 본 논문을 읽기 전에 ColBERTv2 논문을 읽고 오는게 좋다. COLBERTv2 논문의 파생형이다. ColBERTv2와 동일한 저자가 좀 더 나은 형태의 방식을 제시한 것이다. 기본적인 골자는 다르지 않다. 후보 문서를 많이 가져온 뒤에 각 후보 문서의 잔차를 복원하고 full maxsim으로 계산하는 기존 방식과는 달리 Centroid ID 만으로 여러 단계의 비용이 싼 필터링을 수행한 뒤 남은 정말 유망한 후보군만 잔차 복원을 하여 Maxsim을 수행하는 방식이다. 세부적인 방식은 아래와 같다. 1. 문제 정의 논문에서 이전의 ColBERTv2 검색에서 병목은 초기 후보군... NAACL22' - COLBERTv2, Effective and Efficient Retrieval via Lightweight Late Interaction2026-07-06T22:00:00+09:00 2026-07-11T21:39:25+09:00 https://blakewoo.github.io/posts/COLBERTv2-NAACL22'/ blakewoo COLBERTv2: Effective and Efficient Retrieval via Lightweight Late Interaction ※ 본 논문을 읽기 전에 ColBERT 논문을 읽고 오는게 좋다. COLBERT 논문의 파생형이다. 동일한 저자와 다른 공저자가 하나 더 붙어서 좀 더 나은 형태의 방식을 제시한 것이다. 본래는 Model에 대한 개선과 LoTTE (Long-Tail Topic-stratified Evaluation for IR), 그러니까 지식 기반(Knowledge base) 외부에 존재하는 전문적이고 희소한(Long-tail) 주제들을 다루는 데이터셋까지 해당 논문의 기여에 포함이 되어있지만 이번 포스팅에서는 위 두 가지는 다루지 않고 넘어가겠다. 1. 문제 정의... SIGIR20' - COLBERT, Efficient and Effective Passage Search via Contextualized Late Interaction over BERT2026-07-05T22:00:00+09:00 2026-07-07T17:33:09+09:00 https://blakewoo.github.io/posts/COLBERT-SIGIR20'/ blakewoo COLBERT: Efficient and Effective Passage Search via Contextualized Late Interaction over BERT 멀티 벡터 검색의 시초에 가까운 논문이다. 생각해보니 벡터 데이터 베이스 관련 포스팅을 해두고 이러한 기념비적인 논문을 리뷰하지 않았다는 점이 이상하다고 생각이 들어서 해당 논문을 리뷰하게 되었다. 1. 문제 정의 BM25 같은 전통 검색은 빠르다. 하지만 단어가 정확히 겹치지 않으면 검색 성능이 떨어진다. 예를 들어 사용자가 “car repair cost” 라고 검색했는데 문서에는 “automobile maintenance expense” 라고 되어 있으면 의미는 비슷하지만 단어가 다르기 때문에 잘 못 찾을 수 있다. 이걸 논문에...