Enhancing RAG Performance with GA-based Weighted Reranker Optimization

Abstract

This study presents a novel approach for optimizing reranker performance in Retrieval-Augmented Generation (RAG) systems using Genetic Algorithms (GA). Existing RAG systems typically rely on fixed weights or single reranker models, which fail to effectively capture the diverse characteristics of multiple reranker models. To address this limitation, we propose using GA to dynamically optimize the weights of reranker models by assigning optimal weights to each reranker and maximizing their characteristic that can enhance the accuracy of the final document ranking. Experiments conducted with 708 document-query pairs show that the GA-optimized reranker achieved an accuracy rate of 76.69%, significantly outperforming the highest-performing individual reranker, FlashRank (72.88%). This study demonstrates that GA optimization can significantly improve reranking performance in RAG systems and highlights its potential for application in complex domains such as finance. Additionally, the proposed GA-based optimization method effectively combines multiple reranker models to maximize document retrieval and response performance.|본 연구는 유전자 알고리즘(Genetic Algorithm, GA)을 활용하여 Retrieval-Augmented Generation (RAG) 시스템의 리랭커(Reranker)의 성능을 최적화하는 접근 방안을 제시한다. 기존의 RAG 시스템은 주로 고정된 가중치나 단일 리랭커 모델에 의존하여 여러 리랭커 모델의 다양한 특성을 충분히 반영하지 못한다는 한계가 있다. 이를 극복하기 위해 본 연구에서는 GA를 활용하여 각 리랭커 모델의 가중치를 동적으로 최적화하고, 이를 통해 리랭킹 성능을 개선해 최종 문서 순위 결정의 정확도를 높일수 있고자 하였다. 실험은 708개의 문서-질의 쌍을 사용하여 수행되었으며, GA 최적화 리랭커는 76.69\%의 정답률을 기록하며, 개별 리랭커 중 가장 높은 성능을 보인 FlashRank(72.88\%)를 초과하는 성과를 달성하였다. GA는 각 리랭커에 적합한 가중치를 할당하여 리랭커들의 장점을 극대화하며, 최종 문서 순위 결정의 정확도를 크게 향상시켰다. 본 연구는 GA 기반 최적화가 RAG 시스템의 리랭킹 성능을 크게 향상시킬 수 있음을 보여주며, 금융과 같은 복잡한 도메인에 적용할 잠재력을 지닌다는 점을 강조한다. 또한, 제안된 GA 기반의 최적화 방법이 다양한 리랭커 모델을 효과적으로 결합하여 문서 검색 및 응답 성능을 극대화하는 역할을 할 수 있음을 보여준다.