Sample-Incremental Influence Function: A Sensitivity Metric to detect Key Feature Replacement Ji-sung Son Gwangju Institute of Science and Technology

Abstract

인플루언스 함수는 모델의 민감도를 정량적으로 측정하는 지표로, 파라미터 변화의 정도를 측정하고, 모델 파라미터의 동작에 대한 통찰을 제공하며, 재학습 없이도 파라미 터 예측을 가능하게 한다. 전통적인 인플루언스 함수 기반 민감도는 샘플 제거 방식을 기반으로 하여 특정 샘플을 제거했을 때의 영향을 측정하는 데에만 초점이 맞춰져 있 다. 이러한 제한된 접근은 새로운 샘플이 추가될 때 모델의 동작을 분석하는 데 한계가 있으며, 이는 동적 데이터 환경에 적응하는 데 있어 중요한 제약으로 작용한다. 본 연 구에서는 추가 데이터를 기반으로 모델 민감도를 평가할 수 있도록 인플루언스 함수를 확장한 Sample-Incremental Influence Function을 제안한다. 상관 분석, CAM 기반 시각 화를 통해 본 방법의 유효성을 입증하였으며, 주요 특징 교체를 탐지할 수 있는 능력을 확인하였다. 제안된 민감도 지표는 미지의 샘플에 해당하는 특징과 관련된 다양한 응용 분야에서 강력한 잠재력을 보여준다. ©2025 손 지 성 ALL RIGHTS RESERVED|Influence function serves as a quantitative metric of model sensitivity, measuring the degree of parameter variation, offering insights into model parameter behavior, and enabling parameter predictions without the need for retraining. The traditional influence function-based sensitivity relies on a sample-decremental approach, which only measures the impact of removing specific samples. This narrow focus restricts its ability to analyze model behavior in response to newly introduced samples, highlighting a significant limitation in adapting to dynamic data environments. In this work, we present the Sample-Incremental Influence Function that leverages influence function to evaluate the impact of additional data on model sensitivity. Correlation analysis and CAM-based visualization demonstrate the validity of our method and reveal its ability to detect key feature replacement. Sensitivity show strong potential for various applications related to feature corresponding to unknown sample. ©2025 Ji-sung Son ALL RIGHTS RESERVED