추천 시스템에서 사전학습 언어모델 임베딩의 한계: Semantic-Preference 불일치 현상 분석

초록

사전학습 언어모델(PLM)의 성공에 힘입어 추천 시스템에서도 SBERT 등 PLM 임베딩 활용 연구가 활발히 진행되고 있으나, PLM이 추천 성능 향상에 항상 효과적인지에 대한 체계적 검증은 부족한 실정이다. 본 연구에서는 MovieLens-1M 데이터셋을 대상으로 SBERT(384차원) 임베딩의 효용성을 =50 반복 실험을 통해 분석하였다. 실험 결과, 저밀도(5%) 환경에서 SBERT 임베딩이 오히려 추천 성능을 저해하는 것으로 나타났으며(ΔRMSE=+0.00046, <0.0001), PCA 차원 축소(384→32차원) 적용 시 성능 저하가 4배 더 악화되어 과적합이 원인이 아님을 확인하였다. 이러한 현상은 PLM이 학습한 의미적 유사성 공간과 사용자 선호 공간 간의 불일치, 즉 의미-선호 불일치(Semantic-Preference Misalignment)로 설명된다. 본 연구는 제목과 장르만으로 구성된 제한적 텍스트 환경에서 미세조정 없이 사용되는 동결(Frozen) PLM의 효용성을 검증한 것으로, 풍부한 텍스트가 제공되거나 태스크 특화 미세조정이 적용되는 환경에서는 상이한 결과가 도출될 수 있다. 비용-효과 분석 결과, 추론 시간이 43% 증가하였음에도 정확도 개선이 관찰되지 않아, PLM 임베딩의 무비판적 도입에 대한 주의가 필요함을 시사한다.

키워드