[논문리뷰] On Robustness and Reliability of Benchmark-Based Evaluation of LLMs

링크: 논문 PDF로 바로 열기

저자: Riccardo Lunardi, Vincenzo Della Mea, Stefano Mizzaro, Kevin Roitero

핵심 연구 목표

본 논문은 대규모 언어 모델(LLM)이 문맥에 따라 재구성된 질문에 얼마나 강건한지를 평가하고, 현재 사용되는 벤치마크 기반 평가가 모델의 실제 능력을 얼마나 신뢰성 있게 측정하는지 조사하는 것을 목표로 합니다. 고정된 문구의 벤치마크 질문이 LLM의 실제 적용 능력과 일반화 능력을 과대평가할 수 있다는 우려를 다룹니다.

핵심 방법론

연구팀은 6가지 주요 벤치마크 (MMLU, ARC-C, HellaSwag, OpenBookQA, RACE, SciQ)의 모든 질문에 대해 GPT-4o mini를 사용하여 5가지 다양한 패러프레이즈를 체계적으로 생성했습니다. 이후 34개의 최신 LLM을 대상으로 원본 질문과 패러프레이즈된 질문에 대한 성능을 제로샷(zero-shot) 설정 및 최상위 1개 토큰 확률 기반으로 평가하여 모델의 일관성과 정확도 변화를 측정했습니다.

주요 결과

LLM들의 순위는 패러프레이즈된 입력에도 불구하고 상대적으로 안정적이었으나 (Kendall’s τ 값 0.9 이상), 절대적인 정확도 점수는 크게 하락했습니다. 모델들은 질문의 특정 문구에 따라 답변을 달리하는 경향을 보였으며, 평균적으로 70-85%의 질문만이 패러프레이즈된 버전들 사이에서 일관된 답변을 받았습니다. 대규모 모델일수록 정확도와 일관성 사이에 강한 양의 상관관계(p = 0.79)를 보인 반면, 소규모 모델은 음의 상관관계(p = -0.51)를 나타냈습니다.

AI 실무자를 위한 시사점

현재 벤치마크는 고정된 질문 문구를 사용하기 때문에 LLM의 실제 환경에서의 강건성 및 일반화 능력을 과대평가할 수 있음을 시사합니다. AI 엔지니어는 단순한 벤치마크 점수 외에 언어적 변동성에 대한 모델의 민감도를 반드시 고려해야 하며, 실제 배포 시 발생할 수 있는 성능 저하를 예상해야 합니다. 향후 LLM 평가는 패러프레이즈를 포함한 동적인 벤치마크를 통해 모델의 진정한 능력을 측정해야 할 것입니다.

⚠️ 알림: 이 리뷰는 AI로 작성되었습니다.