부정어 이해도 향상에 접사형 부정어가 더 효과적
Not all Negation Cues are Equal: Affixal Negations Yield Better Negation Understanding
arXiv기존 언어 모델의 한계를 극복하기 위해 단일/다중/접사형 등 200가지 이상의 다양한 부정 유형을 포함하는 대규모 데이터셋(NegCue)이 구축되었습니다.
- 실험 결과, 부정 이해도 향상에 가장 큰 기여를 한 유형은 접사형이었으며, 기존 연구가 집중했던 단일 부정어의 성능 개선 폭은 미미했습니다.
- 이는 AI가 단순 키워드 인식을 넘어 어근이나 접사와 같은 형태론적 구조까지 파악해야만 언어 이해의 신뢰도를 높일 수 있음을 시사합니다.
- 모델 성능 향상을 위해서는 전반적인 사전 학습이 중요하지만, 부정어 유형별 기여도가 다르므로 다양한 형태의 데이터를 균형 있게 확보하는 것이 필수입니다.
언어 모델(LMs)과 (LLMs)에게 부정어 처리는 오랫동안 난제로 남아있습니다. 기존 연구들은 주로 'not'이나 'never'와 같은 빈번하게 사용되는 단일 단어 형태의 부정 신호에 초점을 맞추는 경향이 있었습니다. 이러한 한계를 극복하기 위해, 연구진은 단일어, 다중어, 그리고 접사형(affixal) 부정어를 포함하여 200가지가 넘는 고유한 신호를 담고 있는 대규모 데이터셋인 NegCue를 구축했습니다.
NegCue를 활용하여 인코더 전용 LM과 LLM을 사전 학습시킨 실험 결과, 다양한 유형의 부정어가 모델 성능 향상에 기여하는 정도가 균일하지 않다는 것이 밝혀졌습니다. 특히 접사형 부정어(affixal negation)가 가장 큰 성능 개선 효과를 보인 반면, 기존 연구에서 주로 다루던 단일 단어 형태의 부정어는 성능 향상 폭이 상대적으로 미미했습니다.
연구 결과에 따르면, 모델의 전반적인 사전 학습은 LM과 LLM 모두의 부정 이해도를 높이는 데 중요합니다. 그러나 부정어 유형별 기여도가 다르기 때문에, 효과적인 언어 이해 능력을 갖추려면 단일어뿐만 아니라 접사형 등 다양한 형태론적 구조를 가진 데이터를 균형 있게 확보하는 것이 필수적임을 시사했습니다.
용어 풀이
- 대규모 언어 모델
- 방대한 글을 학습해 문장을 이해하고 만들어 내는 AI 모델. ChatGPT, Claude, Gemini가 여기에 속해요.