[논문]CNN-LSTM을 이용한 대화 문맥 반영과 감정 분류

신동원; 이연수; 장정선; 임해창

[국내논문] CNN-LSTM을 이용한 대화 문맥 반영과 감정 분류
Using CNN-LSTM for Effective Application of Dialogue Context to Emotion Classification 원문보기

신동원 (고려대학교) , 이연수 ((주)엔씨소프트) , 장정선 ((주)엔씨소프트) , 임해창 (고려대학교)

대화 시스템에서 사용자가 나타내는 발화에 내재된 감정을 분류하는 것은, 시스템이 적절한 응답과 서비스를 제공하는데 있어 매우 중요하다. 본 연구에서는 대화 내 감정 분류를 하는데 있어 직접적, 간접적으로 드러나는 감정 자질을 자동으로 학습하고 감정이 지속되는 대화 문맥을 효과적으로 반영하기 위해 CNN-LSTM 방식의 딥 뉴럴 네트워크 구조를 제안한다. 그리고 대량의 구어체 코퍼스를 이용한 사전 학습으로 데이터 부족 문제를 완화하였다. 실험 결과 제안하는 방법이 기존의 SVM이나, 단순한 RNN, CNN 네트워크 구조에 비해 전반전인 성능 향상을 보였고, 특히 감정이 있는 경우 더 잘 분류하는 것을 확인할 수 있었다.

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본 연구는 대화 속에서 나타나는 사용자의 감정을 분류하고자 한다. 시스템은 사용자의 감정을 인식함으로써, 보다 적절한 응답과 서비스를 제공할 수 있다.
본 연구에서는 Plutchick의 8분류 체계[2]인 기쁨 (Joy), 신뢰(Trust), 두려움 (Fear), 놀람(Surprise), 슬픔(Sadness), 혐오(Disgust), 화남(Anger), 기대 (Anticipation)에 감정 없음(None), 미안함(Sorriness), 부러움(Enviousness)의 추가적인 감정 카테고리를 사용 하여 대화 내 발화들이 나타내는 다양한 감정을 분류하고자 한다. 기존의 감정 분류 연구들은 대부분 대화가 아닌 일반 텍스트에서 감성 분류(Sentiment Classification)와 같은 극성 분류에 초점을 맞추었다.
분류 성능을 좀 더 자세히 분석하기 위하여, 각 분류 모델의 감정 카테고리 별로 정답을 얼마나 맞혔는지를 살펴보았다. 표 7을 보면, ‘감정 없음’ 카테고리에서는 기존의 SVM 모델이 가장 많이 정답을 맞혔지만, 나머지 감정 카테고리 들에 대해선 딥 뉴럴 네트워크 모델들이 SVM 모델보다 더 많이 맞춘 것을 확인할 수 있다.
본 연구는 딥 뉴럴 네트워크 모델을 활용해 대화에서의 감정 분류 성능을 향상시켰다. 특히 감정이 대화에서 나타나는 양상을 반영하여 문맥을 고려할 수 있는 효과적인 네트워크 구조를 적용하고 다양한 모델과 비교 분석하였다.

제안 방법

CNN을 통해 입력 문장의 자질을 자동으로 학습 시킨 뒤 LSTM[3]을 통해 문맥이 반영되도록 한다. 또한 적은양의 학습 데이터로부터 효과적으로 딥 네트워크 구조를 학습하기 위해 대량의 구어체 코퍼스로부터 입력 벡터를 사전 훈련(Pre-training) 시키는 방법을 제안한다.
[10]의 모델은 텍스트 중에서도 특히 길이가 짧고, 연속적인(주로 문서 속 문장들, 대화 속 발화와 같은) 텍스트를 RNN(Recurrent Neural Network)과 CNN을 사용해 표현하고 이를 분류에 사용하여 화행(Dialogue act) 분류에서 state-of-the-art 성능을 보여주었다. 제안하는 방법은 이와 유사하게 분류 모델 내에서 대화 히스토리를 반영하고 대량의 어휘 자질을 자동으로 학습할 수 있도록 대화 감정 분류에 CNN-LSTM 모델을 사용하는 것이다.
이러한 각 모델의 단점을 서로 상호 보완하기 위해, 두 종류의 뉴럴 네트워크를 함께 활용하는 CNN-LSTM 모델을 대화에서의 감정 분류에 사용하였다. CNN 모델을 통해 입력 텍스트의 특징들을 자질 벡터로 추출하고, 이를 LSTM 레이어의 입력으로 하여 분류 모델을 학습시킨다. 그림 5는 이러한 과정을 그림으로 나타낸 것이다.
대화 코퍼스의 감정을 태깅하는 작업은 총 3명의 작업자에 의해 수행되었다. 대화의 발화에 대해 각 작업자가 감정 태깅한 결과를 다수결을 통해서 1차 감정과 2차 감정을 결정하였다. 3명의 태깅 결과가 모두 일치하지 않은 전체 발화의 5.
본 연구에서는 대화 코퍼스를 대상으로 하여 딥 뉴럴 네트워크 모델을 사용해 감정 분류기를 학습시켰다. 또한 제안한 모델의 성능을 비교하기 위하여 [8]의 SVM과 임베딩 자질을 사용한 감정 분류 모델을 베이스라인으로 사용하였다.
각 딥 뉴럴 네트워크 모델에 사용된 파라미터들은 표 5와 같다. 각 파라미터들의 값은 실험적으로 결정하였다.
앞서 대화 코퍼스의 감정 태깅에서 살펴본 바와 같이, 대화 속에서 사용자들이 나타내는 발화가 어떤 감정을 내재하는지에 대해서는 모호성이 다수 존재한다. 하지만 감정 태깅 결과 1,2차 감정 중 한 감정에 대해서는 작업자들의 동의율이 높게 나타난다는 점을 반영 하여 분류 대상 발화에 정답이 2차까지 있는 경우에는, 분류 모델이 두 정답 중 하나를 맞추면 맞은 것으로 하는 평가 척도를 사용 한다.
딥 뉴럴 네트워크 모델의 사용이 대화에서의 감정 분류에 있어 어떤 성능을 나타내는지 평가하기 위하여, 베이스라인 모델과 RNN, CNN, CNN-LSTM 모델의 성능을 비교하였다.
또한 감정 카테고리에서 ‘감정 없음’의 비율이 과반수를 넘게 차지하기 때문에 이를 포함한 경우와 포함하지 않은 경우 모두에 대해 F1 Score를 계산하였다.
비교에는 각 모델에서 정밀도나 재현률을 계산할 수 없어 비교할 수 없는 ‘두려움’, ‘싫어함’, ‘부러움’, ‘신뢰’를 제외한 7개의 감정 카테고리만을 반영하였다.
마지막으로 CNN-LSTM 모델에서 성능이 얼마나 향상되었는지를 더 자세히 분석하기 위하여 각 감정 카테고리들의 F1 Score을 계산하여 베이스라인인 SVM 모델과 비교하였다. 비교에는 각 모델에서 정밀도나 재현률을 계산할 수 없어 비교할 수 없는 ‘두려움’, ‘싫어함’, ‘부러움’, ‘신뢰’를 제외한 7개의 감정 카테고리만을 반영하였다.
본 연구는 딥 뉴럴 네트워크 모델을 활용해 대화에서의 감정 분류 성능을 향상시켰다. 특히 감정이 대화에서 나타나는 양상을 반영하여 문맥을 고려할 수 있는 효과적인 네트워크 구조를 적용하고 다양한 모델과 비교 분석하였다. 또한 임베딩 된 입력을 통해 데이터 부족 문제를 완화하고 Dropout을 통해 과적합 문제를 최소화 하도록 하였다.
특히 감정이 대화에서 나타나는 양상을 반영하여 문맥을 고려할 수 있는 효과적인 네트워크 구조를 적용하고 다양한 모델과 비교 분석하였다. 또한 임베딩 된 입력을 통해 데이터 부족 문제를 완화하고 Dropout을 통해 과적합 문제를 최소화 하도록 하였다. 실험 결과 “감정 없음" 라벨의 분류 성능은 다소 감소하지만, 이외 감정들에 대한 분류 성능이 전반적으로 향상됨을 보였으며, CNN-LSTM 모델이 대화 문맥을 반영한 감정 분류에 있어 기존의 SVM 모델이나 단순 RNN, CNN을 사용한 모델에 비해 적합하다는 것을 알 수 있었다.

대상 데이터

대화 코퍼스는 영어 회화의 한국어 번역 데이터와, 영어 드라마의 한국어 자막 데이터를 재가공하여 구축하였다. 자막 데이터에서는 여러 명의 화자가 아닌 1:1로 대화가 이루어지는 부분들만을 선택하여, 데이터를 구성하였다.
대화 코퍼스의 감정을 태깅하는 작업은 총 3명의 작업자에 의해 수행되었다. 대화의 발화에 대해 각 작업자가 감정 태깅한 결과를 다수결을 통해서 1차 감정과 2차 감정을 결정하였다.
작업자들의 불일치가 주로 일어난 감정 카테고리들은 ‘슬픔’ , ‘분노’ , ‘싫어함’이었다. 이러한 과정을 통해 총 2,587개의 대화, 22,005개의 발화로 대화 코퍼스를 구축하였다. 1차 감정에 대한 감정 카테고리별 발화 비율은 표 2와 같다.
때문에 대화 코퍼스에서 ‘감정 없음’ 카테고리와 나머지 감정 카테고리들의 비율을 최대한 유사하게 하도록 대화들을 선택하여, 학습/검증/테스트 데이터를 각각 대화 2000개 (발화 17062개), 293개 (2512개), 294개 (2431개)로 구성하였다.
본 연구에서는 대화 코퍼스를 대상으로 하여 딥 뉴럴 네트워크 모델을 사용해 감정 분류기를 학습시켰다. 또한 제안한 모델의 성능을 비교하기 위하여 [8]의 SVM과 임베딩 자질을 사용한 감정 분류 모델을 베이스라인으로 사용하였다. 각 딥 뉴럴 네트워크 모델에 사용된 파라미터들은 표 5와 같다.

이론/모형

본 연구에서는 이러한 대화적 특징과 간접적인 감정적 상황을 감정 분류에 반영하기 위해 CNN-LSTM(Convolutional Neural Network - Long Short Term Memory) 모델을 사용한다. CNN을 통해 입력 문장의 자질을 자동으로 학습 시킨 뒤 LSTM[3]을 통해 문맥이 반영되도록 한다.
이러한 각 모델의 단점을 서로 상호 보완하기 위해, 두 종류의 뉴럴 네트워크를 함께 활용하는 CNN-LSTM 모델을 대화에서의 감정 분류에 사용하였다. CNN 모델을 통해 입력 텍스트의 특징들을 자질 벡터로 추출하고, 이를 LSTM 레이어의 입력으로 하여 분류 모델을 학습시킨다.
일반적으로 텍스트를 벡터로 변환하기 위해 사용되는 임베딩 레이어에서는 벡터 초기화를 위해 모든 벡터 값을 0으로 하거나, Xavier Initialization[12] 과 같은 초기화 기법을 사용하게 된다. 하지만 본 연구에서는 Word2Vec[11]을 사용해 구축한 임베딩 모델을 이용해 딥 뉴럴 네트워크 모델의 입력으로 사용되는 임베딩 벡터의 초기화에 사용한다. 이를 위한 임베딩 모델의 학습에 사용되는 데이터는 표 3과 같다.

성능/효과

다음으로 표 8을 보면, RNN 모델과 CNN 모델을 비교했을 때 RNN 모델에서는 ‘감정 없음’ 카테고리의 분류 성능이 상당히 떨어졌지만, 나머지 감정 카테고리들을 가장 많이 맞춘 것을 확인할 수 있다.
다만 ‘부러움’ , ‘신뢰’와 같이 감정을 나타내는 발화들의 수가 충분히 많지 않은 발화들을 분류하는 데에 있어서는 모든 모델들이 정답을 거의 맞히지 못해 좋지 않은 성능을 보였다.
표 6을 보면, 전체적인 감정 분류 성능은 RNN < SVM < CNN 순으로 나타나며, RNN과 CNN을 함께 사용한 CNN-LSTM 모델이 가장 좋은 성능을 나타낸 것을 확인할 수 있다.
반면에 CNN 모델에서는 ‘감정 없음’의 분류 성능을 높이면서, 동시에 감정이 있는 발화들에 대한 분류 성능도 베이스라인에 비해 향상되어 전체적으로 좋은 감정 분류 성능을 보였다.
실험 결과 “감정 없음" 라벨의 분류 성능은 다소 감소하지만, 이외 감정들에 대한 분류 성능이 전반적으로 향상됨을 보였으며, CNN-LSTM 모델이 대화 문맥을 반영한 감정 분류에 있어 기존의 SVM 모델이나 단순 RNN, CNN을 사용한 모델에 비해 적합하다는 것을 알 수 있었다.
표 9를 보면, ‘감정 없음’을 제외했을 때의 ‘화남’, ‘슬픔’ 카테고리를 제외한 모든 경우에서 F1 Score가 상승하여 CNN-LSTM 모델의 사용이 감정 분류에 효과적임을 확인할 수 있었다.
또한 두 딥 뉴럴 네트워크 모델들의 단점을 상호 보완한 CNN-LSTM 모델은 RNN 모델보다 ‘감정 없음’의 분류 성능을 높이면서, 동시에 CNN 모델보다 감정이 있는 발화들의 분류 성능까지 높여 전체적인 분류 성능을 향상시켰다.
또한 두 딥 뉴럴 네트워크 모델들의 단점을 상호 보완한 CNN-LSTM 모델은 RNN 모델보다 ‘감정 없음’의 분류 성능을 높이면서, 동시에 CNN 모델보다 감정이 있는 발화들의 분류 성능까지 높여 전체적인 분류 성능을 향상시켰다. 그 결과 실험에 사용된 모델들 중 가장 좋은 분류 성능을 보였다. CNN-LSTM 모델이 문장으로부터 감정 분류에 효과적인 특징들을 추출해 활용하며, 동시에 대화에서의 문맥을 효과적으로 고려하여 대화에서의 감정 분류 문제에 있어 효과적인 모델임을 확인 할 수 있었다.
그 결과 실험에 사용된 모델들 중 가장 좋은 분류 성능을 보였다. CNN-LSTM 모델이 문장으로부터 감정 분류에 효과적인 특징들을 추출해 활용하며, 동시에 대화에서의 문맥을 효과적으로 고려하여 대화에서의 감정 분류 문제에 있어 효과적인 모델임을 확인 할 수 있었다.

후속연구

실험 결과 “감정 없음" 라벨의 분류 성능은 다소 감소하지만, 이외 감정들에 대한 분류 성능이 전반적으로 향상됨을 보였으며, CNN-LSTM 모델이 대화 문맥을 반영한 감정 분류에 있어 기존의 SVM 모델이나 단순 RNN, CNN을 사용한 모델에 비해 적합하다는 것을 알 수 있었다. 향후에는 RNN에서 Attention Mechanism을 적용하여, 문장의 어떤 부분, 대화에서 어떤 문장이 분류에 영향을 미치는지 분석할 수 있는 여지가 있고, 딥 뉴럴 네트워크 구조의 개선 및 파라미터 최적화를 통해 성능을 더 향상 시킬 필요가 있다.

핵심어

질문

논문에서 추출한 답변

CNN 모델의 단점은 무엇인가?

앞서 설명한 두 뉴럴 네트워크 모델은 텍스트 분류 문제에 있어 각각의 단점을 가지고 있다. RNN 모델의 경우, 분류에 필요한 입력 텍스트의 어휘적인 특징들을 충분히 포착하기 어렵다는 단점이 있으며, CNN 모델의 경우 한 번에 한 발화의 텍스트를 입력으로 받기 때문에, 대화에서 현재 발화를 분류하는데 활용될 수 있는 이전 발화들의 정보와 같은 Long-term dependency를 구조적으로 반영하기 어렵다는 문제점이 있다.

CNN-LSTM 모델은 어떤 과정을 통해 분류 모델을 학습하는가?

이러한 각 모델의 단점을 서로 상호 보완하기 위해, 두 종류의 뉴럴 네트워크를 함께 활용하는 CNN-LSTM 모델을 대화에서의 감정 분류에 사용하였다. CNN 모델을 통해 입력 텍스트의 특징들을 자질 벡터로 추출하고, 이를 LSTM 레이어의 입력으로 하여 분류 모델을 학습시킨다. 그림 5는 이러한 과정을 그림으로 나타낸 것이다.

RNN 모델의 단점은 무엇인가?

앞서 설명한 두 뉴럴 네트워크 모델은 텍스트 분류 문제에 있어 각각의 단점을 가지고 있다. RNN 모델의 경우, 분류에 필요한 입력 텍스트의 어휘적인 특징들을 충분히 포착하기 어렵다는 단점이 있으며, CNN 모델의 경우 한 번에 한 발화의 텍스트를 입력으로 받기 때문에, 대화에서 현재 발화를 분류하는데 활용될 수 있는 이전 발화들의 정보와 같은 Long-term dependency를 구조적으로 반영하기 어렵다는 문제점이 있다.

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증

[국내논문] CNN-LSTM을 이용한 대화 문맥 반영과 감정 분류
Using CNN-LSTM for Effective Application of Dialogue Context to Emotion Classification 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper

문제 정의

제안 방법

대상 데이터

이론/모형

성능/효과

후속연구

질의응답

이 논문을 인용한 문헌

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

연합인증

[국내논문] CNN-LSTM을 이용한 대화 문맥 반영과 감정 분류 Using CNN-LSTM for Effective Application of Dialogue Context to Emotion Classification 원문보기

초록 용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

AI 본문요약 엑셀 다운로드 AI-Helper

문제 정의

제안 방법

대상 데이터

이론/모형

성능/효과

후속연구

질의응답

이 논문을 인용한 문헌

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

[국내논문] CNN-LSTM을 이용한 대화 문맥 반영과 감정 분류
Using CNN-LSTM for Effective Application of Dialogue Context to Emotion Classification 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper