선택한 단어 수는 입니다.
최소 단어 이상 선택하여야 합니다.
최소 단어 이상 선택하여야 합니다.
선택한 단어 수는 30입니다.
최대 10 단어까지만 선택 가능합니다.
최대 10 단어까지만 선택 가능합니다.
문제 정의
- 본 논문에서는 감성분석에서의 학습데이터 부족 문제해결을 위해 감성사전을 활용한 대용량 학습데이터 구축방안을 제안하였다. 감성사전으로는 KOSAC 감성사전과 KNU 한국어 감성사전을 활용했으며 그 성능을 평가하기 위해 수작업과 함께 비교하였다.
- 본 논문에서는 긍정과 부정을 나타내는 어휘만을 추출하였다. 표 4는 KNU 한국어 감성사전으로 긍정과 부정을 분류한 통계이다.
- 본 논문에서는 이와 같은 문제를 해결하기 위해 기존의 감성사전을 활용한 대용량 학습데이터 자동 구축방안에 대해 제안한다. 감성사전으로는 많이 활용되고 있는 “KOSAC(한국어감성분석코퍼스) 감성사전1)[2]”과 “KNU 한국어 감성사전2)[3]”을 이용해 학습데이터를 구축하였다.
- 본 논문에서는 좋은 성과를 얻을 수 있는 딥러닝 기법을 이용해 대용량의 학습데이터를 생성하는 방안에 대해 제안한다. 기존에 구축되어 있는 감성사전의 어휘를 자질로 사용해 충분한 양의 학습데이터를 구축한다.
제안 방법
- Bi-LSTM 모델은 입력으로 벡터 값을 사용하기 때문에 단어를 벡터로 변환해주는 워드 임베딩을 수행하였다. 문장을 형태소 분석한 결과가 워드 임베딩의 입력으로 주어졌으며 이때 형태소 분석기는 꼬꼬마 형태소 분석기[9]를 사용하였다.
- KOSAC 감성사전은 감성 어휘가 형태소 분석된 상태로 존재한다는 점에서 KNU 한국어 감성사전과 차이점이 있다. 감성 어휘가 형태소 분석된 상태로 존재하기 때문에 문장 전체를 형태소 분석을 한 다음 감성을 분류하였다. 표 2는 KOSAC 감성사전으로 긍정과 부정을 분류한 통계이다.
- 본 논문에서는 감성분석에서의 학습데이터 부족 문제해결을 위해 감성사전을 활용한 대용량 학습데이터 구축방안을 제안하였다. 감성사전으로는 KOSAC 감성사전과 KNU 한국어 감성사전을 활용했으며 그 성능을 평가하기 위해 수작업과 함께 비교하였다. 수작업은 3명의 평가자가 참여하여 학습데이터를 구축하였고 감성사전은 감성사전에 있는 긍정과 부정 어휘의 빈도가 높은 것으로 감성을 결정해 학습데이터를 구축하였다.
- 수작업의 경우에는 3명의 평가자가 참여하여 직접 감성을 분류하였고 감성사전의 경우에는 긍정과 부정에 해당하는 감성사전과 문장을 비교해 긍정과 부정의 빈도를 계산해 빈도가 높은 것으로 감성을 분류하였다. 그 다음 딥러닝기법 중 하나인 앞 뒤 문맥을 살펴볼 수 있는 Bi-LSTM(Bi-directional LSTM)으로 학습한 후 그 모델을 이용한 감성분석을 통해 성능을 평가하였다. 실험 결과 감성사전을 이용한 모델이 더 짧은 시간에 대용량의 학습데이터를 생성할 수 있었고 정확도가 향상되는 것을 볼 수 있었다.
- KNU 한국어 감성사전[3]은 군산대학교에서 구축한 한국어 감성사전으로 국립국어원에서 제공하는 ‘표준국어대사전(국립국어원 2018)’을 구성하는 모든 단어와 그 단어에 해당하는 뜻풀이(gloss)를 수집한 후 정제하여 만든 것이다. 그 외에도 축약어, 이모티콘 등 표준국어대사전에서 추출되지 않은 새로운 감성어를 추출하였다. 특정 도메인에서 사용되는 감성어보다는 어떤 도메인에도 사용될 수 있는 보편적인 긍부정어로 구성된다.
- 기존에 구축되어 있는 감성사전의 어휘를 자질로 사용해 충분한 양의 학습데이터를 구축한다. 그리고 그 학습데이터를 딥러닝 기법 중 하나인 Bi-LSTM을 이용해 학습한 후 그 모델을 이용한 감성분석을 통해 제안 모델의 성능을 입증한다.
- KOSAC 감성사전과 KNU 한국어 감성사전으로 대용량 학습데이터를 구축한 과정에 대해 설명한다. 그림 1과 같이 긍정과 부정에 해당하는 사전의 어휘와 문장을 비교해 그 빈도를 계산하고 빈도가 높은 것으로 감성을 분류하였다.
- 본 논문에서는 좋은 성과를 얻을 수 있는 딥러닝 기법을 이용해 대용량의 학습데이터를 생성하는 방안에 대해 제안한다. 기존에 구축되어 있는 감성사전의 어휘를 자질로 사용해 충분한 양의 학습데이터를 구축한다. 그리고 그 학습데이터를 딥러닝 기법 중 하나인 Bi-LSTM을 이용해 학습한 후 그 모델을 이용한 감성분석을 통해 제안 모델의 성능을 입증한다.
- 생성된 학습데이터를 워드 임베딩한 후 딥러닝 기법인 Bi-LSTM으로 학습을 진행한다. 마지막으로 학습된 모델을 기준으로 감성분석을 통해 성능 평가를 수행한다.
- 본 논문에서는 KOSAC 감성사전의 내용 중 극성을 나타내주는 ‘Polarity’속성을 사용했으며 그 중에서 ‘max.value’값이 긍정을 나타내는 POS와 부정을 나타내는 NEG만을 추출하였다.
- 본 논문에서는 학습을 위한 실험 환경으로 수작업 데이터 모델은 learning rate를 0.00001로 설정하였고 KOSAC 감성사전과 KNU 한국어 감성사전 모델은 learning rate를 0.0001로 설정하였다. batch size는 50, epoch은 12로 동일하게 설정하였다.
- 감성사전으로는 KOSAC 감성사전과 KNU 한국어 감성사전을 활용했으며 그 성능을 평가하기 위해 수작업과 함께 비교하였다. 수작업은 3명의 평가자가 참여하여 학습데이터를 구축하였고 감성사전은 감성사전에 있는 긍정과 부정 어휘의 빈도가 높은 것으로 감성을 결정해 학습데이터를 구축하였다. 실험결과 감성사전을 활용한 경우 수작업 보다 빠른 시간 내에 많은 양의 학습데이터를 구축할 수 있었다.
- 전체 데이터 중 무작위로 15,000개의 문장을 추출해 그 문장을 긍정과 부정으로 분류하였다. 3명이 분류에 참여하였고 3명의 평가자 중 2명 이상이 동일한 감성으로 판단한 것으로 긍정과 부정을 결정하였다.
대상 데이터
- 수작업은 총 문장 수인 15,000개에서 3,800개의 학습 데이터를 생성했으며 실행시간은 3명의 평가자가 걸린 시간으로 나타내었다. KOSAC 감성사전과 KNU 한국어 감성사전은 총 문장 수 인 10,409,444개에서 각 300,000개의 학습데이터를 생성했으며 실행 시간은 전체 데이터에서 감성을 분류한 시간으로 나타냈다. 평균을 낸 결과 수작업, KOSAC 감성사전, KNU 한국어 감성사전 순으로 소요시간이 길다.
- 감성사전으로는 많이 활용되고 있는 “KOSAC(한국어감성분석코퍼스) 감성사전1)[2]”과 “KNU 한국어 감성사전2)[3]”을 이용해 학습데이터를 구축하였다.
- 일반적으로 절 하나의 형태소 개수가 30개 이하이므로 긍정과 부정으로 분류된 문장을 형태소 분석을 한 후 형태소 개수가 30개 이하인 문장만 추출하였다. 그 중 긍정과 부정 각 2,200개 씩 4,400개를 추출해 3,800개는 학습에 사용하였고 600개는 평가에 사용하였다.
- 그림 2는 감성점수에 대한 식이다. 긍정어휘 수와 부정어휘 수의 차를 통해 감성점수를 매겼으며 감성을 분류한 문장 중 긍정과 부정 각각 감정점수가 높은 순 대로 각 150,000개 씩 총 300,000개의 학습데이터를 추출하였다. 이 때 긍정과 부정으로 분류된 문장의 형태소 개수가 30개 이하인 문장만 추출하였다.
- 본 논문에서는 학습데이터 구축을 위해 네이버 카페 “한국 형태소분석 등 NLP 연구개발 자료”에서 제공하는 한국어 원시 말뭉치 1억2천3백만 어절(약1천만 문장)을 사용하였다[8].
- 긍정어휘 수와 부정어휘 수의 차를 통해 감성점수를 매겼으며 감성을 분류한 문장 중 긍정과 부정 각각 감정점수가 높은 순 대로 각 150,000개 씩 총 300,000개의 학습데이터를 추출하였다. 이 때 긍정과 부정으로 분류된 문장의 형태소 개수가 30개 이하인 문장만 추출하였다.
데이터처리
- 그림 5는 본 논문에서 제안한 Bi-LSTM 모델의 예시로 학습 데이터를 워드 임베딩한 결과를 입력으로 학습하고 매번 학습된 결과를 평가데이터에 적용해 정확도 및 결과를 확인하였다.
- 제안한 방안의 성능을 평가하기 위해 수작업과 감성사전을 활용했을 경우를 비교하여 실험하였다. 수작업의 경우에는 3명의 평가자가 참여하여 직접 감성을 분류하였고 감성사전의 경우에는 긍정과 부정에 해당하는 감성사전과 문장을 비교해 긍정과 부정의 빈도를 계산해 빈도가 높은 것으로 감성을 분류하였다.
이론/모형
- 지지벡터기계, 나이브 베이즈 같은 기존의 기계학습 방식은 학습데이터의 특성에 영향을 많이 받아 도메인 적응에 취약해 저조한 성능을 보이는데 이를 해결하기 위해 딥러닝 기법을 적용하면 학습데이터에서 높은 수준을 특성을 추출하여 뛰어난 성과를 얻을 수 있다[4]. LSTM(Long Short Term Memory) 알고리즘을 사용하여 인스타그램의 비정형 텍스트에 대한 감성분석을 한 모델이 있는데 이 모델에서는 25,000개의 학습데이터를 사용하였다[7].
- batch size는 50, epoch은 12로 동일하게 설정하였다. 그리고 최근 많은 연구에서 좋은 성능을 보이고 있는 adam 최적화 알고리즘[12]을 이용하여 파라미터를 최적화했다. 실험을 위한 모든 모델은 구글에서 오픈소스로 공개한 라이브러리인 Tensorflow[13] 사용하여 구현하였다.
- Bi-LSTM 모델은 입력으로 벡터 값을 사용하기 때문에 단어를 벡터로 변환해주는 워드 임베딩을 수행하였다. 문장을 형태소 분석한 결과가 워드 임베딩의 입력으로 주어졌으며 이때 형태소 분석기는 꼬꼬마 형태소 분석기[9]를 사용하였다. 형태소 분석한 문장은 형태소와 품사의 결합으로 나타냈으며 형태는 표 6과 같다.
- 본 논문에서는 Facebook의 fastText[11]로 워드 임베딩을 수행하였다. skipgram을 이용해 차원은 50, window size는 7로 설정하여 임베딩을 수행하였다.
- Bi-LSTM은 순차적 데이터에서 좋은 성능을 보이며 입력된 데이터에 대해 양방향으로 학습이 가능한 딥러닝 기법이다. 본 논문에서는 수작업과 감성사전으로 분류한 데이터를 학습시키기 위해 양방향으로 입력 정보를 받을 수 있는 Bi-LSTM 모델을 사용하였다.
- 이 때 수작업은 평가자에 의해서 긍정과 부정을 분류해 소량의 학습데이터를 생성하게 되고 감성사전은 감성점수를 기준으로 대량의 학습데이터를 생성한다. 생성된 학습데이터를 워드 임베딩한 후 딥러닝 기법인 Bi-LSTM으로 학습을 진행한다. 마지막으로 학습된 모델을 기준으로 감성분석을 통해 성능 평가를 수행한다.
- 그리고 최근 많은 연구에서 좋은 성능을 보이고 있는 adam 최적화 알고리즘[12]을 이용하여 파라미터를 최적화했다. 실험을 위한 모든 모델은 구글에서 오픈소스로 공개한 라이브러리인 Tensorflow[13] 사용하여 구현하였다.
성능/효과
- 또한 적은 양의 학습데이터를 딥러닝 모델 학습에 사용하였기 때문에 정확도가 높지 못한 결과를 보였다. 그에 비해 KOSAC 감성사전과 KNU 한국어 감성사전은 수작업 보다 정확하진 않지만 빠른 시간 내에 많은 양의 학습데이터를 구축할 수 있었으며 이를 통해 딥러닝 모델을 학습한 결과 수작업에 비해 높은 정확도를 보였다. 이와 같이 감성사전을 통해 학습데이터를 구축하는 제안방안이 딥러닝 모델의 성능을 향상시키는데 효과적이라는 것을 알 수 있다.
- 실험결과 감성사전을 활용한 경우 수작업 보다 빠른 시간 내에 많은 양의 학습데이터를 구축할 수 있었다. 또한 감성사전을 활용하여 구축된 학습데이터를 학습시키는 것이 더 높은 정확도를 보였으며 제안방안의 유용성과 실효성을 입증하였다.
- 표 9는 평가데이터 600개를 기준으로 정확도를 나타낸 것이다. 수작업의 정확도는 0.5181, KOSAC 감성사전의 정확도는 0.7133으로 수작업으로 했을 경우보다 성능이 약 38% 상승하였고 KNU 한국어 감성사전의 정확도는 0.7567로 수작업으로 했을 경우보다 성능이 약 46% 상승하였다.
- 그 다음 딥러닝기법 중 하나인 앞 뒤 문맥을 살펴볼 수 있는 Bi-LSTM(Bi-directional LSTM)으로 학습한 후 그 모델을 이용한 감성분석을 통해 성능을 평가하였다. 실험 결과 감성사전을 이용한 모델이 더 짧은 시간에 대용량의 학습데이터를 생성할 수 있었고 정확도가 향상되는 것을 볼 수 있었다.
- 수작업은 3명의 평가자가 참여하여 학습데이터를 구축하였고 감성사전은 감성사전에 있는 긍정과 부정 어휘의 빈도가 높은 것으로 감성을 결정해 학습데이터를 구축하였다. 실험결과 감성사전을 활용한 경우 수작업 보다 빠른 시간 내에 많은 양의 학습데이터를 구축할 수 있었다. 또한 감성사전을 활용하여 구축된 학습데이터를 학습시키는 것이 더 높은 정확도를 보였으며 제안방안의 유용성과 실효성을 입증하였다.
- 그에 비해 KOSAC 감성사전과 KNU 한국어 감성사전은 수작업 보다 정확하진 않지만 빠른 시간 내에 많은 양의 학습데이터를 구축할 수 있었으며 이를 통해 딥러닝 모델을 학습한 결과 수작업에 비해 높은 정확도를 보였다. 이와 같이 감성사전을 통해 학습데이터를 구축하는 제안방안이 딥러닝 모델의 성능을 향상시키는데 효과적이라는 것을 알 수 있다.
- KOSAC 감성사전과 KNU 한국어 감성사전은 총 문장 수 인 10,409,444개에서 각 300,000개의 학습데이터를 생성했으며 실행 시간은 전체 데이터에서 감성을 분류한 시간으로 나타냈다. 평균을 낸 결과 수작업, KOSAC 감성사전, KNU 한국어 감성사전 순으로 소요시간이 길다. KOSAC 감성사전은 형태소 분석 된 상태에서 분류하기 때문에 KNU 한국어 감성사전보다 더 많은 시간이 걸렸다.
후속연구
- 향후에는 학습데이터 구축에 구문분석, 의미분석 등의 자질을 추가하여 보다 정교한 학습데이터를 자동으로 구축하는 연구를 수행할 예정이다.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.