[논문]음소 단위 임베딩 모형을 이용한 감성 분석

현경석; 최우성; 정순영; 정재화

음소 단위 임베딩 모형을 이용한 감성 분석
Sentimental Analysis using the Phoneme-level Embedding Model 원문보기

현경석 (고려대학교 컴퓨터학과) , 최우성 (고려대학교 컴퓨터학과) , 정순영 (고려대학교 컴퓨터학과) , 정재화 (한국방송통신대학교 컴퓨터과학과)

형태소 분석을 통하여 한국어 문장을 형태소 단위의 임베딩 및 학습 관련 연구가 되었으나 최근 비정형적인 텍스트 데이터의 증가에 따라 음소 단위의 임베딩을 통한 신경망 학습에 대한 요구가 높아지고 있다. 본 논문은 비정형적인 텍스트 감성 분석 성능 향상을 위해 음소 단위의 토큰을 생성하고 이를 CNN 모형을 기반으로 다차원 임베딩을 수행하고 감성분석을 위하여 양방향 순환신경망 모델을 사용하여 유튜브의 비정형 텍스트를 학습시켰다. 그 결과 텍스트의 긍정 부정 판별에 있어 90%의 정확도를 보였다.

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

한편, 최근 제안된 [5]에 따르면 문자 단위의 토큰을 생성하는 것이 형태소(morphology)가 풍부한 언어에 더욱 적합한 것으로 밝혀졌다. 본 논문은 이러한 원리에 착안하여, 음소 단위의 토크나이징을 활용하는 텍스트 감성 분석 기법을 제안한다.
한글 문서의 형태소 단위의 감성분석 연구 중, 초성어의 정규화를 통해 감성 분석의 정확도를 향상시키는 것을 목적으로 [1]이 제안 되었다. 영상매체의 리뷰나, 트위터에서 자주 사용되는 초성 ‘ㅋㅋ’, ‘ㅋㅋㅋㅋ’ 와 같은 초성이지만 연속표기의 차이로 문맥상으로 감성의 표현의 강도는 다를 수 있지만 같은 의미를 내포하는 초성을 전처리 작업을 통하여 정규화 시킨 후, 이를 기반으로 감성분석을 수행하였다.

제안 방법

그 후 양방향 순환신경망을 통하여 감성 분석을 와 같은 환경에서 진행하였다.
[2]의 경우 문서를 음소로 분리 한 후one-hot 벡터로 변환하여 초성, 중성, 종성간의 연관관계를 반영하는데 한계를 지니게 된다. 따라서 음소가 내포하는 유의미한 정보를 최대한 표현하기 위해 음소 또한 다차원 공간의 벡터로 변환이 필요하며, 본 논문은 이를 CNN을 통하여 학습하고 이를 기반으로 GRU 모델을 통하여 감성분석을 진행한다.
또한 양방향 순환신경망이 한국의 통사적 구조를 반영하여 감성분석의 정확도를 향상시키는지 확인하기 위하여 동일한 하이퍼 파라미터로 단방향 순환신경망(Unidirectional GRU)로 학습을 진행하였다. <표 3>은 hyper parameter 별로 20 epoch를 수행했을 때의 정확도를 보여준다.
본 논문에서는 음소단위로 분리 한 텍스트 데이터를 다차원 벡터로 학습시키는 전처리 과정과, 이를 기반으로 입력된 텍스트의 긍정, 부정을 예측할 수 있도록 학습하는 두 단계의 모형을 제시한다.
본 논문에서는 초성 및 비언어적 감성이 담긴 데이터를 포함하여 음소 단위 임베딩을 하고 이를 기반으로 감성분석을 진행하였다. 또한 한국어의 통사적 구조를 반영하기 위하여 양방향 순환신경망을 사용 하였으나, 예상과 달리 단방향 순환신경망의 경우 양방향 신경망과 유사한 정확도를 보였다.
본 연구에서 음소단위 임베딩을 적용한 데이터는 유튜브 영상의 댓글을 크롤링하여 10,000 개의 댓글을 긍정,부정으로 분류하였다. <표 1>은 수집한 데이터의 예시로,데이터의 10%를 무작위로 테스트 데이터로 선정하였다.
영상매체의 리뷰나, 트위터에서 자주 사용되는 초성 ‘ㅋㅋ’, ‘ㅋㅋㅋㅋ’ 와 같은 초성이지만 연속표기의 차이로 문맥상으로 감성의 표현의 강도는 다를 수 있지만 같은 의미를 내포하는 초성을 전처리 작업을 통하여 정규화 시킨 후, 이를 기반으로 감성분석을 수행하였다.
해당 텍스트를 음소단위로 분리 후 다차원의 벡터 값으로 변환 후 CNN 기반으로 초성, 중성, 종성을 고려할 수 있도록 학습을 진행하였다. 그 후 양방향 순환신경망을 통하여 감성 분석을 <표 2>와 같은 환경에서 진행하였다.

대상 데이터

본 논문에서는 3개의 1차원 convolutional 레이어를 사용하였으며, 각 레이어 에서 다음 레이어로 k × T 벡터를 넘겨준다.
그 후 양방향 순환신경망을 통하여 감성 분석을 <표 2>와 같은 환경에서 진행하였다. 파라미터 최적화 Adam을 사용하였으며, 목적함수는 BCE(Binary Cross Entropy)를 사용하였다.

성능/효과

E는 음소를 임베딩한 차원의 수, H는 hidden 차원의 수, L 은 GRU 레이어의 수를 의미한다. 결과 적으로 감성 분석의 정확도는 89% ~ 90% 보이며 임베딩 차원이 200, hidden 차원이 512 일 때 가장 정확도가 높았다.
본 논문에서는 초성 및 비언어적 감성이 담긴 데이터를 포함하여 음소 단위 임베딩을 하고 이를 기반으로 감성분석을 진행하였다. 또한 한국어의 통사적 구조를 반영하기 위하여 양방향 순환신경망을 사용 하였으나, 예상과 달리 단방향 순환신경망의 경우 양방향 신경망과 유사한 정확도를 보였다. 이는, 유튜브 댓글의 비정형적인 특징으로 인하여 한국의 통사적 구조가 잘 들어나지 않는 것으로 예상된다.
영상매체의 리뷰나, 트위터에서 자주 사용되는 초성 ‘ㅋㅋ’, ‘ㅋㅋㅋㅋ’ 와 같은 초성이지만 연속표기의 차이로 문맥상으로 감성의 표현의 강도는 다를 수 있지만 같은 의미를 내포하는 초성을 전처리 작업을 통하여 정규화 시킨 후, 이를 기반으로 감성분석을 수행하였다. 사용 빈도가 가장 높은 초성어를 기준으로 정규화 전처리를 적용한 문서를 학습할 시 감성분석의 정확도의 차이가 1.9%정도 향상되는 것으로 나타났다.
“이 영화 정말 재밌다!!” 와 같은 텍스트가 입력 되었을 때, 음소 단위로 “ㅇㅣ ㅇㅕㅇㅎㅗㅏ ㅈㅓㅇㅁㅏㄹ ㅈㅐㅁㅣㅆㄷㅏ !!” 와 같이 음소 단위로 분리 한 후 one-hot 벡터로 변환 후 학습을 진행하였다. 학습은 LSTM과 GRU로 진행하였으며, 결과적으로 LSTM이 8% 높은 정확도를 가지는 것을 보였다.

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증

음소 단위 임베딩 모형을 이용한 감성 분석
Sentimental Analysis using the Phoneme-level Embedding Model 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper

문제 정의

제안 방법

대상 데이터

성능/효과

이 논문을 인용한 문헌

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

연합인증

음소 단위 임베딩 모형을 이용한 감성 분석 Sentimental Analysis using the Phoneme-level Embedding Model 원문보기

초록 용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

AI 본문요약 엑셀 다운로드 AI-Helper

문제 정의

제안 방법

대상 데이터

성능/효과

이 논문을 인용한 문헌

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

음소 단위 임베딩 모형을 이용한 감성 분석
Sentimental Analysis using the Phoneme-level Embedding Model 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper