초록

용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

고도화된 머신러닝과 딥러닝 기술은 영상처리, 자연어처리 등의 분야에서 많은 문제를 해결하고 있다. 특히 사용자가 입력한 문장을 분석하고 그에 따른 문장을 생성하는 자연어처리 기술은 기계 번역, 자동 요약, 자동 오류 수정 등에 널리 이용되고 있다. 딥러닝 기반의 자연어처리 기술은 학습을 위해 여러 계층의 신경망을 구성하여 단어 간 의존 관계와 문장 구조를 학습한다. 그러나 학습 과정에서의 계산양이 방대하여 모델을 구성하는데 시간과 비용이 많이 필요하다. 그러나 Word2Vec 모델은 신경망과 유사하게 학습하면서도 선형 구조를 가지고 있어 딥러닝 기반 자연어처리 기술에 비해 적은 시간 복잡도로 고차원의 단어 벡터를 계산할 수 있다. 따라서 본 논문에서는 Word2Vec 모델을 활용하여 한국어 문장을 생성하는 방법을 제시하였다. 본 논문에서는 지정된 문장 템플릿에 유사도가 높은 각 단어들을 적용하여 문장을 구성하는 Word2Vec 모델을 설계하였고, 서로 다른 학습 데이터로부터 생성된 문장을 평가하고 제안한 모델의 활용 방안을 제시하였다.

고도화된 머신러닝과 딥러닝 기술은 영상처리, 자연어처리 등의 분야에서 많은 문제를 해결하고 있다. 특히 사용자가 입력한 문장을 분석하고 그에 따른 문장을 생성하는 자연어처리 기술은 기계 번역, 자동 요약, 자동 오류 수정 등에 널리 이용되고 있다. 딥러닝 기반의 자연어처리 기술은 학습을 위해 여러 계층의 신경망을 구성하여 단어 간 의존 관계와 문장 구조를 학습한다. 그러나 학습 과정에서의 계산양이 방대하여 모델을 구성하는데 시간과 비용이 많이 필요하다. 그러나 Word2Vec 모델은 신경망과 유사하게 학습하면서도 선형 구조를 가지고 있어 딥러닝 기반 자연어처리 기술에 비해 적은 시간 복잡도로 고차원의 단어 벡터를 계산할 수 있다. 따라서 본 논문에서는 Word2Vec 모델을 활용하여 한국어 문장을 생성하는 방법을 제시하였다. 본 논문에서는 지정된 문장 템플릿에 유사도가 높은 각 단어들을 적용하여 문장을 구성하는 Word2Vec 모델을 설계하였고, 서로 다른 학습 데이터로부터 생성된 문장을 평가하고 제안한 모델의 활용 방안을 제시하였다.

AI 본문요약

엑셀 다운로드 AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

• 연구 주제
• 연구 방법
• 연구 결과

문제 정의

• 따라서 본 논문에서는 Word2Vec 모델을 기반으로 하여 단어 벡터를 학습하고 한국어 문장을 생성하는 방법을 제안한다. 학습 대상이 되는 한국어 문장을 형태소 분석을 통해 품사별로 단어 벡터를 생성한다.
• 본 논문에서는 Word2Vec 모델을 이용하여 한국어 문장을 생성하는 방법에 대해 제안하였다. Word2Vec 모델은 충분한 양의 데이터로 학습할 경우 높은 정확도로 단어 간 유사도를 계산할 수 있었으며, 다른 텍스트 모델에 비해 상대적으로 계산 효율이 높음을 확인할 수 있었다.

제안 방법

• 주어와 목적어와 함께 사용되는 조사 역시 각각의 단어 벡터와 가장 유사한 조사를 사용하였다. 두 학습 모델을 서로 비교하기 위해 동일한 주어로 유사도를 계산하여 문장을 생성하였다. 표 1은 두 가지 데이터로 학습한 Word2Vec 모델이 생성된 문장의 예시이다.
• 분석 과정에서 품사(POS) 태그를 함께 태깅 하여 동음이의어를 구분하였다. 또한 학습 데이터 중 복합 명사의 경우 형태소 분석 과정에서 명사와 명사로 분리되지 않도록 미리 사전을 구성하여 하나의 명사로 분류하였다.
• 문장의 주어와 서술어 등을 비워 둔 상태에서 프로야구 경기 데이터를 결합하여 뉴스 기사의 각 문장을 생성하고, 기록 시점 이전에 경기 데이터와 현재 이벤트 이후 경기 데이터를 비교하여 ‘안타깝게도’등과 같이 무드를 더하여 문장을 생성하였다.
• 따라서 Word2Vec 모델을 구성하기 위해서는 학습 데이터를 형태소 분석을 통해 문장을 어근, 접두사/접미사, 품사 등으로 가장 세분화하여 단어 벡터로 생성하는 전처리 과정이 필요하다. 본 연구에서는 파이썬 한글 형태소 분석 라이브러리인 KoNLPy[4]의 트위터 형태소 분석기를 이용하여 단어 벡터를 구성하였다. 그림 1은 학습할 한국어 문장을 형태소 분석한 예시이다.
• 그림 1은 학습할 한국어 문장을 형태소 분석한 예시이다. 분석 과정에서 품사(POS) 태그를 함께 태깅 하여 동음이의어를 구분하였다. 또한 학습 데이터 중 복합 명사의 경우 형태소 분석 과정에서 명사와 명사로 분리되지 않도록 미리 사전을 구성하여 하나의 명사로 분류하였다.
• 학습 대상이 되는 한국어 문장을 형태소 분석을 통해 품사별로 단어 벡터를 생성한다. 생성한 단어 벡터는 Word2Vec 모델에 적용하여 유사도가 높은 단어 벡터를 사전에 지정한 문장 템플릿의 주어, 목적어 등 문장의 각 구성 요소로 하여 한국어 문장을 생성하였다. 학습 데이터에 따라 생성된 문장이 어떻게 달라지는지 분석하기 위해 뉴스 기사와 온라인 커뮤니티 게시물을 수집하여 각각 학습 모델을 만들고, 동일한 주어로 시작하는 문장을 생성하여 서로 비교하였다.
• 따라서 본 논문에서는 Word2Vec 모델을 기반으로 하여 단어 벡터를 학습하고 한국어 문장을 생성하는 방법을 제안한다. 학습 대상이 되는 한국어 문장을 형태소 분석을 통해 품사별로 단어 벡터를 생성한다. 생성한 단어 벡터는 Word2Vec 모델에 적용하여 유사도가 높은 단어 벡터를 사전에 지정한 문장 템플릿의 주어, 목적어 등 문장의 각 구성 요소로 하여 한국어 문장을 생성하였다.
• 생성한 단어 벡터는 Word2Vec 모델에 적용하여 유사도가 높은 단어 벡터를 사전에 지정한 문장 템플릿의 주어, 목적어 등 문장의 각 구성 요소로 하여 한국어 문장을 생성하였다. 학습 데이터에 따라 생성된 문장이 어떻게 달라지는지 분석하기 위해 뉴스 기사와 온라인 커뮤니티 게시물을 수집하여 각각 학습 모델을 만들고, 동일한 주어로 시작하는 문장을 생성하여 서로 비교하였다.

대상 데이터

• 학습 데이터로는 네이버 스포츠의 야구 뉴스 기사 1,575개의 본문과 대표 온라인 커뮤니티 디시인사이드의 국내야구 갤러리 게시물 38,724개를 수집하였다. 뉴스 기사와 커뮤니티 게시물 모두 같은 기간 동안 생성된 일주일 분 텍스트 데이터를 수집하였으며, 커뮤니티 게시물의 경우 뉴스와는 달리 본문보다는 제목에 의견을 표현하므로 학습할 문장의 개수를 조절하여 뉴스에 비해 상대적으로 많은 양의 게시물을 수집하였다.
• 본 논문에서 제안한 Word2Vec 모델의 문장 생성 성능을 평가하기 위해 동일한 주제의 두 가지 학습 데이터를 이용하였다. 학습 데이터로는 네이버 스포츠의 야구 뉴스 기사 1,575개의 본문과 대표 온라인 커뮤니티 디시인사이드의 국내야구 갤러리 게시물 38,724개를 수집하였다.
• 본 논문에서 제안한 Word2Vec 모델의 문장 생성 성능을 평가하기 위해 동일한 주제의 두 가지 학습 데이터를 이용하였다. 학습 데이터로는 네이버 스포츠의 야구 뉴스 기사 1,575개의 본문과 대표 온라인 커뮤니티 디시인사이드의 국내야구 갤러리 게시물 38,724개를 수집하였다. 뉴스 기사와 커뮤니티 게시물 모두 같은 기간 동안 생성된 일주일 분 텍스트 데이터를 수집하였으며, 커뮤니티 게시물의 경우 뉴스와는 달리 본문보다는 제목에 의견을 표현하므로 학습할 문장의 개수를 조절하여 뉴스에 비해 상대적으로 많은 양의 게시물을 수집하였다.

이론/모형

• 그러나 Word2Vec 모델은 여러 개의 주변 단어를 통해 대상 단어를 유추하는 Continuous Bag-of-Word(CBOW), 주어진 단어 하나를 가지고 주위에 등장하는 나머지 단어들을 유추하는 Skip-gram 으로 구성되어 가공되지 않은 텍스트로부터 효율적으로 예측할 수 있다. 또한 해당 단어가 나올 확률을 예측하는 트리를 구성할 때 Binary Huffman Tree를 사용한다. 즉, 자주 등장하는 단어들이 보다 짧은 path로 도달하게 되어 전체적인 계산 복잡도가 낮아지는 효과가 있다.
• 형태소 분석을 통해 품사 태그가 포함된 단어들로 벡터를 구성하여 Word2Vec 모델을 생성하였다. Word2Vec 모델은 학습 과정에서 기준이 되는 단어로부터 주변의 단어 문맥을 파악하여 현재의 단어 벡터 위치가 얼마나 정확한지를 계산한다.

성능/효과

• 본 논문에서는 Word2Vec 모델을 이용하여 한국어 문장을 생성하는 방법에 대해 제안하였다. Word2Vec 모델은 충분한 양의 데이터로 학습할 경우 높은 정확도로 단어 간 유사도를 계산할 수 있었으며, 다른 텍스트 모델에 비해 상대적으로 계산 효율이 높음을 확인할 수 있었다. 그러나 단어 벡터를 구성하는 과정에서 형태소 분석이 제대로 이루어지지 않을 경우 전달하고자 하는 의미가 달라지거나 문맥상 어색한 문장이 생성될 수 있으며, 신경망 모델처럼 단어 간 의존관계를 파악하여 문장을 자동으로 생성하기에 어려움이 있다.
• 그러나 유사도를 기반으로 하여 문장을 생성하여 주어와 목적어, 목적어와 서술어 간의 관계가 잘 표현되어 뉴스 기사와 같이 객관적인 사실을 전달하는 문장을 생성하거나 문서의 내용을 요약하는 문장을 생성할 경우에는 활용 가능성이 있음을 확인할 수 있었다.

본문요약 정보가 도움이 되었나요? 예 아니오 제출

이 논문을 인용한 문헌

더보기