[논문]핵심어 시퀀스와 지식 그래프를 이용한 RNN 기반 자연어 문장 생성

권성구; 노윤석; 최수정; 박세영

문제 정의

따라서 본 논문에서는 데이터 부족 문제를 해결하기 위해 핵심어 시퀀스를 추출하여 학습하는 방법을 제안하고, 학습된 모델을 통해 트리플을 입력으로 하여 자연어 문장을 생성한다. 핵심어란 명사, 동사, 형용사의 품사를 가지는 단어들을 의미하는데, 이 핵심어들을 문장에서 출현하는 순서대로 추출하여 나열한 것이 핵심어 시퀀스다.
본 논문에서는 지식 그래프를 이용하여 자연어 문장을 생성하는 방법에 대해 제안했다. 최근 연구에서 가장 큰 문제점인 순환 신경망 기반의 모델을 트리플과 문장 쌍 데이터가 아닌, 핵심어를 추출하여 생성한 핵심어 시퀀스와 문장 데이터 쌍을 이용하여 자연어 문장 생성 모델을 학습시킴으로서 트리플과 문장 쌍 데이터의 부족을 해결했다.
본 논문에서는 추출한 핵심어 시퀀스가 문장의 의미를 포함하고 있고, 술어의 위치 정보가 핵심어 시퀀스에서 중요한 역할을 한다고 제안하였다. 따라서 핵심어 시퀀스에서 문장을 생성하여 앞선 제안을 입증하는 실험을 진행했다.
본 논문의 연구는 지식 그래프에서 자연어를 생성하는 목적을 기반으로 한다. Trisedya et al.

제안 방법

임준호 et al.[8] 논문에서 제안된 의존 구조정보 중 용언(VP)과 긍정 지정사구(VNP)의 위치 정보를 사용하여, 핵심어 시퀀스 중 술어의 역할을 하는 단어의 앞, 뒤에 일련의 태그를 추가해 해당 단어가 술어라는 정보를 부여했다. 이렇게 핵심어 시퀀스에 부여된 술어 역할 정보는 해당 단어가 문장에서 술어로 사용되는지 주어나 목적어로 사용되는지 분간하여 학습할 수 있게 된다.
지식 그래프를 이용한 자연어 문장 생성의 경우, 단일 트리플에 대한 문장 생성과 2개의 트리플을 입력으로 하는 다중 트리플에 대한 문장 생성 실험을 진행하였다. 단일 트리플 400개, 다중 트리플 120개의 평가 데이터를 핵심어 시퀀스와 문장쌍 데이터로 학습시킨 자연어 문장 생성 모델의 입력으로 하여 문장을 생성하였다. 트리플을 입력하여 생성된 문장은 3명의 전문가를 통해 3단계 등급으로 평가하였으며, 각 등급에 대한기준은 아래와 같다.
본 논문에서는 추출한 핵심어 시퀀스가 문장의 의미를 포함하고 있고, 술어의 위치 정보가 핵심어 시퀀스에서 중요한 역할을 한다고 제안하였다. 따라서 핵심어 시퀀스에서 문장을 생성하여 앞선 제안을 입증하는 실험을 진행했다. 특히 술어 정보의 중요성을 검증하기 위해 10,000개의 문장에서 술어 정보를 부여한 핵심어 시퀀스와, 술어 정보를 부여하지 않은 핵심어 시퀀스를 이용해 문장을 생성했다.
이런 모호함을 해결하기 위해 의존 구조 분석 정보를 사용해 핵심어 시퀀스에 술어 위치 정보를 추가하는 과정을 거친다. 또한 본 논문에서 제안한 방법의 우수함을 입증하기 위해 추출한 핵심어 시퀀스에서의 문장 생성과 지식 그래프에서의 문장 생성에 대한 실험 및 평가를 진행했다. 핵심어 시퀀스에서 문장 생성에 대해서는 약 0.
질문에서 핵심어 집합을 추출한 뒤 핵심어 집합과 질문 쌍 데이터를 생성하여 자연어 생성 모델을 학습시키고, 모델의 입력으로 트리플을 사용해 질의응답 쌍의 데이터를 생성하게 된다. 또한 해당 논문에서는 영어 질문의 문법적 특징을 따르는 두 가지 규칙 기반 방법(Rule Based)을 사용하여 모델을 학습시킨 핵심어 질문 쌍 데이터와 트리플의 형태적 차이를 해소하는 방법을 사용한다. 하지만 한국어의 경우 Reddy et al.
최근 연구에서 가장 큰 문제점인 순환 신경망 기반의 모델을 트리플과 문장 쌍 데이터가 아닌, 핵심어를 추출하여 생성한 핵심어 시퀀스와 문장 데이터 쌍을 이용하여 자연어 문장 생성 모델을 학습시킴으로서 트리플과 문장 쌍 데이터의 부족을 해결했다. 또한 핵심어 시퀀스에 술어 위치 정보를 단어 앞, 뒤 태그로 부여함으로써 시퀀스의 단어 역할이 주어, 목적어 또는 술어인지 파악 할 수 있게 하였다. 한국어 트리플을 자연어 문장 생성 모델의 입력 데이터로 사용하여 문장을 생성하는 실험과 생성된 문장에 대해 평가를 진행하였다.
본 논문에서는 그림 1과 같이 핵심어 시퀀스를 추출하는 모듈과 순환 신경망 기반의 자연어 문장 생성 모델로 구성된 두 단계 프레임워크로 구성되어 있다. 핵심어 시퀀스 추출 모듈에서 핵심어 시퀀스와 문장 쌍 데이터를 생성하게 되고 생성한 데이터를 이용해 순환 신경망 기반의 자연어 문장 생성 모델을 학습시키게 된다.
이런 경우 명사의 형태로 추출되는 술어는 다른 문장에서 주어나 목적어로 사용되고 있을 수 있어, 학습 데이터로서의 일관성이 떨어지게 되고 자연어 생성 모델에서 학습률 하락의 원인이 된다. 이러한 문제를 해결하기 위해 의존 구조 정보를 이용하여 술어의 위치에서 추출되는 핵심어에 태그를 달아 해당 단어는 술어의 역할을 하고 있다는 정보를 추가한다. 임준호 et al.
지식 그래프를 이용한 자연어 문장 생성의 경우, 단일 트리플에 대한 문장 생성과 2개의 트리플을 입력으로 하는 다중 트리플에 대한 문장 생성 실험을 진행하였다. 단일 트리플 400개, 다중 트리플 120개의 평가 데이터를 핵심어 시퀀스와 문장쌍 데이터로 학습시킨 자연어 문장 생성 모델의 입력으로 하여 문장을 생성하였다.
[7]에서는 본 논문과 유사한 핵심어 추출 방법을 사용한다. 질문에서 핵심어 집합을 추출한 뒤 핵심어 집합과 질문 쌍 데이터를 생성하여 자연어 생성 모델을 학습시키고, 모델의 입력으로 트리플을 사용해 질의응답 쌍의 데이터를 생성하게 된다. 또한 해당 논문에서는 영어 질문의 문법적 특징을 따르는 두 가지 규칙 기반 방법(Rule Based)을 사용하여 모델을 학습시킨 핵심어 질문 쌍 데이터와 트리플의 형태적 차이를 해소하는 방법을 사용한다.
단일 트리플 400개, 다중 트리플 120개의 평가 데이터를 핵심어 시퀀스와 문장쌍 데이터로 학습시킨 자연어 문장 생성 모델의 입력으로 하여 문장을 생성하였다. 트리플을 입력하여 생성된 문장은 3명의 전문가를 통해 3단계 등급으로 평가하였으며, 각 등급에 대한기준은 아래와 같다.
따라서 핵심어 시퀀스에서 문장을 생성하여 앞선 제안을 입증하는 실험을 진행했다. 특히 술어 정보의 중요성을 검증하기 위해 10,000개의 문장에서 술어 정보를 부여한 핵심어 시퀀스와, 술어 정보를 부여하지 않은 핵심어 시퀀스를 이용해 문장을 생성했다. 술어 정보가 부여된 핵심어 시퀀스에서 생성된 문장은 Papineni et al.
또한 핵심어 시퀀스에 술어 위치 정보를 단어 앞, 뒤 태그로 부여함으로써 시퀀스의 단어 역할이 주어, 목적어 또는 술어인지 파악 할 수 있게 하였다. 한국어 트리플을 자연어 문장 생성 모델의 입력 데이터로 사용하여 문장을 생성하는 실험과 생성된 문장에 대해 평가를 진행하였다. 그 결과, 순환 신경망 기반 자연어 문장 생성 모델의 학습 데이터로 부족한 트리플과 문장 쌍 데이터 대신 핵심어 시퀀스와 문장 쌍 데이터를 사용해 트리플을 이용한 자연어 문장생성이 원활하게 가능함을 확인 할 수 있다.

대상 데이터

실험을 위해 한국어 위키피디아 2017년 6월 1일 버전 말뭉치를 사용하였으며, 디비피디아(DBpedia) 2016년 10월 버전의 지식 그래프를 사용하였다. 한국어 위키피디아 말뭉치의 경우 형태소 50개 이하의 1,500,000 문장을 임의로 추출하여 학습데이터로 사용하였고 10,000개의 문장을 추가로 임의 추출하여 핵심어를 이용한 자연어 문장 생성에 대한 검증 데이터로 사용하였다.
한국어 위키피디아 말뭉치의 경우 형태소 50개 이하의 1,500,000 문장을 임의로 추출하여 학습데이터로 사용하였고 10,000개의 문장을 추가로 임의 추출하여 핵심어를 이용한 자연어 문장 생성에 대한 검증 데이터로 사용하였다. 지식 그래프의 경우 주어, 목적어, 술어가 모두 한국어로 구성된 트리플 287,540개 중 640개를 임의 추출하여 지식 그래프를 이용한 자연어 문장 생성의 실험 데이터로 사용하였다.
실험을 위해 한국어 위키피디아 2017년 6월 1일 버전 말뭉치를 사용하였으며, 디비피디아(DBpedia) 2016년 10월 버전의 지식 그래프를 사용하였다. 한국어 위키피디아 말뭉치의 경우 형태소 50개 이하의 1,500,000 문장을 임의로 추출하여 학습데이터로 사용하였고 10,000개의 문장을 추가로 임의 추출하여 핵심어를 이용한 자연어 문장 생성에 대한 검증 데이터로 사용하였다. 지식 그래프의 경우 주어, 목적어, 술어가 모두 한국어로 구성된 트리플 287,540개 중 640개를 임의 추출하여 지식 그래프를 이용한 자연어 문장 생성의 실험 데이터로 사용하였다.
예를 들어, 그림2에서 추출된 핵심어시퀀스의 부분 시퀀스인 { 서울, 대한민국, 수도 }, { 서울, 특별시, 행정구역 }은 트리플 [ 대한민국 - 수도(Capital) - 서울 ], [ 서울 - 행정 구역(AdministrativeRegion) - 특별시 ] 과 서로 유사한 모습을 보인다. 핵심어 시퀀스과 트리플의 유사함을 이용하여 핵심어 시퀀스와 문장 쌍 데이터를 생성하고 부족한 트리플과 문장 쌍 데이터를 대신하여 순환 신경망 기반의 자연어 문장 생성 모델의 학습 데이터로 사용한다.

이론/모형

본 논문에서는 자연어 생성을 위해 Cho et al.[5]에서 제안된 인코더 - 디코더 모델을 사용한다. 인코더 - 디코더 모델은 그림 4와 같이 순환 신경망의 한 종류인 LSTM이 여러개 연결된 인코더와 디코더로 구성되어 있으며, 인코더로 입력되는 시퀀스가 디코더의 출력 시퀀스로 변환되는 확률 모델이다.

성능/효과

한국어 트리플을 자연어 문장 생성 모델의 입력 데이터로 사용하여 문장을 생성하는 실험과 생성된 문장에 대해 평가를 진행하였다. 그 결과, 순환 신경망 기반 자연어 문장 생성 모델의 학습 데이터로 부족한 트리플과 문장 쌍 데이터 대신 핵심어 시퀀스와 문장 쌍 데이터를 사용해 트리플을 이용한 자연어 문장생성이 원활하게 가능함을 확인 할 수 있다.
상기 제시된 3단계의 기준으로 평가 하였을때, 단일 트리플로 생성된 문장 400개 중 208개인 약 52%가 등급 1로 잘 만들어진 문장이라 평가되었. 다중 트리플에서는 약 33%가 등급 1로 평가되어 단일 트리플보다 다소 낮은 결과를 보였다. 생성된 문장은 표 1과 같이 단일 트리플에 대해서는 홑문장을 생성하고, 다중 트리플에 대해서는 대체로 겹문장을 생성하게 된다.
또한 본 논문에서 제안한 방법의 우수함을 입증하기 위해 추출한 핵심어 시퀀스에서의 문장 생성과 지식 그래프에서의 문장 생성에 대한 실험 및 평가를 진행했다. 핵심어 시퀀스에서 문장 생성에 대해서는 약 0.732의 BLEU 스코어를 달성했고, 지식 그래프에서 문장 생성의 경우 3명의 주석자를 통한 평가를 실시하여 약 52%의 완전한 문장 생성률을 달성했다.

핵심어	질문	논문에서 추출한 답변
	지식 그래프가 많은 연구에서 중요 자원으로 활용되는 이유는?	지식 그래프는 많은 수의 개채와 이들 사이의 관계를 저장하고 있기 때문에 많은 연구에서 중요한 자원으로 활용된다. 최근에는 챗봇과 질의응답과 같은 연구에서 자연어 생성을 위한 연구에 활용되고 있다.
	원격 지도 학습 방식의 단점은?	원격 지도 학습 방식은 트리플의 주어와 목적어가 모두 포함된 문장은 술어의 관계가 암묵적으로 내포되어 있다는 가설에 기반하여 말뭉치에서 트리플의 주어, 목적어가 모두 등장하는 문장들을 수집한다. 하지만 이 방식으로 수집되는 문장 데이터는 트리플의 술어와 직접적인 연관 관계는 부족하기 때문에 문장 생성의 관점에서 노이즈가 다소 존재한다.
	원격 지도 학습 방식은 어떤 가설에 기반하여 문장을 수집하는가?	[4] 논문에서 제안하였다. 원격 지도 학습 방식은 트리플의 주어와 목적어가 모두 포함된 문장은 술어의 관계가 암묵적으로 내포되어 있다는 가설에 기반하여 말뭉치에서 트리플의 주어, 목적어가 모두 등장하는 문장들을 수집한다. 하지만 이 방식으로 수집되는 문장 데이터는 트리플의 술어와 직접적인 연관 관계는 부족하기 때문에 문장 생성의 관점에서 노이즈가 다소 존재한다.

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증

[국내논문] 핵심어 시퀀스와 지식 그래프를 이용한 RNN 기반 자연어 문장 생성
RNN Based Natural Language Sentence Generation from a Knowledge Graph and Keyword Sequence 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper

문제 정의

제안 방법

대상 데이터

이론/모형

성능/효과

질의응답

이 논문을 인용한 문헌

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

연합인증

[국내논문] 핵심어 시퀀스와 지식 그래프를 이용한 RNN 기반 자연어 문장 생성 RNN Based Natural Language Sentence Generation from a Knowledge Graph and Keyword Sequence 원문보기

초록 용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

AI 본문요약 엑셀 다운로드 AI-Helper

문제 정의

제안 방법

대상 데이터

이론/모형

성능/효과

질의응답

이 논문을 인용한 문헌

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

[국내논문] 핵심어 시퀀스와 지식 그래프를 이용한 RNN 기반 자연어 문장 생성
RNN Based Natural Language Sentence Generation from a Knowledge Graph and Keyword Sequence 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper