선택한 단어 수는 입니다.
최소 단어 이상 선택하여야 합니다.
최소 단어 이상 선택하여야 합니다.
선택한 단어 수는 30입니다.
최대 10 단어까지만 선택 가능합니다.
최대 10 단어까지만 선택 가능합니다.
문제 정의
- 대화형 개인 비서 시스템에선 개체명 인식, 문장목적 인식을 통해 앱에서 사용자에게 제공해야 할 정보가 무엇인지 파악한다. 예를 들어, 사용자가 “오늘 기온”에 대한 정보를 얻고자 할 때, 사용자는 “오늘 기온이 어때?” 라는 질의를 시스템에게 보내고, 개체명 인식 작업을 통해 “오늘”이라는 개체명을 인식한 후, 문장목적 인식 작업을 통해 문장의 목적이 “기온”에 대한 정보라는 것을 파악한다.
- 동시인식 시스템 또한 사전정보와 CRF를 결합하는 하이브리드 방식을 통해 성능을 높이는 방법을 시도했다. 또 CRF를 단독으로 사용하는 시스템을 구축해 제안한 방법이합리적인지 평가했다. 그림7은 제안한 하이브리드기반 시스템의 구조도이다.
- 본 논문에서는 개체명 및 문장목적 인식을 위해 통계 기반의 기계학습기법인 CRF와 사전정보를 함께 사용하는 하이브리드 방식을 제안한다. 또한 개체명과 문장목적을 인식하는 방법의 구조를 분석한 결과, 서로 비슷한 자질로 분류가 가능하다고 판단하여 서로 다른 두 개의 인식 시스템을 단 한 번의 기계학습을 통해 동시에 인식하는 방법을 제안한다.
- 본 논문에서는 대화형 개인 비서 시스템에서 중요한 작업인 개체명 인식과 문장목적 인식을 동시에 수행하는 방법을 제안했다. 6개의 도메인에서 8개의 개체명과 28개의 문장목적을 대상으로 개체명과 문장목적 분류를 수행한 결과, 사전규칙기반의 파이프라인방식을 통해 두 인식을 수행한 성능보다 CRF와 사전자질을 이용해 하이브리드방식으로 두 인식을 동시에 수행한 결과가 문장단위 2.
가설 설정
- 1.개체명 단계에서 생긴 오류를 가지고 문장목적 단계로 넘어가기 때문에 두 단계에 걸친 성능저하.
- 3.규칙이 일반화되지 않을 경우 많은 오류를 유발 하는 문제.
제안 방법
- 3.1절의 개체명 인식과 같은 단계를 거쳐 목적구간을 찾아 문장의 목적 인식작업을 수행하도록 구축했다.
- 개체명 문장목적 동시 인식방법은 3가지 버전으로 성능을 비교했다. 표7은 개체명 문장목적 동시인식에 대한 결과이다.
- 개체명 종류에서 반복은 “매년, 매주, 매월” 같은 단어이며, “논문 계획, 미팅 일정, 점심 약속”같은 단어를 타이틀이라고 명명한다. 개체명 인식 시스템은 비교를 위해 사전규칙, CRF, 하이브리드 방식으로 각각 시스템을 구축한다. 먼저, 사전규칙기반은 각 도메인별로 사전과 규칙을 다르게 적용하여, 도메인별로 사전이나 규칙이 중복되어 오류를 유발할 수 있는 부분을 최대한 줄였다.
- 개체명 인식은 4개의 버전으로 성능을 비교했다.
- 개체명과 문장목적 인식을 위해 ETRI개체명사전을 사용했으며, 학습데이터를 통해 문장목적구간사전을 구축했다. 또한 말뭉치는 전문적으로 태깅을 하는 전문가를 통해 6개의 도메인에서 2972개의 문장을 태깅한 것을 사용했다.
- 규칙은 여러 가지 타입에 유연하게 적용할 수 있도록, 어휘정보 및 형태소정보, 정규표현 등 5가지의 타입규칙을 사용하였다. 또한 사전정보는 최장길이일치법을 적용했다.
- 하이브리드 방법에서는 사전자질 및 문장목적자질을 추가 할 때 마다 인식성능이 떨어지는 것이 확인되었다. 그러므로 CRF에서 사용한 자질 중 사전자질(20)만을 추가한 결과를 사용해 성능을 평가했다.
- 반면, 본 논문에서 제안한 시스템은 두 인식 시스템이 같은 구조를 갖는다는 것을 바탕으로 개체명과 문장목적을 동시에 수행함으로써 위의 문제점을 해결한다. 동시인식 시스템 또한 사전정보와 CRF를 결합하는 하이브리드 방식을 통해 성능을 높이는 방법을 시도했다. 또 CRF를 단독으로 사용하는 시스템을 구축해 제안한 방법이합리적인지 평가했다.
- 본 논문에서는 개체명 및 문장목적 인식을 위해 통계 기반의 기계학습기법인 CRF와 사전정보를 함께 사용하는 하이브리드 방식을 제안한다. 또한 개체명과 문장목적을 인식하는 방법의 구조를 분석한 결과, 서로 비슷한 자질로 분류가 가능하다고 판단하여 서로 다른 두 개의 인식 시스템을 단 한 번의 기계학습을 통해 동시에 인식하는 방법을 제안한다. 2장에서는 관련연구에 대해 살펴보고, 3장에서는 개체명 인식 시스템, 문장목적 인식 시스템, 개체명 및 문장목적 동시 인식 시스템에 대해 각각 사전 규칙, CRF, 하이브리드방식으로 나누어 설명하고, 4장에서는 3장에서 제안한 하이브리드 시스템을 사전규칙 시스템과 CRF만을 사용한 시스템과 비교하여 하이브리드 시스템의 유용성을 살펴보며, 본 논문에서 제안한 하이 브리드 기반의 개체명 및 문장목적 동시 인식기술이 사전규칙방식이나 단독CRF방식을 사용해 두 인식을 수행한 것보다 더 합리적인 것을 살펴본다.
- CRF 및 하이브리드기반 시스템에 사용한 자질 중 실험결과 가장 좋은 성능을 보이는 자질집합을 각 실험결과의 하위에 기재했다. 또한 모든 자질은 표3에 기재한 자질만을 사용했으며, 각 실험에서 사용한 자질을 쉽게 보여주기 위해 자질 별로 번호를 부여해, 자질번호 나열을 통해 사용한 자질을 보여주는 방식으로 구성했다.
- 하이브리드 방식에서는 개체명 인식 시스템의 성능 향상을 위해 CRF에 사전정보를 결합함으로써 개체명인식 시스템의 성능을 높이는 방법을 시도했다. 또한 사전정보와 CRF를 각각 단독으로 사용하는 시스템을 구축해 하이브리드 방식이 합리적인지 평가했다. 그림2는 하이브리드 기반의 개체명 인식시스템의 구조도이다.
- 문장목적 인식 또한 4개의 버전으로 성능을 비교했다. 표6은 문장목적인식에 대한 결과이다.
- 이에 따라 개체명과 문장목적을 동시에 인식하는 시스템을 구현 하는 것은 합리적인 방법일 것이라고 생각했다. 우리가 생각한 방법이 올바른지 판단하기 위해 사전규칙, CRF, 하이브리드기반 시스템을 각각 구현해 비교했다.
- 우리는 사전정보와 CRF를 결합하는 하이브리드 방법을 통해 개체명 및 문장목적 인식의 성능을 높이는 방법을 시도하며, 개체명과 문장목적 인식이라는 각각의 작업을 동시에 수행하는 방법을 제안한다.
- 자질 집합은 형태소어휘, 형태소태그, 어절 내 자질등 기본적으로 사용하는 자질집합과 함께, 인식 성능을 높이기 위해 본 논문에서 구축한 사전자질, 개체명자질, 문장목적 자질을 추가하였다. 표3는 전체 자질집합을 보여준다.
- 문장목적 인식 사전규칙시스템은 개체명 인식과 같은 방법으로 각 도메인별 사전과 규칙을 적용시켜 오류를 최소화 시켰다. 통계기반의 문장목적 인식시스템도 마찬가지로 사전정보와 CRF를 결합하는 하이브리드 방식을 통해 성능을 높이는 방법을 시도했다. 또한 사전정보와 CRF를 각각 단독으로 사용하는 시스템을 구축해 하이브리드 방식이 합리적인지 평가했다.
- 하이브리드 방법은 형태소 어휘/태그자질(1), 형태소어휘자질(2,3,4,5,6,7,8,9), 형태소태그자질(10,11,12,13,14,15,16,17), 어절 내 자질(18,19), 사전자질(20), 개체명자질(21,22,23,24)을 사용해 성능을 평가했다.
- 하이브리드 방법은 형태소 어휘/태그자질(1), 형태소어휘자질(2,3,4,5,6,7,8,9), 형태소태그자질(10,11,12,13,14,15,16,17), 어절 내 자질(18,19), 사전자질(20), 개체명자질(21,22,23,24)을 사용해 성능을 평가했다.
- 또한 사전정보는 최장길이일치법을 적용했다. 하이브리드 방식에서는 개체명 인식 시스템의 성능 향상을 위해 CRF에 사전정보를 결합함으로써 개체명인식 시스템의 성능을 높이는 방법을 시도했다. 또한 사전정보와 CRF를 각각 단독으로 사용하는 시스템을 구축해 하이브리드 방식이 합리적인지 평가했다.
- 하이브리드기반 시스템은 사전정보를 활용해, 사전에 매치된 개체명후보와 문장목적 구간후보를 인식해, CRF를 사용할 때 사전자질을 사용할 수 있도록 구성했다.
대상 데이터
- 개체명 인식 방법 중 CRF자질은 형태소어휘/태그자질(1), 형태소어휘자질(2,3,4,9), 형태소태그자질(10,11,12,13,14,17), 어절 내 자질(18,19)을 사용했다.
- 동시 인식 방법 중 CRF자질은 형태소어휘/태그자질(1), 형태소어휘자질(2,3,4,5,6,7,8,9), 형태소태그자질(10,11,12,13,14,15,16,17), 어절 내 자질(18,19)을 사용했다.
- 개체명과 문장목적 인식을 위해 ETRI개체명사전을 사용했으며, 학습데이터를 통해 문장목적구간사전을 구축했다. 또한 말뭉치는 전문적으로 태깅을 하는 전문가를 통해 6개의 도메인에서 2972개의 문장을 태깅한 것을 사용했다. 표4는 6개의 도메인에 대한 문장의 분포이다.
- 본 논문에서는 학습데이터에 1925개의 문장을 사용했고, 테스트데이터는 1047개의 문장을 사용했다.
- 시스템에 사용된 자질집합은 총 28개로 구성된다. 형태소어휘자질은 현재형태소어휘(w0)를 중심으로 이전/이후의 연속된 형태소어휘이다.
이론/모형
- 규칙은 여러 가지 타입에 유연하게 적용할 수 있도록, 어휘정보 및 형태소정보, 정규표현 등 5가지의 타입규칙을 사용하였다. 또한 사전정보는 최장길이일치법을 적용했다. 하이브리드 방식에서는 개체명 인식 시스템의 성능 향상을 위해 CRF에 사전정보를 결합함으로써 개체명인식 시스템의 성능을 높이는 방법을 시도했다.
- 즉, 개체명 인식에서는 형태소별, 목적인식에서는 문장별로 분류하게 된다. 실시간 시스템에서는 속도가 매우 중요하기 때문에, 우리는 두 가지 인식을 동시에 수행하기 위한 기반을 마련하기 위해 실마리구간 탐색방법을 사용했다.
- 개체명 인식은 크게 3가지 방법으로 연구되었다. 첫 번째는 규칙 기반 방법이며 이 방법에서는 주로 정규표현식[3]이나 자연어 특징을 이용한 규칙과 사전정보[2]를 사용했다. 두 번째로 통계기반의 기계학습 방법이며, 대표적인 방법으로 Hidden Markov Model, Maximun Entropy Model, Conditional Random Fields, Decision Tree 등이 있다[4][5][6][7].
성능/효과
- 본 논문에서는 대화형 개인 비서 시스템에서 중요한 작업인 개체명 인식과 문장목적 인식을 동시에 수행하는 방법을 제안했다. 6개의 도메인에서 8개의 개체명과 28개의 문장목적을 대상으로 개체명과 문장목적 분류를 수행한 결과, 사전규칙기반의 파이프라인방식을 통해 두 인식을 수행한 성능보다 CRF와 사전자질을 이용해 하이브리드방식으로 두 인식을 동시에 수행한 결과가 문장단위 2.67%의 성능이 향상된 것을 확인 할 수 있었다.
- 개체명 문장목적 동시 인식 실험에서 확인할 수 있었던 것은 문장목적은 기본적인자질(시퀀스 자질)이 높은 성능을 보이는데 반해, 개체명은 기본적인 자질과 함께 개체명사전자질을 사용했을 때 더 높은 성능을 보였다. CRF를 단독으로 사용한 시스템에서는 개체 명인식 성능은 상대적으로 낮은 성능을 보였지만, 문장 목적 인식결과가 상당히 높은 성능을 보여, 문장 단위 성능이 높게 나온 것을 확인했다.
- 67%의 성능이 향상된 것을 확인할 수 있었다. 개체명 문장목적 동시 인식 실험에서 확인할 수 있었던 것은 문장목적은 기본적인자질(시퀀스 자질)이 높은 성능을 보이는데 반해, 개체명은 기본적인 자질과 함께 개체명사전자질을 사용했을 때 더 높은 성능을 보였다. CRF를 단독으로 사용한 시스템에서는 개체 명인식 성능은 상대적으로 낮은 성능을 보였지만, 문장 목적 인식결과가 상당히 높은 성능을 보여, 문장 단위 성능이 높게 나온 것을 확인했다.
- 문장목적 인식은 사전규칙기반 시스템보다 CRF와 하이브리드기반 시스템을 수행한 결과가 더 높은 성능을 보이는 것을 결과를 통해 확인 할 수 있었다. 그리고 문장 목적 인식은 문장목적사전자질을 추가했을 때보다 기본 적인 자질만을 사용했을 때, 더 높은 성능을 보이는 것을 확인했다. 그 이유는 문장목적인식은 구간을 통해 문장의 목적을 식별하기 때문에, 완전히 같은 단어와 단어집합, 태그정보가 반복적으로 구간에 나타나는 경향이 많았다.
- 2절에서 개체명과 문장목적을 인식하는 구조도를 보였다. 두 시스템의 비교결과, 문장목적인식에 구간정보를 사용함으로써, 개체명 인식과 같은 시스템구조를 사용할 수 있으며, 따라서 우리는 두 인식 시스템이 서로 비슷한 자질로 분류가 가능할 것이라고 판단했다. 이에 따라 개체명과 문장목적을 동시에 인식하는 시스템을 구현 하는 것은 합리적인 방법일 것이라고 생각했다.
- 개체명 인식 시스템은 비교를 위해 사전규칙, CRF, 하이브리드 방식으로 각각 시스템을 구축한다. 먼저, 사전규칙기반은 각 도메인별로 사전과 규칙을 다르게 적용하여, 도메인별로 사전이나 규칙이 중복되어 오류를 유발할 수 있는 부분을 최대한 줄였다. 다음은 사전 정보와 규칙적용 방식을 보여준다.
- 문장목적 인식은 사전규칙기반 시스템보다 CRF와 하이브리드기반 시스템을 수행한 결과가 더 높은 성능을 보이는 것을 결과를 통해 확인 할 수 있었다. 그리고 문장 목적 인식은 문장목적사전자질을 추가했을 때보다 기본 적인 자질만을 사용했을 때, 더 높은 성능을 보이는 것을 확인했다.
- 사전규칙기반 시스템은 파이프라인을 통해 수행되기 때문에 개체명과 문장목적 인식성능을 따로 기재하지 않고, 전체 성능만을 기재했다. 사전규칙기반 시스템은 오류가 축적됨에 따라 개체명 인식, 문장목적 인식을 각각 수행할 때 보다 문장 단위 정확도가 많이 떨어진 것을 확인할 수 있었다.
- 하이브리드기반 시스템에서는 CRF에 개체명자질과 사전자질을 추가함으로써, CRF를 단독으로 사용한 방법보다 높은 성능을 낼 수 있음을 보였다. 서로 비슷한 의미를 지닌 문장은 같은 개체명 종류가 나올 것이라는 가정을 통해 구축한 개체명사전자질의 타당성을 실험을 통해 입증했으며, 하이브리드 방식에서 개체명인식 성능을 개선하는데 기여했음을 알 수 있다.
- 하이브리드 방법에서는 사전자질 및 문장목적자질을 추가 할 때 마다 인식성능이 떨어지는 것이 확인되었다. 그러므로 CRF에서 사용한 자질 중 사전자질(20)만을 추가한 결과를 사용해 성능을 평가했다.
- 표5에서 개체명 인식 성능은 사전규칙기반 시스템과 하이브리드기반 시스템이 높은 것을 확인할 수 있다. 하이브리드기반 시스템에서는 CRF에 개체명자질과 사전자질을 추가함으로써, CRF를 단독으로 사용한 방법보다 높은 성능을 낼 수 있음을 보였다. 서로 비슷한 의미를 지닌 문장은 같은 개체명 종류가 나올 것이라는 가정을 통해 구축한 개체명사전자질의 타당성을 실험을 통해 입증했으며, 하이브리드 방식에서 개체명인식 성능을 개선하는데 기여했음을 알 수 있다.
- 하이브리드기반 시스템에서는 기본적인자질과 사전자질을 사용해, 동시에 두 개의 작업을 수행함으로써, 사전규칙기반 시스템보다 2.67%의 성능이 향상된 것을 확인할 수 있었다. 개체명 문장목적 동시 인식 실험에서 확인할 수 있었던 것은 문장목적은 기본적인자질(시퀀스 자질)이 높은 성능을 보이는데 반해, 개체명은 기본적인 자질과 함께 개체명사전자질을 사용했을 때 더 높은 성능을 보였다.
후속연구
- 향후 연구로는 문장목적구간이 학습데이터에서는 문장당 한 구간만 존재했지만, 서로 다른 목적을 가진 구간이 한 문장에 2개 이상 출현했을 경우 여러 목적구간 중 가장 확률이 높은 것을 선택하는 방법을 연구할 것이며, 대화형 개인 비서 시스템에서는 개체명인식과 문장목적인식 이외에 형태소분석, 화행분석, 도메인인식 등 여러 절차가 존재하는데, 그 절차 중 도메인인식은 본 논문에서 제안한 방법과 결합이 가능 할 것으로 생각된다. 그러므로 개체명, 문장목적, 도메인 인식을 동시에 수행하는 방법을 연구할 것이다.
- 향후 연구로는 문장목적구간이 학습데이터에서는 문장당 한 구간만 존재했지만, 서로 다른 목적을 가진 구간이 한 문장에 2개 이상 출현했을 경우 여러 목적구간 중 가장 확률이 높은 것을 선택하는 방법을 연구할 것이며, 대화형 개인 비서 시스템에서는 개체명인식과 문장목적인식 이외에 형태소분석, 화행분석, 도메인인식 등 여러 절차가 존재하는데, 그 절차 중 도메인인식은 본 논문에서 제안한 방법과 결합이 가능 할 것으로 생각된다. 그러므로 개체명, 문장목적, 도메인 인식을 동시에 수행하는 방법을 연구할 것이다.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.