[논문]가중 투표 기반의 앙상블 기법을 이용한 한국어 개체명 인식기

권순재; 허윤석; 이건철; 임지수; 최호정; 서정연

문제 정의

본 연구에서는 2016 국어 정보처리 시스템 경진대회²⁾ 코퍼스를 대상으로 제안하는 모델의 성능을 평가한다. 해당 코퍼스는 학습 데이터 3,555 문장, 검증 데이터 501문장, 실험 데이터 1,000문장으로 구성된다.
본 연구에서는 개체명 인식에 다른 자질과 다른 알고리즘을 조합하여 구성한 모델들을 가중 투표 방법으로 결합하는 방법을 제안하였다. 제안된 시스템은 단독 모델 중 가장 높은 성능을 보인 모델보다 2.
본 연구에서는 다양한 자질과 알고리즘을 사용하여 학습한 개체명 인식 모델을 가중 투표 방법으로 앙상블하는 방법을 제안한다. 개체명 인식기는 CRFs(Conditional Random Fields)와 그 변형 알고리즘을 사용하여 학습하며[1,2,3,4], 모델 앙상블을 위한 가중치는 NSGA-Ⅱ 알고리즘을 이용한 다목적 최적화 기법을 사용하여 학습한다.

제안 방법

개체명 인식기는 아래와 같은 방법으로 학습하였다. CRFs L-BFGS, CRFs Frank-Wolfe SSVM, CRFs Average Structured Perceptron 모델은 각각 pycrfsuite³⁾, pystruct⁴⁾, seqlearn⁵⁾의 default 값으로 학습하였다. LSTM CRFs⁶⁾의 drop rate는 0.
2절에서 소개한 가중 투표 방법으로 결합하여 실험을 진행하였다. 각각의 모델들은 실험적으로 결정된 개별적인 자질 모델이 사용되었고, 각 모델들은 검증 데이터에서 실험적으로 성능이 가장 높은 모델과 다음으로 높은 모델을 사용한다. L-BFGS_1와 L-BFGS_2 모델은 CRFs를 L-BFGS 알고리즘으로 학습하였다.
해당 코퍼스는 학습 데이터 3,555 문장, 검증 데이터 501문장, 실험 데이터 1,000문장으로 구성된다. 그리고 개체명 태그는 인명, 지명, 기관명, 날짜, 시간 5개이며, IOB2 태그 스키마[12]를 사용하여 개체명을 학습한다.
본 논문에서는 3.1절에서 소개한 자질과 알고리즘으로 구성한 8개의 모델을 3.2절에서 소개한 가중 투표 방법으로 결합하여 실험을 진행하였다. 각각의 모델들은 실험적으로 결정된 개별적인 자질 모델이 사용되었고, 각 모델들은 검증 데이터에서 실험적으로 성능이 가장 높은 모델과 다음으로 높은 모델을 사용한다.

대상 데이터

005, 배치 크기는 50으로 설정하여 학습하였다. 마지막으로 가중치 행렬은 실험적으로 가장 좋은 성능을 보인 유전자 풀 크기 240, 돌연변이율 2%, 교배율 90%, 100세대에서 학습한 결과를 실험에 사용하였다.
코퍼스를 대상으로 제안하는 모델의 성능을 평가한다. 해당 코퍼스는 학습 데이터 3,555 문장, 검증 데이터 501문장, 실험 데이터 1,000문장으로 구성된다. 그리고 개체명 태그는 인명, 지명, 기관명, 날짜, 시간 5개이며, IOB2 태그 스키마[12]를 사용하여 개체명을 학습한다.

이론/모형

각각의 모델들은 실험적으로 결정된 개별적인 자질 모델이 사용되었고, 각 모델들은 검증 데이터에서 실험적으로 성능이 가장 높은 모델과 다음으로 높은 모델을 사용한다. L-BFGS_1와 L-BFGS_2 모델은 CRFs를 L-BFGS 알고리즘으로 학습하였다. SSVM_1, SSVM_2 모델은 CRFs를 Frank-Wolfe SSVM 알고리즘으로 학습하였다.
SP_1, SP_2 모델은 CRFs를 Structured Perceptron 알고리즘으로 학습하였다. LSTM-CRFs 모델은 LSTM-CRFs 알고리즘으로 학습하였다. Voting은 위의 8개의 모델을 같은 가중치로 결합한 모델이다.
SSVM_1, SSVM_2 모델은 CRFs를 Frank-Wolfe SSVM 알고리즘으로 학습하였다. SP_1, SP_2 모델은 CRFs를 Structured Perceptron 알고리즘으로 학습하였다. LSTM-CRFs 모델은 LSTM-CRFs 알고리즘으로 학습하였다.
L-BFGS_1와 L-BFGS_2 모델은 CRFs를 L-BFGS 알고리즘으로 학습하였다. SSVM_1, SSVM_2 모델은 CRFs를 Frank-Wolfe SSVM 알고리즘으로 학습하였다. SP_1, SP_2 모델은 CRFs를 Structured Perceptron 알고리즘으로 학습하였다.
본 연구에서는 다양한 자질과 알고리즘을 사용하여 학습한 개체명 인식 모델을 가중 투표 방법으로 앙상블하는 방법을 제안한다. 개체명 인식기는 CRFs(Conditional Random Fields)와 그 변형 알고리즘을 사용하여 학습하며[1,2,3,4], 모델 앙상블을 위한 가중치는 NSGA-Ⅱ 알고리즘을 이용한 다목적 최적화 기법을 사용하여 학습한다.
기계학습 기반의 개체명 인식기는 CRFs(Conditional Random Fields)[1]와 그 변형 알고리즘 4가지를 사용하여 학습하였고, 사용한 알고리즘은 표 2.와 같다.
본 연구에서는 식 1의 가중치 행렬 #을 학습 하기 위해, NSGA-Ⅱ 알고리즘[11]을 활용한 다목적 최적화 방법을 사용한다.

성능/효과

실험 결과 표 4와 같이 Weighted Voting 모델은 F1 Score 기준으로 87.80%를 보였다.
80%를 보였다. 이는 단독 성능이 가장 높은 모델인 SSVM_1보다 2.15%p, Voting 모델보다 1.18%p 높은 성능으로, 제안하는 방법을 적용하는 경우 개체명 인식 성능이 향상되는 것을 알 수 있었다. 이는 그림 2와 같이 다수의 학습 모델이 개체명을 잘못 인식하여 Voting 모델 결과가 잘못되는 경우에도, 가중치가 높은 모델이 이를 올바르게 분석한다면, Weighted Voting 모델의 결과는 정상적으로 개체명은 인식하기 때문이다.
본 연구에서는 개체명 인식에 다른 자질과 다른 알고리즘을 조합하여 구성한 모델들을 가중 투표 방법으로 결합하는 방법을 제안하였다. 제안된 시스템은 단독 모델 중 가장 높은 성능을 보인 모델보다 2.15%p, 단순 투표 방법보다 1.18%p 높은 성능을 보였다.

후속연구

현재 시스템에서는 각 모델 결과를 미리 학습된 가중치에 따라 결합하는 과정에서 학습된 개체명 시퀀스가 깨지는 문제가 발생한다. 향후 연구에서는 모델 결합 과정에서 각 모델의 가중치 뿐만 아니라 전이 확률도 함께 학습하여, 개체명 시퀀스를 보존하는 방법을 연구 할 것이다.

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증

가중 투표 기반의 앙상블 기법을 이용한 한국어 개체명 인식기
A Korean Named Entity Recognizer using Weighted Voting based Ensemble Technique 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper

문제 정의

제안 방법

대상 데이터

이론/모형

성능/효과

후속연구

이 논문을 인용한 문헌

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

연합인증

가중 투표 기반의 앙상블 기법을 이용한 한국어 개체명 인식기 A Korean Named Entity Recognizer using Weighted Voting based Ensemble Technique 원문보기

초록 용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

AI 본문요약 엑셀 다운로드 AI-Helper

문제 정의

제안 방법

대상 데이터

이론/모형

성능/효과

후속연구

이 논문을 인용한 문헌

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

가중 투표 기반의 앙상블 기법을 이용한 한국어 개체명 인식기
A Korean Named Entity Recognizer using Weighted Voting based Ensemble Technique 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper