[논문]RNN 문장 임베딩과 ELM 알고리즘을 이용한 금융 도메인 고객상담 대화 도메인 및 화행분류 방법

오교중; 박찬용; 이동건; 임채균; 최호진

문제 정의

본 논문에서는 대화형 시스템을 위한 자연어 이해 기술에 초점을 맞춘다. 그 중에서 비정형 정보에 해당하는 고객상담 대화의 도메인 및 화행 분류 기술에 대해 다룬다. 도메인 및 화행 분류는 질의에 정확하게 응답하기 위해서 수행되어야 하는 기술이다.
본 논문에서는 금융 도메인 고객상담 대화의 도메인과 화행 분류 방법을 제안한다. 크게 전처리, 자질 추출, 도메인 및 화행분류 3개의 단계로 이루어진다.
본 논문에서는 대화형 시스템을 위한 자연어 이해 기술에 초점을 맞춘다. 그 중에서 비정형 정보에 해당하는 고객상담 대화의 도메인 및 화행 분류 기술에 대해 다룬다.
본 논문은 은행 업무과 관련된 고객 상담을 위한 챗봇을 개발하기 위한 자연어 이해 과정의 일부로, 응답 결정하기 위하여 대화의 도메인과 화행을 분류하는 방법에 대해 기술하였다.
본 논문은 챗봇의 응답 모델을 구현하기 위한 초기 단계로, 자연어 이해 기술 중 하나인 대화의 도메인과 화행을 분석하는 방법에 관해 기술한다. 본 연구팀은 기존연구 [8]에서 tripadvisor.
본 논문은 챗봇의 응답 모델을 구현하기 위한 초기 단계로, 자연어 이해 기술 중 하나인 대화의 도메인과 화행을 분석하는 방법에 관해 기술한다. 본 연구팀은 기존연구 [8]에서 tripadvisor.com의 여행지에 관한 사용자 리뷰를 바탕으로 여행 의도를 분석하는 방법을 연구하였으며, 이를 기반으로 여행지를 추천하는 기술을 개발하였다. 본 연구에서는 기존에 연구한 의도 분류 방법을 금융 도메인의 자연어 대화 데이터에 적용하여, 대화 도메인뿐만 아니라 화행까지 분류함으로써 챗봇의 응답 성능을 향상시키는데 기여한다.
이 논문은 현재 진행 중인 연구 개발로 학습데이터를 일부 샘플링 한 데이터를 기반으로 평가셋을 구축하여 작성되었다. 추후 연구를 통해 고객상담 대화 말뭉치를 질의 별로 정제하고, 대화 화행 분류 결과에 따른 응답 방법을 결정하는 대화 모형에 대한 실험과, 고객상담 말뭉치 전수 데이터를 사용하여 응답 성능의 평가를 진행할 예정이다.

제안 방법

LDA 클러스터링을 통해 대화 데이터의 도메인과 화행 분류 체계를 정의하고, 전처리 과정으로 금융 도메인에 특화된 언어 모델을 워드임베딩 모델을 통해 학습하고, 대화 세션 내 TF-IDF로 추출된 주요 키워드와 개체명을 통해 얻은 입력 자질과, RNN 인코더를 통해 문장 벡터를 사용하여 ELM 알고리즘을 사용하여 도메인과 화행을 분류한다.
Bidirectional GRU로 이루어진 sequence to sequence 모델을 그림 5와 같이 같은 문장으로 학습한다. 고객 상담 대화 말뭉치의 모든 문장에 대하여 loss가 수렴할 때까지 반복 학습한 후, 인코더 부분만 분리하여 새로운 입력 문장에 대해 문장 벡터를 추출한다
은행 고객상담 대화 말뭉치로부터 신경망을 통해 언어 모델을 학습하며, 단어나 구를 원하는 크기의 벡터로 표현할 수 있다. 고객상담 말뭉치에 사용된 어휘들의 언어 모델을 도메인에 특화하여 학습하고, TF-IDF로부터 추출된 중요 키워드 자질과 입력 문장을 벡터 형태의 학습 자질로 바꾸는데 사용되었다.
본 연구팀은 Latent Dirichlet allocation(LDA) 모델을 사용하여 데이터 기반으로 클러스터를 정의하였다. 기존의 고객센터에서 사용하던 상담 분류 체계에 기초하여, 4가지 대 분류(대출, 예금, UX, 기타)에 대하여 각 대 분류 별 7~15개의 중분류로 이루어진 초기 분류체계를 가지고, 대 분류로 나누어진 대화 데이터를 LDA 클러스터링 (클래스 개수 40개)을 통해 초기 분류 체계와 매핑 또는 세분화하는 방법을 거쳐 최종적으로 도메인 세부 분류와 화행 수준의 구분까지 수행하였다. 이 방법은 도메인 전문가의 개입없이 고객상담 서비스 제공자의 입장에서 분류 체계를 구축하는 방법으로, 데이터만 있으면 비전문가도 도메인 분류와 화행 분류 체계를 정의할 수 있다.
이 단계는 지도 학습을 위한 학습 데이터를 생성하는 단계이다. 도메인 및 화행 분류 카테고리를 정의하고 학습 기반의 분류 모델을 위한 도메인 및 화행 레이블링 데이터를 구축한다. 이를 위해 우선 도메인 및 화행의 분류 체계를 정의해야 한다.
본 논문에서 제시한 고객상담 대화 화행분류 연구는 현재 수행 중인 연구로, 이 논문에서는 부분적 실험 결과인 대분류 분류 결과만을 공개한다.
본 논문에서 제안하는 도메인 및 화행 분류 정보는 금융 도메인 고객상담 서비스에 특화된 자연어 대화 문장에 대한 비정형 정보이며 기계학습 기반의 접근 방법을 적용하여 분석한다. 전처리 과정으로써 고객상담 대화 말뭉치를 워드임베딩(Word2Vec) 모델을 통해 형태소 수준의 언어 모델을 학습하고, TF-IDF로 추출된 주요 키워드, LDA모델을 통해 얻은 분류 카테고리 자질을 입력 정보로 ELM 알고리즘을 사용한 분류 모델을 학습하여 입력된 상담 대화의 도메인과 화행을 분류한다.
본 논문에서는 화행분류를 위한 입력 자질로 TF-IDF, GRU 문장인코딩 결과를 사용한다.
com의 여행지에 관한 사용자 리뷰를 바탕으로 여행 의도를 분석하는 방법을 연구하였으며, 이를 기반으로 여행지를 추천하는 기술을 개발하였다. 본 연구에서는 기존에 연구한 의도 분류 방법을 금융 도메인의 자연어 대화 데이터에 적용하여, 대화 도메인뿐만 아니라 화행까지 분류함으로써 챗봇의 응답 성능을 향상시키는데 기여한다.
이렇게 얻어진 벡터 형태의 학습 자질을 이용하여 지도 학습 방법의 분류 모델을 구현한다. 본 논문에서는 학습기반의 분류 알고리즘으로 ELM 알고리즘 [10]을 사용한다.
본 논문에서 제안하는 도메인 및 화행 분류 정보는 금융 도메인 고객상담 서비스에 특화된 자연어 대화 문장에 대한 비정형 정보이며 기계학습 기반의 접근 방법을 적용하여 분석한다. 전처리 과정으로써 고객상담 대화 말뭉치를 워드임베딩(Word2Vec) 모델을 통해 형태소 수준의 언어 모델을 학습하고, TF-IDF로 추출된 주요 키워드, LDA모델을 통해 얻은 분류 카테고리 자질을 입력 정보로 ELM 알고리즘을 사용한 분류 모델을 학습하여 입력된 상담 대화의 도메인과 화행을 분류한다.
대출에는 6개, 예금에는 15개의, UX은 5개, 기타에는 4개의 세부 분류 체계가 있다. 출력 층에서 softmax 활성화 함수를 사용하여 [0, 1] 사이의 정규화된 수치를 얻음으로써 multi-label 분류를 할 수 있도록 모델을 구성하였다.

대상 데이터

본 논문에서 문장 임베딩 모델에 사용된 한글 말뭉치는 일부 대화 데이터와 금융 도메인 관련 한글 위키피디아 문서, 뉴스 기사에 등장한 문장 30만 문장으로 학습하였다, 도메인 및 화행 분류 모델의 성능 평가를 위한 평가셋으로는 대분류 별로 50개씩 총 200개의 고객상담 질의 문장이 사용되었다.
본 논문에서는 대화 세션의 도메인 대분류와 대분류 내 세부 화행을 분류하기 위한 총 3개의 ELM classifier가 사용되었으며 대분류, 세부 분류, 화행 각각의 레이블링 된 데이터를 통해 학습되었다.
이를 위해 Word2Vec 모델을 통한 언어모델 학습이 전처리 과정으로 필요하며, 본 연구에서는 형태소 분석을 통한 형태소 수준의 워드임베딩 모델[11]을 생성하였다. 워드임베딩 학습에 이용된 말뭉치는 그림2와 같은 고객상담 대화와 한글 위키피디아의 분류: 금융 관련 문서에 등장한 한글 30만 문장이 사용되었다.

이론/모형

그림 4는 문장 임베딩에 사용한 RNN 인코더 모델을 나타낸다. Bidirectional GRU dynamic RNN모델을 사용하였으며, 입력 층에는 각 단어의 워드임베딩 결과가 순차적으로 입력된다. 최종적으로 Forward layer와 backward layer의 마지막 GRU 셀의 RNN state을 이어 붙인 dense 벡터를(200차원) 문장 임베딩 결과로 사용한다.
이렇게 얻어진 벡터 형태의 학습 자질을 이용하여 지도 학습 방법의 분류 모델을 구현한다. 본 논문에서는 학습기반의 분류 알고리즘으로 ELM 알고리즘 [10]을 사용한다. 얕은 신경망 혹은 적은 수의 은닉 층을 가지는 신경망을 이용하여 출력 층과 은닉 층 사이의 가중치는 한번만 연산함으로써, 신경망 모델의 학습 속도가 느린 단점을 보완한 분류 모델로, 최근 여러 연구에서 SVM과 비슷하거나 더 좋은 분류 결과를 보이는 것으로 보고되고 있다.
본 연구에서는 전처리 기술로 Word2Vec[9] 알고리즘을 적용한 워드임베딩 기술을 사용한다. 은행 고객상담 대화 말뭉치로부터 신경망을 통해 언어 모델을 학습하며, 단어나 구를 원하는 크기의 벡터로 표현할 수 있다.
본 연구팀은 Latent Dirichlet allocation(LDA) 모델을 사용하여 데이터 기반으로 클러스터를 정의하였다. 기존의 고객센터에서 사용하던 상담 분류 체계에 기초하여, 4가지 대 분류(대출, 예금, UX, 기타)에 대하여 각 대 분류 별 7~15개의 중분류로 이루어진 초기 분류체계를 가지고, 대 분류로 나누어진 대화 데이터를 LDA 클러스터링 (클래스 개수 40개)을 통해 초기 분류 체계와 매핑 또는 세분화하는 방법을 거쳐 최종적으로 도메인 세부 분류와 화행 수준의 구분까지 수행하였다.
다음 단계에서 대화 문장의 벡터화와 도메인 및 화행 분류를 위해서는 학습 자질로 정해진 크기의 실수 벡터를 사용해야 한다. 이를 위해 Word2Vec 모델을 통한 언어모델 학습이 전처리 과정으로 필요하며, 본 연구에서는 형태소 분석을 통한 형태소 수준의 워드임베딩 모델[11]을 생성하였다. 워드임베딩 학습에 이용된 말뭉치는 그림2와 같은 고객상담 대화와 한글 위키피디아의 분류: 금융 관련 문서에 등장한 한글 30만 문장이 사용되었다.

후속연구

기존의 은행 및 금융권에서는 고객과의 상담 대화를 공개하지 않기 때문에 기계 학습과 관련된 연구 사례가 많지 않았다. 본 연구는 모바일 뱅킹 앱에서 발생한 비식별화 처리된 고객상담 대화 데이터의 일부 샘플을 이용하여 수행하였으며, 추후 더 많은 양의 고객상담 데이 터를 정제하여 화행분류 모델의 성능 평가 및 고도화 연구를 추가적으로 수행될 것이다.
이 논문은 현재 진행 중인 연구 개발로 학습데이터를 일부 샘플링 한 데이터를 기반으로 평가셋을 구축하여 작성되었다. 추후 연구를 통해 고객상담 대화 말뭉치를 질의 별로 정제하고, 대화 화행 분류 결과에 따른 응답 방법을 결정하는 대화 모형에 대한 실험과, 고객상담 말뭉치 전수 데이터를 사용하여 응답 성능의 평가를 진행할 예정이다.
표 1은 ELM 알고리즘을 사용한 분류 모델의 대분류 정확도이다. 추후 연구에서 보다 많은 평가 셋 대화 세션 데이터를 정제하여 화행분류를 수행한 결과를 공개하고자 한다.

핵심어	질문	논문에서 추출한 답변
	현재까지 개발된 고객상담 챗봇 시스템의 성능은?	현재까지 개발된 고객상담 챗봇 시스템은, 메뉴 기반으로 답변 가능한 질문을 객관식으로 제공하거나, 사전에 정의된 시나리오에 기반하여 준비된 질문을 하고 사용자의 답변과 유사한 시나리오의 응답을 제공하고 있다. 이 같은 서비스 형태는 모바일뱅킹의 새로운 인터페이스 방식일 뿐이며, 상품 소개와 정보 조회 등의 단순한 서비스만 제공 가능하다.
	챗봇의 장점은?	올해 들어 국내 은행, 증권, 신용평가 등 금융 관련 도메인에서는 비대면 상담 서비스를 위한 챗봇 시스템의 도입이 활발히 일어나고 있다. 챗봇은 시간과 장소에 구애받지 않고 고객상담 서비스를 제공할 수 있다. 이를 통해 콜센터 내 야간 및 주말 고객상담 인력을 줄일 수 있으며, 단순 반복 질문에는 자동으로 대처하고, 상담사는 보다 복잡한 상담 사례에 집중할 수 있다.
	사람처럼 대화를 하는 고객상담 챗봇 시스템을 개발하기 위해 필요한 기술은?	이 같은 인공지능 기술에 기반한 대화 시스템을 개발하기 위해서는, 전화 등 음성 대화를 문자형 데이터로 바꿔주는 STT 기능, 기존의 자연어처리(NLP), 기계학습 기술에 기반한 상담 대화의 자연어 이해(NLU) 기술, 응답 내용을 결정하고, 자연어 대화를 생성(NLG)하는 응답 기술 등 높은 수준의 대화 기술이 필요하다.

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증

RNN 문장 임베딩과 ELM 알고리즘을 이용한 금융 도메인 고객상담 대화 도메인 및 화행분류 방법
RNN Sentence Embedding and ELM Algorithm Based Domain and Dialogue Acts Classification for Customer Counseling in Finance Domain 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper

문제 정의

제안 방법

대상 데이터

이론/모형

후속연구

질의응답

이 논문을 인용한 문헌

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

연합인증

RNN 문장 임베딩과 ELM 알고리즘을 이용한 금융 도메인 고객상담 대화 도메인 및 화행분류 방법 RNN Sentence Embedding and ELM Algorithm Based Domain and Dialogue Acts Classification for Customer Counseling in Finance Domain 원문보기

초록 용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

AI 본문요약 엑셀 다운로드 AI-Helper

문제 정의

제안 방법

대상 데이터

이론/모형

후속연구

질의응답

이 논문을 인용한 문헌

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

RNN 문장 임베딩과 ELM 알고리즘을 이용한 금융 도메인 고객상담 대화 도메인 및 화행분류 방법
RNN Sentence Embedding and ELM Algorithm Based Domain and Dialogue Acts Classification for Customer Counseling in Finance Domain 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper