$\require{mediawiki-texvc}$

연합인증

연합인증 가입 기관의 연구자들은 소속기관의 인증정보(ID와 암호)를 이용해 다른 대학, 연구기관, 서비스 공급자의 다양한 온라인 자원과 연구 데이터를 이용할 수 있습니다.

이는 여행자가 자국에서 발행 받은 여권으로 세계 각국을 자유롭게 여행할 수 있는 것과 같습니다.

연합인증으로 이용이 가능한 서비스는 NTIS, DataON, Edison, Kafe, Webinar 등이 있습니다.

한번의 인증절차만으로 연합인증 가입 서비스에 추가 로그인 없이 이용이 가능합니다.

다만, 연합인증을 위해서는 최초 1회만 인증 절차가 필요합니다. (회원이 아닐 경우 회원 가입이 필요합니다.)

연합인증 절차는 다음과 같습니다.

최초이용시에는
ScienceON에 로그인 → 연합인증 서비스 접속 → 로그인 (본인 확인 또는 회원가입) → 서비스 이용

그 이후에는
ScienceON 로그인 → 연합인증 서비스 접속 → 서비스 이용

연합인증을 활용하시면 KISTI가 제공하는 다양한 서비스를 편리하게 이용하실 수 있습니다.

[국내논문] 강화 학습법을 이용한 효과적인 적응형 대화 전략
An Effective Adaptive Dialogue Strategy Using Reinforcement Loaming 원문보기

정보과학회논문지. Journal of KIISE. 소프트웨어 및 응용, v.35 no.1, 2008년, pp.33 - 40  

김원일 (삼성전자 영상디스플레이 사업부) ,  고영중 (동아대학교 컴퓨터공학과) ,  서정연 (서강대학교 컴퓨터학과)

초록
AI-Helper 아이콘AI-Helper

인간은 다른 사람과 대화할 때, 시행착오 과정을 거치면서 상대방에 관한 학습이 일어난다. 본 논문에서는 이런 과정의 강화학습법(Reinforcement Learning)을 이용하여 대화시스템에 적응형 능력의 부여 방법을 제안한다. 적응형 대화 전략이란 대화시스템이 사용자의 대화 처리 습성을 학습하고, 사용자 만족도와 효율성을 높이는 것을 말한다. 강화 학습법을 효율적으로 대화처리 시스템에 적용하기 위하여 대화를 주 대화와 부대화로 나누어 정의하고 사용하였다. 주 대화에서는 전체적인 만족도를, 부 대화에서는 완료 여부, 완료시간, 에러 횟수를 이용해서 시스템의 효율성을 측정하였다. 또한 학습 과정에서의 사용자 편의성을 위하여 시스템 사용 역량에 따라 사용자를 두 그룹으로 분류한 후 해당 그룹의 강화 학습 훈련 정책을 적용하였다. 실험에서는 개인별, 그룹별 강화 학습에 따라 제안한 방법의 성능을 평가하였다.

Abstract AI-Helper 아이콘AI-Helper

In this paper, we propose a method to enhance adaptability in a dialogue system using the reinforcement learning that reduces response errors by trials and error-search similar to a human dialogue process. The adaptive dialogue strategy means that the dialogue system improves users' satisfaction and...

Keyword

AI 본문요약
AI-Helper 아이콘 AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

  • 본 연구에서는 대화 처리 시스템이 스스로 현재 상태를 파악하고, 시스템과 사용자 경험이 바탕이 되어서 사용자 선호도에 따른 시스템 진화 방법에 관하여 다룰 것이다. 이것은 시스템이 미리 발생할 수 있는 시스템 오류나 사용자의 불만족을 미리 예방하므로 사용자 만족도를 높이고 시스템 효율성을 높여줄 수 있다.
  • Litman과 Pan⑻은 시스템 스스로 대화 전략이 변화할 수 있는 적응형 대화 처리 시스템에 관하여 다루었다. 이 적응형 대화 처리 시스템은 사용자의 발화 음성 인식률이 낮아질 경우 이를 재확인하는 발화에서 적응형 능력이 작동되었다.
  • 또한 두 번째 실험에서도 본 연구에서 제안한 적응형 시스템을 비교하기 위하여, 대화 전략을 고정시킨 시스템, 대화 전략을 랜덤하게 변화시키는 시스템을 두 그룹에게 동일하게 진행하였다. 이 실험은 Finnish Interact Project [10〕와 같이 사용자의 역량에 따른 적응형을 적용하기 위해서 실시되었다. 즉, 각 범주에 따라 강화학습을 적용하여 나온 결과를 토대로 사용자 최적화 모델링을 얻는 시스템 방법을 실험하는 데에 그 목표를 두었다.
  • 이 실험은 Finnish Interact Project [10〕와 같이 사용자의 역량에 따른 적응형을 적용하기 위해서 실시되었다. 즉, 각 범주에 따라 강화학습을 적용하여 나온 결과를 토대로 사용자 최적화 모델링을 얻는 시스템 방법을 실험하는 데에 그 목표를 두었다.
  • 본 연구에서는 시스템과 사용자간의 상호작용을 하는 대화 처리 전략으로 기계 학습법 중 하나인 강화 학습법을 사용하고, 대화에 이 강화 학습법을 적절하게 모델링하는 방법을 제안하였다. 본 연구는 기존의 각 발화를 적용 대상으로 사용한 연구와 달리, 각각의 부대화를 대상으로 삼아서 대화 처리 시스템에 적응형을 부여하고, 사용자 역량에 따른 강화학습을 적용하여 사용자 최적화된 모델링을 얻는 시스템 방법을 제안하였다.

가설 설정

  • 하지만 대화의 경우에는 기존 연구의 각 발화 단위가 반드시 다음 발화에 영향을 미치는 것이 아니므로 마코프의 속성을 충족시키지 않을 수 있다. 이에 따라서 본 연구에서는 대화를 발화 단위가 아닌 각각의 과정으로 이루어졌다고 가정하였으며, 전체 대화 중 하나의 대화 단계를 부대 화로 정의하였다. 이에 따라서 하나의 부대화 (Sub-Dialogue)는 하나의 상태 (Condition)로 가정되어 마코프속성을 가질 수 있도록 하였다.
  • 본 대화 시스템에서는 사용자 대화가 1)달성 완료, 2) 달성 소요 시간의 최소화, 3)부 대화의 오류 감소 등을 이루었을 때, 사용자가 시스템에 관하여 긍정적인 만족을 가지는 것으로 가정하였다. 이에 따라서 대화 상태평가는 달성 여부, 달성시 소요 시간, 부대화에서의 오류 수 등의 스칼라 값으로 변환하여 보상값으로 적용하도록 구성하였다.
본문요약 정보가 도움이 되었나요?

참고문헌 (12)

  1. T. Dean J.Allen, Y. Aloimomos, Artificial Intelligence Theory and Practice, Addison-Wesley, 1995 

  2. I. Zukerman, D. Litman, 'Natural Language Processing and User Modeling: Synergies and Limitations,' User Modeling and User-Adapted Interaction Vol.11, pp. 129-158, 2001 

  3. J.W. Wallis, E.H. Shortliffe, 'Customized Explanations Using Causal Knowledge,' In B.C. Buchanan, E.H. Shortliffe(eds): Rule-based Expert System: The MYCIN Experiments of the standford Heuristic Programming Project, Addison-Wesley Publishing Company, pp. 371-388, 1985 

  4. M. McTear, Spoken Dialogue Technology Toward the Conversational User Interface, Springer-Verlag London, 2004 

  5. M. A. Walker, D. Litman, C. A. Kamm, A. Abella 'PARADISE: A Framework for Evaluating Spoken Dialogue Agents,' In Proceedings of the 35th Annual Meeting of the Association of Computational Linguistics(ACL 97), pp. 271-280, 1997 

  6. K. Jokinen, K. Kanto, 'User Expertise Modeling and Adaptive in a Speech-Based E-mail System,' In proceedings of Annual Meeting of the Association of Computational Linguistics 2004(ACL 2004), pp. 87-94, 2004 

  7. S. Moller, 'A new Taxonomy of the Quality of Telephone Service Based on Spoken Dialogue System,' In proceedings of the 3 th SIGdial Workshop on Discourse and Dialogue, Philadel phia, PA. pp. 142-153, 2002 

  8. D. Litman, S. Pan, 'Empirically Evaluating an adaptable spoken dialogue systems,' In Proceedings of the 7th International Conference on User Modeling(UM'99), pp. 55-64, 1999 

  9. 은지현, 최준기, 장두성, 김현정, 구명완, '마르코프 의사결정 과정에 기반한 대화 관리 시스템', In Proceedings of the HCI 2007, pp. 475-480, 2007 

  10. K. Jokinen, M. Kaipainen, T. Jauhuainen, G. Wilcock, M. Turunen, J. Akulinen, J. Kussis, K. Lagu, 'Adaptive Dialogue System Interaction with interact,' In Proceedings of the 3rd SIGdial Workshop on Discourse and Dialogue, Philadelphia, PA, pp. 64-73, 2002 

  11. M. A. Walker, J. Wright, I. Langkilde, 'Using natural Language Processing and Discourse features to identify understanding errors in a spoken dialogue system,' In Proceedings of the 17th International Conference on Machine Learning, Palo Alto, CA. pp. 1111-1118, 2000 

  12. R. S. Sutton, A. G. Barto, Reinforcement Learning An Introduction, MIT Press, 1998 

저자의 다른 논문 :

활용도 분석정보

상세보기
다운로드
내보내기

활용도 Top5 논문

해당 논문의 주제분야에서 활용도가 높은 상위 5개 콘텐츠를 보여줍니다.
더보기 버튼을 클릭하시면 더 많은 관련자료를 살펴볼 수 있습니다.

관련 콘텐츠

저작권 관리 안내
섹션별 컨텐츠 바로가기

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

AI-Helper 아이콘
AI-Helper
안녕하세요, AI-Helper입니다. 좌측 "선택된 텍스트"에서 텍스트를 선택하여 요약, 번역, 용어설명을 실행하세요.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.

선택된 텍스트

맨위로