[논문]최대 엔트로피 이론을 이용한 학습 데이터 분류

김민우; 김동현; 이병준; 김경태; 윤희용

최대 엔트로피 이론을 이용한 학습 데이터 분류
Classification Learning Data using Maximum Entropy Theory 원문보기

김민우 (성균관대학교 정보통신대학 전자전기컴퓨터공학과) , 김동현 (성균관대학교 정보통신대학 전자전기컴퓨터공학과) , 이병준 (성균관대학교 정보통신대학 전자전기컴퓨터공학과) , 김경태 (성균관대학교 정보통신대학 전자전기컴퓨터공학과) , 윤희용 (성균관대학교 소프트웨어대학 소프트웨어학과)

빅 데이터 활용의 증가로 인해 효율적으로 데이터를 분류하는 것은 머신러닝의 주요 과제이다. 제한적인 자원을 가지고 이에 맞는 처리능력을 갖기 위해서는 단일 기기의 자원 관리능력을 향상시키는 방향의 연구가 필요하다. 본 논문에서는 머신러닝을 위한 학습 데이터를 최대 엔트로피 이론을 적용시켜 효과적으로 분류하는 방법을 제안한다. 최대 엔트로피에 대한 간단한 설명과 최대 엔트로피 이론을 적용시키기 위한 간단한 사전 작업들의 방향 등에 대한 설명을 토대로 기술하였다. 또한 본 연구를 통해 얻게 된 문제점들과 향후 연구에 필요한 피드백을 갖는다.

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

최근의 연구에 따르면 대규모 데이터베이스를 위한 고성능 데이터마이닝 기술이 등장하면서 데이터 분류의 정확성과 확장성 측면의 경쟁력이 중요시 된다. 본 연구에서 제안하는 최대 엔트로피 모델은 머신러닝을 위한 빅 데이터의 분류를 통해 학습 시 속도 향상을 목표로 하는 초기 연구 단계이다. 본 연구 결과의 목표를 바탕으로 지능화된 IoT 디바이스의 프레임 워크에서 빠른 계산 처리를 가능하게 할 수 있으며 분산 진화 인공지능 시스템에서 효율적인 분산 지능처리를 기대해 볼 수 있다[1].

가설 설정

본 연구에서 정의한 정보 이론의 기본개념은 분류기준에 대해 더 많이 알수록 새로운 정보가 줄어들어 분류 시 효율성을 높이는 것이다. 측정된 양에 대한 데이터들은 확률 분포로 표현 될 수 있다고 가정하고 평균값에 대한 정보를 얻는다. 이때 최대 엔트로피모델은 나타나진 모든 데이터를 모델링하지만 알려지지 않은 데이터에 대해서는 확률적인 작업을 하지 않는다.

제안 방법

최대 엔트로피 모델은 머신러닝 알고리즘 중에서 자연 언어 처리의 언어 분류 문제를 해결하기 위해 사용되었고 최대 엔트로피 분류기는 프로그램이 새 데이터를 발견했을 때 이미 학습된 데이터를 확률 모델로 만들어 파악하는 방법 등으로 사용되었다. 또한 최근 수년간 최대 엔트로피 응용 프로그램을 사용하여 시퀀스 분석, 신경 생물학, 구조 모델링 및 언어 예측과 같은 다양한 분야에서 꾸준한 연구가 이루어졌다[3][4].

성능/효과

이에 따라 본 연구에서 빅 데이터에 대한 시뮬레이션 실험 결과 정략적이지 않은 결과를 나타내기도 하고 불안정한 정확도를 보였다. 또한 때때로 시뮬레이션의 결과 값이 실험에 사용된 데이터와 양적으로 일치하지 않는 것을 알 수 있었다. 이 문제에 대한 해결책으로는 시뮬레이션 데이터에 포괄적인 분류기준 보다 디테일한 부분을 보완할 수 있는 알고리즘 함수를 추가해야 한다.
측정된 데이터들은 직관적으로 보았을 때 모든 값들이 하나의 가치를 가지지만 전체분포에 대한 평균값을 통해 분류하는 것은 비합리적일 수 있다. 이에 따라 본 연구에서 빅 데이터에 대한 시뮬레이션 실험 결과 정략적이지 않은 결과를 나타내기도 하고 불안정한 정확도를 보였다. 또한 때때로 시뮬레이션의 결과 값이 실험에 사용된 데이터와 양적으로 일치하지 않는 것을 알 수 있었다.

후속연구

향후 연구에서는 본 논문에서 제안된 최대 엔트로피 이론의 효율성을 입증하기 위해 기존의 Decision trees, Naive Bayes 등과 같은 다른 분류 알고리즘들과 비교하여 평가를 진행할 것이다. 또한 분류에 대해 더 높은 성능을 얻기 위해 변수를 자동으로 조정하는 방법에 초점을 두고 정확도와 정량적 결과 값을 도출하기 위해 문제점을 보완해 줄 알고리즘을 도입할 것이다. 추가로 비교하게 될 알고리즘들이 어떻게 높은 정확도를 달성할 수 있었는지 명확히 조사하기 위해 이론적인 측면을 더 연구할 것이다.
본 연구에서 제안하는 최대 엔트로피 모델은 머신러닝을 위한 빅 데이터의 분류를 통해 학습 시 속도 향상을 목표로 하는 초기 연구 단계이다. 본 연구 결과의 목표를 바탕으로 지능화된 IoT 디바이스의 프레임 워크에서 빠른 계산 처리를 가능하게 할 수 있으며 분산 진화 인공지능 시스템에서 효율적인 분산 지능처리를 기대해 볼 수 있다[1]. 2장에서는 기존에 연구되었던 최대 엔트로피 관련된 내용들과 활용되어진 방법들에 대해 서술하였고 3장은 본 논문에서 제안한 최대엔트로피 이론에 대한 간단한 설명[2]과 최대엔트로피 모델의 연구 방향, 기본 이론 및 문제점 등에 대해 서술하였다.
정보 이론(엔트로피) 측면에서 정의된 각 분류에 의해 전달되는 정보의 양은 확률 값이 엔트로피인 확률 변수가 된다. 최대 엔트로피의 원칙은 새로운 데이터에 기반 하여 확률 분포를 구성하는 일반적인 절차로 초기의 모델이 실험과 상충하는 결과를 제공할 때 완벽하게 사용되어 진다. 본 연구에서 정의한 정보 이론의 기본개념은 분류기준에 대해 더 많이 알수록 새로운 정보가 줄어들어 분류 시 효율성을 높이는 것이다.
또한 분류에 대해 더 높은 성능을 얻기 위해 변수를 자동으로 조정하는 방법에 초점을 두고 정확도와 정량적 결과 값을 도출하기 위해 문제점을 보완해 줄 알고리즘을 도입할 것이다. 추가로 비교하게 될 알고리즘들이 어떻게 높은 정확도를 달성할 수 있었는지 명확히 조사하기 위해 이론적인 측면을 더 연구할 것이다.
향후 연구에서는 본 논문에서 제안된 최대 엔트로피 이론의 효율성을 입증하기 위해 기존의 Decision trees, Naive Bayes 등과 같은 다른 분류 알고리즘들과 비교하여 평가를 진행할 것이다. 또한 분류에 대해 더 높은 성능을 얻기 위해 변수를 자동으로 조정하는 방법에 초점을 두고 정확도와 정량적 결과 값을 도출하기 위해 문제점을 보완해 줄 알고리즘을 도입할 것이다.

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증

최대 엔트로피 이론을 이용한 학습 데이터 분류
Classification Learning Data using Maximum Entropy Theory 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper

문제 정의

가설 설정

제안 방법

성능/효과

후속연구

이 논문을 인용한 문헌

연구과제 타임라인

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

연합인증

최대 엔트로피 이론을 이용한 학습 데이터 분류 Classification Learning Data using Maximum Entropy Theory 원문보기

초록 용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

AI 본문요약 엑셀 다운로드 AI-Helper

문제 정의

가설 설정

제안 방법

성능/효과

후속연구

이 논문을 인용한 문헌

연구과제 타임라인

전체(0) 논문(0) 특허(0) 보고서(0)

전체(0) 논문(0) 특허(0) 보고서(0)

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

최대 엔트로피 이론을 이용한 학습 데이터 분류
Classification Learning Data using Maximum Entropy Theory 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper