$\require{mediawiki-texvc}$

연합인증

연합인증 가입 기관의 연구자들은 소속기관의 인증정보(ID와 암호)를 이용해 다른 대학, 연구기관, 서비스 공급자의 다양한 온라인 자원과 연구 데이터를 이용할 수 있습니다.

이는 여행자가 자국에서 발행 받은 여권으로 세계 각국을 자유롭게 여행할 수 있는 것과 같습니다.

연합인증으로 이용이 가능한 서비스는 NTIS, DataON, Edison, Kafe, Webinar 등이 있습니다.

한번의 인증절차만으로 연합인증 가입 서비스에 추가 로그인 없이 이용이 가능합니다.

다만, 연합인증을 위해서는 최초 1회만 인증 절차가 필요합니다. (회원이 아닐 경우 회원 가입이 필요합니다.)

연합인증 절차는 다음과 같습니다.

최초이용시에는
ScienceON에 로그인 → 연합인증 서비스 접속 → 로그인 (본인 확인 또는 회원가입) → 서비스 이용

그 이후에는
ScienceON 로그인 → 연합인증 서비스 접속 → 서비스 이용

연합인증을 활용하시면 KISTI가 제공하는 다양한 서비스를 편리하게 이용하실 수 있습니다.

엔트로피 최대화를 이용한 새로운 밀도추정자의 설계
Design of New Density Estimator with Entropy Maximization 원문보기

한국정보과학회 05 추계 학술발표논문집(2), 2005 Nov., 2005년, pp.796 - 798  

김웅명 (경희대학교 컴퓨터공학과 컴퓨터구조 및 뉴럴네트워크 연구실) ,  이현수 (경희대학교 컴퓨터공학과 컴퓨터구조 및 뉴럴네트워크 연구실)

초록
AI-Helper 아이콘AI-Helper

본 연구에서는 엔트로피 이론을 사용하여 ICA(Independent Component Analysis) 점수함수를 생성하는 새로운 밀도추정자(Density Estimator)를 제안한다. 원 신호에 대한 밀도함수의 추정은 적당한 점수함수를 생성하기 위해 필요하고, 미분 가능한 밀도함수인 커널을 이용한 밀도추정법(Kernel Density Estimation)을 이용하여 점수함수를 생성하였다. 보다 빠른 점수함수의 생성을 위해서 식의 형태를 convolution 형태로 표현하였으며, ICA 학습을 위해서 결합엔트로피를 최대화(Joint Entropy Maximization)하는 방향으로 커널의 폭을 학습하였다. 이를 위해서 기울기 강하법(Gradient descent method)를 사용하였으며, 이러한 제약 사항은 새로운 밀도 추정자를 설계하기 위한 기본적인 개념을 나타낸다. 실험결과, 커널의 폭을 담당하는 smoothing parameters들이 일정한 값으로 학습함을 알 수 있었다.

AI 본문요약
AI-Helper 아이콘 AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

  • ” 대해 미분하여 유도된 식이다. 본 연구는 ICA 학습시, 신호에 대한 추정오차를 줄이기 위해서, 원신호를 추정하고 이를 바탕으로 결합엔트로피 (Joint Ent「opy)를 최대화하는 제약조건을 가진 점수함수를 생성한다. 즉, 결합엔트로피를 최대화하는 새로운 밀도 추정자(Density Estimator)를 구성하는 것을 목적으로 한다.
  • 본 연구에서는 최대 우도방법을 이용하여, 고정된 점수함수를 사용하는 기존의 ICA의 문제점을 해결하기 위한 접근 방법을 제시하였다. 이와 같은 문제점은 원 신호의 분포와 출력신호의 분포에서 에러를 포함한다는 것이다.
  • 본 연구는 ICA 학습시, 신호에 대한 추정오차를 줄이기 위해서, 원신호를 추정하고 이를 바탕으로 결합엔트로피 (Joint Ent「opy)를 최대화하는 제약조건을 가진 점수함수를 생성한다. 즉, 결합엔트로피를 최대화하는 새로운 밀도 추정자(Density Estimator)를 구성하는 것을 목적으로 한다.

가설 설정

  • 된다. 그리고 4는 혼합행렬(mixing matrix)이라고 가정한다. 이것은 mX m 사이즈의 비정칙(nonsing니행렬이 된다.
  • ICA는 PCA를 이용한 decorrelation 조건보다 좀 더 강력한 제약사항을 가진다[1]. 첫째, 독립요소(Independent Component)는 통계적으로 독립이라고 가정한다. 둘째, 독립요소는 반드시 nongaussian 분포를 가진다.
본문요약 정보가 도움이 되었나요?

관련 콘텐츠

저작권 관리 안내
섹션별 컨텐츠 바로가기

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

AI-Helper 아이콘
AI-Helper
안녕하세요, AI-Helper입니다. 좌측 "선택된 텍스트"에서 텍스트를 선택하여 요약, 번역, 용어설명을 실행하세요.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.

선택된 텍스트

맨위로