선택한 단어 수는 입니다.
최소 단어 이상 선택하여야 합니다.
최소 단어 이상 선택하여야 합니다.
선택한 단어 수는 30입니다.
최대 10 단어까지만 선택 가능합니다.
최대 10 단어까지만 선택 가능합니다.
제안 방법
- 다음으로, 후보피처선택 단계에서는 X2 통계량과 PFA (principal feature analysis)[2]를 사용하여 얻어진 두 개의 피처 집합을 union하여 1, 738개의 최종 후보피처집합을 생성 했다.
- 또한 입력과 히든레이어 사이에는 high-level과 low-level hyperparameter를 두어 ARD의 적용이 가능하도록 하였다. 실험에는 토론토 대학의 베이지안 모델링 소프트웨어를 사용했다[4].
- 마지막으로 BNN 과 ARD 기법을 사용하여 최종피처 집합을 선택하였다.
- 이러한 문제점 때문에 신경망에 베이지안 추론을 적용하는 것이 부적절하다고 여겨져 왔으나, weight와 bias parameter에 대한 사전확률분포 F0) 의 표준편차를 hyperparameter 로 대체하여 고려하는 모델을 적용하여 이 문제점을 극복하는 방안이 제시된 바 있다[3]. 새로운 모델에서는 각 parameter의 형식, 즉 (1)입력 유닛의 weight, (2)히든 유닛의 bias, (3) 출력유닛의 bias에 각각 hyperparameter를 설정하고, 예측 오차를 최소화하는 parameter를 탐색한다.
- 앞에서 생성한 1, 738개의 최종 후보 피처들을 입력으로 사용하여 10개의 히든유닛과 1개의 출력유닛을 갖는 베이지안 신경망을 구성하였다. 또한 입력과 히든레이어 사이에는 high-level과 low-level hyperparameter를 두어 ARD의 적용이 가능하도록 하였다.
- 우선, 전처리단계에서 각 발현량의 값이 0보다 큰 값을 갖도록 전체 데이터를 평행이동하고, 유전자 발현량이 너무 큰 값을 갖는 것을 보정하기 위해 모든 값을 log scale로 변환하였다. 다음 각 표본의 유전자 발현량이 평균이 0, 표준편차가 1이 되도록 Centering 과 Normalization-!; 실시하였다.
- of Microairay Data Analysis) 학.회 에서 제 시 된 선암종(adenocarcinoma) 폐종양 유전자 발현 데이터에 대해 피처 추출을 실시했다. 실험 결과, 총 12, 600개의 유전자 중에서 기계 학습을 통해 위험 환자군을 성공적으로 식별하는데 필요한 187개의 유전자를 발견할 수 있었다.
대상 데이터
- 따라서 50번째 transition!- 기준으로 그래프의 앞쪽과 뒤쪽에서 각각 test error가 최소인 17번과 76번 신경망을 후보로 추출하였다. Hyperparameter 값의 크기 순서대로 피처집합의 크기를 바꾸어 가며 신경망으로 실험한 결과, 17번 베이지안 신경망에서 추출한 187개의 유전자를 입력으로 사용하여 15개의히든유닛을 가진 신경망을 구성할 경우, 모든 유전자 발현 샘플에 대해 test error가 1% 미만이 됨을 확언하였다.
-
3. 실험
실험에는 CAMDA 2003에서 제시된 4개의 데이터셋중 Harvard 연구팀의 것을 사용했다. 그 이유는 이데이터셋이 Affymetrix 칩으로부터 얻어진 것으로 cDNA칩을 사용한 다른 데이터셋보다 포함된 노이즈가 작을 것으로 예상되었고, 6만여 개 정도의 많은 probe gene을 포함하는 HG-U95칩을 사용하여 그 신뢰성이 가장 높다고 판단되었기 때문이다.
- 또한 입력과 히든레이어 사이에는 high-level과 low-level hyperparameter를 두어 ARD의 적용이 가능하도록 하였다. 실험에는 토론토 대학의 베이지안 모델링 소프트웨어를 사용했다[4]. 사용한 파라미터는 다음과 같다.
- 이 데이터셋은 폐종양의 일종인 선암종 (adenocarcinoma) 중 육안으로 식별이 어렵지만 매우 위험하다고 알려진 전이성 (metastatic) 선암종 환자를 구별해 내기 위해 제작된 마이크로어레이 데이터로서, 총 156명의 환자들의 폐 조직샘플에 대한 12600개의 유전자의 발현 데이터로 구성되어 있다.
이론/모형
- 본 논문에서는 기계 학습 방법론중의 하나인베이지안 신경망(Bayesian Neural Network, BNN) 에기반한 자동유효曷탐지 (Automatic Relevance Detection, AR功기법을 이용하여, 2003년도 CAMDA(Critic 이 Assessment of Microairay Data Analysis) 학.회 에서 제 시 된 선암종(adenocarcinoma) 폐종양 유전자 발현 데이터에 대해 피처 추출을 실시했다.
- 즉 입력 hyper parameter 가입 력레이어와 히든레이어간의 hi아i-level 사전 확률분포를 표현한다면, ARD hyperparameter는 하나의 입력유닛과 히든레이어간의 low-level 사전 확률분포를 표현한다. 본 연구에서는 MCMC (Markov chain monte carlo) 기법을 이용하여 이러한 2단계의 hyperparameter를 추정 했다.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.