선택한 단어 수는 입니다.
최소 단어 이상 선택하여야 합니다.
최소 단어 이상 선택하여야 합니다.
선택한 단어 수는 30입니다.
최대 10 단어까지만 선택 가능합니다.
최대 10 단어까지만 선택 가능합니다.
문제 정의
- 본 논문에서는 폐 영상 CAD 시스템에서 결절과 비 결절로 구성된 ROI 영상을 분류하는 합성곱 신경망을 제안하였다. 제안된 합성곱 신경망 모델은 50,000 step의 학습 이후 91.
- 그러나 제안된 합성곱 신경망 모델들은 두 개 이하의 합성곱 레이어로 구성되어 있어 분류성능에 한계를 갖고 있다. 이에 본 연구에서는 기존 CAD 시스템의 커널 설계 단계를 대신함과 동시에 향상된 정확도를 보이는 합성곱 신경망 모델을 제안한다. 본 연구에서 제안하는 합성곱 신경망 모델은 총 14개의 레이어로 구성 되어있으며 모델의 정확도를 향상시키기 위하여 과적합을 완화시키기 위한 방법들을 바탕으로 학습되었다.
제안 방법
- ROI 영상은 LIDC 데이터셋에 포함된 방사선 전문의의 판독결과를 바탕으로 36 × 36 크기로 추출하였다.
- ROI 영상은 이후 Data Augmentation 과정을 고려하여 36 × 36 크기로 추출하였다.
- 세 번째 방법은 L2 정규화 방법을 적용하여 학습하였으며, 네 번째 방법은 Data Augmentation 방법을 적용하여 학습하였다. 다섯번 째 방법은 Data Augmentation과 L1 정규화 방법을 함께 적용하여 합성곱 신경망을 학습하였으며, 마지막으로 여섯 번째 방법은 Data Augmentation과 L2 정규화 방법을 함께 적용하여 학습하였다. 합성곱 신경망을 학습하기 위한 momentum 값은 0.
- 이에 본 연구에서는 기존 CAD 시스템의 커널 설계 단계를 대신함과 동시에 향상된 정확도를 보이는 합성곱 신경망 모델을 제안한다. 본 연구에서 제안하는 합성곱 신경망 모델은 총 14개의 레이어로 구성 되어있으며 모델의 정확도를 향상시키기 위하여 과적합을 완화시키기 위한 방법들을 바탕으로 학습되었다.
- 예를 들어, CT로 촬영한 영상에서 공기에 해당하는 픽셀은 −1000의 하운스필드 단위 값을 갖고 물에 해당하는 픽셀은 0의 하운스필드 단위를 갖게 된다. 본 연구에서는 LIDC-IDRI 데이터셋에 포함된 영상들의 각 픽셀 값에 DICOM tag로부터 얻을 수 있는 Rescale Slope 값을 곱한 뒤, Rescale Intercept 값을 더하여 하운스필드 단위 값을 갖는 영상으로 변환하였다.
- 최근 합성곱 신경망에 대한 연구가 진행됨에 따라 합성곱신경망 모델의 분류 성능을 향상시키는 다양한 방법이 제안되고 있다. 이에 본 연구에서는 기존의 합성곱 신경망보다 더 많은 합성곱 커널을 사용하며, 더 깊은 층으로 구성된 합성곱 신경망을 사용하였다.
- 본 연구에서는 앞서 36 × 36 크기로 추출된 ROI 영상에서 무작위로 32 × 32 영상을 다시 추출하였다. 이후 수평방향으로 flip 연산을 하여 Data augmentation을 적용하였다. 이는 결과적으로 학습데이터를 32배 늘리는 효과를 가져온다.
- 그림 3(a)는 Data Augmentation이 적용되지 않은 모델들의 learning rate 변화를 나타내며, 그림3(b)는 Data Augmentation이 적용된 모델들의 learning rate 변화를 나타낸다. 제안된 합성곱 신경망은 64 batch size로 학습하였으며, Augmentation이 적용되지 않은 경우 50,000 step을 학습하였다. Data Augmentation이 적용된 경우 학습데이터의 증가에 따라 100,000 step으로 학습 횟수를 증가시켰다.
- 첫 번째 단계에서는 각 방사선 전문의들이 독립적으로 CT 영상을 검사하고 병변을 “3 mm이상의 결절”, “3 mm미만의 결절”,“결절이 아닌 병변”의 세가지 경우로 분류한다.
- 본 연구에서는 다음의 6가지 방법에 대하여 실험을 진행하였다. 첫 번째 방법은 제안된 합성곱 신경망에 과적합 완화 방법을 적용하지 않고 학습하였으며, 두 번째 방법은 제안된 합성곱 신경망에 L1 정규화 방법을 적용하여 학습하였다. 세 번째 방법은 L2 정규화 방법을 적용하여 학습하였으며, 네 번째 방법은 Data Augmentation 방법을 적용하여 학습하였다.
- 학습된 합성곱 신경망은 추출된 36 × 36 영상의 중심영역만 잘라내어 32 × 32 영상으로 만든 뒤 평가하였다.
대상 데이터
- 본 연구에서는 합성 곱 신경망 학습을 위하여 LIDCIDRI[7] 데이터셋을 활용한다. LIDC-IDRI 데이터셋은 1010 case의 흉부 CT 영상으로 구성 되어있으며, 각 CT 영상에 대하여 네 명의 흉부 방사선 전문의가 작성한 판독결과를 포함 하고있다. 판독과정은 두 단계로 진행된다.
- 본 연구에서 제안하는 합성곱 신경망의 학습과 평가는LIDC 데이터셋에서 추출한 데이터를 사용하였다. 데이터셋은 전체 61404 장의 ROI 영상으로 구성되어 있으며, 52623장의 학습데이터와 8781장의 평가 데이터로 나누어 실험을 진행하였다. ROI 영상은 LIDC 데이터셋에 포함된 방사선 전문의의 판독결과를 바탕으로 36 × 36 크기로 추출하였다.
- 본 연구에서 제안하는 합성곱 신경망 모델은 그림 2와 같이 총 14개의 레이어로 구성된다. 이 중 8개 레이어는 합성 곱을 수행하는 레이어이며, 마지막 네 개 레이어는 Fully Connected 레이어이다.
- 본 연구에서 제안하는 합성곱 신경망의 학습과 평가는LIDC 데이터셋에서 추출한 데이터를 사용하였다. 데이터셋은 전체 61404 장의 ROI 영상으로 구성되어 있으며, 52623장의 학습데이터와 8781장의 평가 데이터로 나누어 실험을 진행하였다.
- 본 연구에서는 window level과 window width를 일반적인 폐 CT 영상 디스플레이에 사용되는 −600과1500으로 각각 설정하였다[8].
- 본 연구에서는 앞서 36 × 36 크기로 추출된 ROI 영상에서 무작위로 32 × 32 영상을 다시 추출하였다.
- 학습된 합성곱 신경망은 추출된 36 × 36 영상의 중심영역만 잘라내어 32 × 32 영상으로 만든 뒤 평가하였다. 실험은 4개의 GTX1080ti와 Ubuntu 16.04의 OS에서 진행하였으며, 알고리즘은 python3.5와 tensorflow1.01로 구현되었다.
- 본 연구에서 제안하는 합성곱 신경망 모델은 그림 2와 같이 총 14개의 레이어로 구성된다. 이 중 8개 레이어는 합성 곱을 수행하는 레이어이며, 마지막 네 개 레이어는 Fully Connected 레이어이다. 추가적으로 다섯 번째 레이어와 열 번째 레이어는 입력영상을 subsampling 하여 크기를 축소시키는 max pooling 레이어로 구성된다.
- 열한 번째에서 열 네 번 째 레이어는 이전 레이어의 모든 뉴런들과 연결 되어있는 Fully Connected 레이어로 구성된다. 이들 레이어는 각각 512개, 256개, 128개의 노드로 구성되어 있으며, 앞의 학습과정을 통하여 선택된 특징을 바탕으로 결절과 비 결절을 분류한다. 그리고 마지막 출력 레이어는 Softmax 레이어로 입력 영상이 결절 혹은 비 결절일 확률을 출력하는 2개의 노드로 구성 되어있다.
이론/모형
- 본 연구에서는 합성 곱 신경망 학습을 위하여 LIDCIDRI[7] 데이터셋을 활용한다. LIDC-IDRI 데이터셋은 1010 case의 흉부 CT 영상으로 구성 되어있으며, 각 CT 영상에 대하여 네 명의 흉부 방사선 전문의가 작성한 판독결과를 포함 하고있다.
- 첫 번째 방법은 제안된 합성곱 신경망에 과적합 완화 방법을 적용하지 않고 학습하였으며, 두 번째 방법은 제안된 합성곱 신경망에 L1 정규화 방법을 적용하여 학습하였다. 세 번째 방법은 L2 정규화 방법을 적용하여 학습하였으며, 네 번째 방법은 Data Augmentation 방법을 적용하여 학습하였다. 다섯번 째 방법은 Data Augmentation과 L1 정규화 방법을 함께 적용하여 합성곱 신경망을 학습하였으며, 마지막으로 여섯 번째 방법은 Data Augmentation과 L2 정규화 방법을 함께 적용하여 학습하였다.
- 그러나 일반적으로 학습에 사용가능한 데이터의 양은 제한 되어있다. 이를 해결하기 위하여 영상인식 분야에서는 Data Augmentation 기법을 사용한다. 영상인식 분야에서 Data Augmentation은 입력영상에 translation과 같은 연산을 수행하여 적용한다.
- 추출된 영상은 Data Augmentation 기법을 적용하여 32 × 32 크기의 영상으로 변환한 뒤 합성곱 신경망 학습에 사용되었다.
성능/효과
- 52%로 정확도 향상을 확인할 수 있다. L1, L2 정규화 기법을 사용하지 않고 Data Augmentation 만을 적용하여 학습한 경우 합성곱 신경망의 정확도는 93.52% 였다. 최종적으로 Data Augmentation과 정규화 기법을 같이 적용한 합성곱 신경망의 정확도는 각각 93.
- 79%의 정확도를 보였다. 과적합을 완화시키기 위하여 L1 정규화 기법과 L2 정규화 기법을 추가하였을 때의 정확도는 각각 92.39%와 92.52%로 향상되었으며 DataAugmentation 기법을 적용하였을 때 93.52%의 정확도를 보였다. 최종적으로 Data Augmentation과 L1, L2 정규화 방법을 함께 적용하여 학습시킨 합성곱 신경망 모델은 각각 93.
- 79%의 정확도를 보였다. 이후 동일한 합성곱 신경망 모델에 대하여 L1 정규화 기법을 적용한 경우, 92.39%로 정확도 향상을 보였으며, L2정규화 기법을 적용한 경우에도 92.52%로 정확도 향상을 확인할 수 있다. L1, L2 정규화 기법을 사용하지 않고 Data Augmentation 만을 적용하여 학습한 경우 합성곱 신경망의 정확도는 93.
- 그림 4(a)는 Data Augmentation이 적용되지 않은 모델의 학습 에 따른 정확도 변화를 나타내며, 그림 4(b)는 Data Augmentation이 적용된 모델의 학습에 따른 정확도 변화를 나타낸다. 제안된 합성곱 신경망 모델은 50,000 step의 학습 이후 91.79%의 정확도를 보였다. 이후 동일한 합성곱 신경망 모델에 대하여 L1 정규화 기법을 적용한 경우, 92.
- 52%의 정확도를 보였다. 최종적으로 Data Augmentation과 L1, L2 정규화 방법을 함께 적용하여 학습시킨 합성곱 신경망 모델은 각각 93.66%와 93.75%의 정확도를 보였다.
- 52% 였다. 최종적으로 Data Augmentation과 정규화 기법을 같이 적용한 합성곱 신경망의 정확도는 각각 93.66%와 93.75%였다.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.