[논문]CNN 기반 특징맵 사용에 따른 특징점 가시화와 에러율

진태석

doi:10.21289/ksic.2021.24.1.1

CNN 기반 특징맵 사용에 따른 특징점 가시화와 에러율
Feature Visualization and Error Rate Using Feature Map by Convolutional Neural Networks 원문보기

In this paper, we presented the experimental basis for the theoretical background and robustness of the Convolutional Neural Network for object recognition based on artificial intelligence. An experimental result was performed to visualize the weighting filters and feature maps for each layer to determine what characteristics CNN is automatically generating. experimental results were presented on the trend of learning error and identification error rate by checking the relevance of the weight filter and feature map for learning error and identification error. The weighting filter and characteristic map are presented as experimental results. The automatically generated characteristic quantities presented the results of error rates for moving and rotating robustness to geometric changes.

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본 논문에서는 인공지능 기반의 객체 인식을 위한 CNN(Convolutional Neural Network)에 대한 이론적 배경과 강건성에 대한 실험적 근거를 제시하였다. CNN이 어떤 특징량을 자동으로 생성하고 있는지를 확인하기 위한 각 층의 가중치 필터와 특징 맵을 시각화하는 실험적 결과를 수행하였다.
본 연구에서는 CNN의 회선과 풀링에 의해 자동 생성된 특징량이 미세한 기하변화에 대하여 어느 정도 불변성을 가지는지에 대한 실험 결과를 제시하였다. 그리고 기존의 신경망의 학습 방법으로 사용된 랜덤 학습을 적용하여 CNN이 기하 변화에 대한 불변성을 개선할 수 있는지를 테스트하고 랜덤 학습오차와 식별오차율을 관찰하여 그에 따른 실험적 결과를 제시하였다[2].

제안 방법

CNN이 어떤 특징량을 자동으로 생성하고 있는지를 확인하기 위한 각 층의 가중치 필터와 특징 맵을 시각화하는 실험적 결과를 수행하였다.
CNN이 어떤 특징량을 자동으로 생성하고 있는지를 확인하기 위해여 각 층의 가중치 필터와 특징 맵을 시각화하였다. 이때 학습오차와 식별 오차에 대한 가중치 필터와 특징맵의 관련성을 확인하기 위해 학습오차와 식별율의 추이를 확인하고 가중치 필터와 특징맵이 학습에 의해 변화형태를 실험하였다.
그리고 기존의 신경망의 학습 방법으로 사용된 랜덤 학습을 적용하여 CNN이 기하 변화에 대한 불변성을 개선할 수 있는지를 테스트하고 랜덤 학습오차와 식별오차율을 관찰하여 그에 따른 실험적 결과를 제시하였다[2].
실험을 위하여 MNIST Dataset을 사용하여 CNN의 매개 변수 특징량의 시각화에 따른 학습 오차와 식별오차 값을 각각 제시하였다.
시각화하였다. 이때 학습오차와 식별 오차에 대한 가중치 필터와 특징맵의 관련성을 확인하기 위해 학습오차와 식별율의 추이를 확인하고 가중치 필터와 특징맵이 학습에 의해 변화형태를 실험하였다.
자동생성된 특징량은 학습에 의한 식별과 유효 특징량에 변화에 따른 학습오차와 식별오차의 실험적 결과를 제시하였다.
1로 설정하고 미니배치 크기는 10개 또는 20개 미니배치 학습을 실시하였다. 학습 오차의 계산은 교차 엔트로피 오차 함수를 이용하고 출력 레이어 단위의 활성화 함수로 소프트 맥스 함수를 사용하였다. 또한 각 실험의 비교실험에서 사용한 다층 퍼셉트론은 중간층이 첫 번째 층에서 유닛 수가 1000개의 다층 퍼셉트론을 사용하였다.
풀링은 2×2의 작은 영역에서 최대값을 출력하는 맥스 풀링을 사용하였고, 식별부 완전 연결 층의 단위 수는 500개 사용하였다. 학습계수는 0.1로 설정하고 미니배치 크기는 10개 또는 20개 미니배치 학습을 실시하였다. 학습 오차의 계산은 교차 엔트로피 오차 함수를 이용하고 출력 레이어 단위의 활성화 함수로 소프트 맥스 함수를 사용하였다.
또한 각 실험의 비교실험에서 사용한 다층 퍼셉트론은 중간층이 첫 번째 층에서 유닛 수가 1000개의 다층 퍼셉트론을 사용하였다. 학습계수와 배치 크기는 CNN과 동일하게 0.1과 10로각각 설정하였고 epoch의 수는 300에서 학습과 오차를 각각 관찰하였다.
학습오차와 식별오차에 대한 가중치 필터와 특징 맵의 관련성 확인을 통한 학습오차와 식별율의추이에 대한 실험적 결과와 가중치 필터와 특징 맵의 학습에 의한 변화형태를 제시하였다. 자동생성된 특징량은 학습에 의한 식별과 유효 특징량에 변화에 따른 학습오차와 식별오차의 실험적 결과를 제시하였다.

대상 데이터

학습 오차의 계산은 교차 엔트로피 오차 함수를 이용하고 출력 레이어 단위의 활성화 함수로 소프트 맥스 함수를 사용하였다. 또한 각 실험의 비교실험에서 사용한 다층 퍼셉트론은 중간층이 첫 번째 층에서 유닛 수가 1000개의 다층 퍼셉트론을 사용하였다. 학습계수와 배치 크기는 CNN과 동일하게 0.
실험에서 적용한 CNN 가중치 필터의 크기는 5×5이고 첫 번째 층은 4(6)장, 두 번째 층은 12 장 이용하였다. 풀링은 2×2의 작은 영역에서 최대값을 출력하는 맥스 풀링을 사용하였고, 식별부 완전 연결 층의 단위 수는 500개 사용하였다.
이용하였다. 풀링은 2×2의 작은 영역에서 최대값을 출력하는 맥스 풀링을 사용하였고, 식별부 완전 연결 층의 단위 수는 500개 사용하였다. 학습계수는 0.

성능/효과

1980 년에 신경망의 학습 방법중에 오차역전파 방법 [1] 이그 중 하나였으며 퍼셉트론의 출력과 교사 신호로부터 오차를 구하고 파라미터를 갱신하는 학습기법이다. 특히, Deep Learning의 특징량의 학습이 식별기에 어떤 영향을 주고 있는지를 CNN을 이용한 학습 결과가 도출되었다.

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증

CNN 기반 특징맵 사용에 따른 특징점 가시화와 에러율
Feature Visualization and Error Rate Using Feature Map by Convolutional Neural Networks 원문보기

Abstract ▼ AI-Helper

주제어

표/그림 (6)

표/그림 (6)

AI 본문요약
AI-Helper

문제 정의

제안 방법

대상 데이터

성능/효과

참고문헌 (6)

이 논문을 인용한 문헌

저자의 다른 논문 :

관련 콘텐츠

원문 보기

원문 URL 링크

오픈액세스(OA) 유형

연관된 기능

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

연합인증

CNN 기반 특징맵 사용에 따른 특징점 가시화와 에러율 Feature Visualization and Error Rate Using Feature Map by Convolutional Neural Networks 원문보기

Abstract ▼ AI-Helper

주제어

표/그림 (6) 모든 표/그림 보기

표/그림 (6) 슬라이드로 보기

AI 본문요약 엑셀 다운로드 AI-Helper

문제 정의

제안 방법

대상 데이터

성능/효과

참고문헌 (6)

이 논문을 인용한 문헌

저자의 다른 논문 :

진태석 (62)

관련 콘텐츠

원문 보기

원문 URL 링크

오픈액세스(OA) 유형

연관된 기능

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

CNN 기반 특징맵 사용에 따른 특징점 가시화와 에러율
Feature Visualization and Error Rate Using Feature Map by Convolutional Neural Networks 원문보기

표/그림 (6)

표/그림 (6)

AI 본문요약
AI-Helper