[논문]텐서플로우 튜토리얼 방식의 머신러닝 신규 모델 개발 : 캐글 타이타닉 데이터 셋을 중심으로

김동길; 박용순; 박래정; 정태윤

doi:10.14372/iemek.2019.14.4.207

텐서플로우 튜토리얼 방식의 머신러닝 신규 모델 개발 : 캐글 타이타닉 데이터 셋을 중심으로
Developing of New a Tensorflow Tutorial Model on Machine Learning : Focusing on the Kaggle Titanic Dataset 원문보기

대한임베디드공학회논문지 = IEMEK Journal of embedded systems and applications, v.14 no.4, 2019년, pp.207 - 218

김동길 (Gangwon EMbedded Software Cooperative Research Center) , 박용순 (Gangwon EMbedded Software Cooperative Research Center) , 박래정 (Gangneung-Wonju National Univ.) , 정태윤 (Gangneung-Wonju National Univ.)

Abstract ▼ AI-Helper

The purpose of this study is to develop a model that can systematically study the whole learning process of machine learning. Since the existing model describes the learning process with minimum coding, it can learn the progress of machine learning sequentially through the new model, and can visualize each process using the tensor flow. The new model used all of the existing model algorithms and confirmed the importance of the variables that affect the target variable, survival. The used to classification training data into training and verification, and to evaluate the performance of the model with test data. As a result of the final analysis, the ensemble techniques is the all tutorial model showed high performance, and the maximum performance of the model was improved by maximum 5.2% when compared with the existing model using. In future research, it is necessary to construct an environment in which machine learning can be learned regardless of the data preprocessing method and OS that can learn a model that is better than the existing performance.

주제어

표/그림 (23)

표 표 1. 자동화와 연결성의 발전과정 Table 1. Evolution of automation and connectivity
그림 그림 1. 머신러닝 방법론 Fig. 1 Machine learning methodology
표 표 2. 머신러닝 논문 동향 Table 2. Trends of machine learning papers
그림 그림 2. 캐글에서 제공하는 타이타닉 데이터 셋 Fig. 2 Titanic dataset provided by Kaggle
표 표 3. 머신러닝 구현을 위한 개발 환경 Table 3. Development environment for machine learning implementation
표 표 4. 타이타닉 데이터 셋 특징 Table 4. Feature of Titanic dataset
표 표 5. 타이타닉 훈련용 데이터 셋 정보 Table 5. Information on Titanic train dataset
표 표 6. 타이타닉 테스트용 데이터 셋 정보 Table 6. Information on Titanic test dataset
표 표 7. 결측값 해결을 위한 코딩 예시 Table 7. Coding example for missing value solution
표 표 8. 문자형을 숫자형으로 변화하는 코딩 예시 Table 8. Coding example for missing value solution
표 표 9. 데이터 정규화를 위한 코딩 예시 Table 9. Coding example for data normalization
표 표 10. 모델 학습 전 교차검증을 위한 코딩 예시 Table 10. Coding example for cross validation before model learning
그림 그림 3. 머신러닝 학습 알고리즘 종류 Fig. 3 Types of machine learning algorithm
표 표 11 학습된 모델 성능 평가를 위한 코딩 예시 Table 11. Coding example for evaluating learned model performance
그림 그림 4. 머신러닝 튜토리얼 모델 비교 Fig. 4 Compare tutorial models for machine learning
그림 그림 5. 캐글에서 제공하는 모델 성능 평가 Fig. 5 Model performance evaluation service provided by Kaggle
표 표 12. 머신러닝 튜토리얼 모델 기능 비교 Table 12. Functional comparison of tutorial models for machine learning
그림 그림 6. 텐서보드 사용 예시 Fig. 6 Example of using a Tensorboard
표 표 13. 머신러닝 튜토리얼 모델 성능 평가 결과 Table 13. Performance evaluation of tutorial models for machine learning
표 표 14. 텐서보드 실행 예시 Table 14. Example of a Tensorboard running
그림 그림 7. 상관분석 예시 Fig. 7 Example of correlation analysis
그림 그림 8. 변수 중요도 예시 Fig. 8 Example of feature importance
표 표 15. 앙상블 알고리즘 변수 중요도 비교 결과 Table 15. Comparison of variable importance in ensemble algorithm

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본 연구는 캐글에서 제공하는 타이타닉 데이터 셋을 기반으로 머신러닝 학습 과정을 체계화하기 위한 데이터 특징을 파악하고, 이를 활용할 수 있는 적절한 전처리 방법부터 알고리즘 선택까지 일련의 단계를 모색하려 한다.
본 연구에서는 머신러닝 진행 시 데이터 가져오기, 데이터 전처리, 데이터 시각화, 데이터 검증, 데이터 정규화 등을 체계적으로 학습할 수 있는 튜토리얼 방식의 모델을 개발하는데 목적을 두었다.
2017년 3월 구글에 인수된 캐글은 데이터와 해결과제를 등록하면 모델을 개발하고 경쟁하는 예측모델 및 분석 대회 플랫폼으로 [9], competitions의 경우 데이터와 함께 도출하고자 하는 결과에 대한 정보가 주어지고 이를 요구하는 포맷에 맞게 등록하면 결과에 따라 점수를 확인할 수 있다. 이와 반대로, dataset은 데이터만 주어질 뿐 주제나 결과의 우열에 관한 내용이 없기 때문에 참여자들이 자유롭게 데이터를 공유하는데 목적이 있다 [10].

제안 방법

csv의 빈 값을 확인하기 위해 isnull().sum() 함수를 사용해서 각 변수들의 결측값 통계를 파악하고 문자형 데이터의 유니크한 값을 찾아 sklearn의 원핫인코딩을 사용해서 추출된 문자열을 숫자로 변환하는 작업을 진행하였으며 자세한 소스는 표 8에서와 같다,
고차원 또는 무한 차원의 공간에서 초평면의 집합을 찾아 이를 이용하여 분류 또는 회귀에 사용하며, 본 연구에서는 문서 분류 등에서 자주 발생하는 대량의 자료를 분석할 때 유용한 선형 (linear) 커널을 이용하였다 [28].
그리고 데이터 전처리 전후 상관분석 결과를 비교하면서 survived에 강한 영향을 미치는 변수 중요도를 확인하고 (그림 7 참조), 파라미터 값들을 조정하면서 튜토리얼 모델 1∼5에 사용된 모든 알고리즘을 학습하였다.
반면, 신규 모델은 변수 비교와 같은 단순 시각화가 아닌 학습 과정이나 검증 및 테스트 결과 등의 데이터 흐름을 직관적으로 파악하기 위해 텐서플로우를 적용하였다. 그리고 본 연구에서 사용하는 데이터는 범주형에 속하기 때문에 지도 학습 유형 중, 분류에 해당하는 머신러닝 학습 알고리즘을 모두 실험하였다 (그림 3 참조). 이후 교차검증을 통해 학습 모델의 효율성을 추가로 파악하였으며, sklearn의 gridsearchcv 함수를 사용하여 학습 모델의 파라미터를 최적화하였다 [39].
또한 본 연구에서는 그림 3에서와 같이 python의 sklearn을 통해 머신러닝 알고리즘을 적용하여 모델을 학습하였으며, 각 알고리즘에 대한 설명은 다음과 같다.
반면, 신규 모델은 변수 비교와 같은 단순 시각화가 아닌 학습 과정이나 검증 및 테스트 결과 등의 데이터 흐름을 직관적으로 파악하기 위해 텐서플로우를 적용하였다. 그리고 본 연구에서 사용하는 데이터는 범주형에 속하기 때문에 지도 학습 유형 중, 분류에 해당하는 머신러닝 학습 알고리즘을 모두 실험하였다 (그림 3 참조).
학습의 목적은 주어진 데이터를 의도에 맞게 얼마나 정확하게 분류했는지를 파악하는 것이며, 이러한 모델을 평가하는 기준이 매우 중요하다. 본 연구에서는 학습 모델의 성능을 객관적이고 정량적으로 평가하기 위해 표 11에서와 같이 sklearn에서 제공하는 confusion matrix를 통해, 모델의 효율성을 판단하는 척도로 사용되는 정확도 (accuracy), 정밀도 (precision) 등을 파악하였다 [30-33].
분석 결과 표 13에서와 같이 정확도를 바로 확인할 수 없거나 submit을 적용하기 전 알고리즘 성능 파악이 어려운 모델 (튜토리얼 모델 2, 4, 5)이 존재하기 때문에 confusion matrix 기능을 추가하였으며, sklearn에서 제공하는 cross validation, cross val score 기능을 사용하여 각 튜토리얼 모델의 알고리즘 성능을 비교분석하였다.
그리고 본 연구에서 사용하는 데이터는 범주형에 속하기 때문에 지도 학습 유형 중, 분류에 해당하는 머신러닝 학습 알고리즘을 모두 실험하였다 (그림 3 참조). 이후 교차검증을 통해 학습 모델의 효율성을 추가로 파악하였으며, sklearn의 gridsearchcv 함수를 사용하여 학습 모델의 파라미터를 최적화하였다 [39].

대상 데이터

머신러닝 학습 시 우선적으로 확보해야하는 데이터는 그림 2에서와 같이 캐글에서 제공하는 타이타닉 데이터 셋의 train.csv 데이터를 통해 머신러닝을 학습하고, 학습된 모델을 시험하기 위해 test.csv 데이터를 사용한다 [11].

데이터처리

머신러닝을 학습하기 위해 빈 데이터를 채우고, 문자형을 숫자형으로 변환하는 작업, 즉 변수의 특징을 추출하는 데이터 전처리 과정은 [4, 7, 12-14], 표 7에서와 같이 데이터의 특정 문자열을 추출하기 위해 extract() 함수를 사용하고, 유일한 값을 찾기 위해 value_counts() 함수를 사용하며, lambda 함수를 통해 표현식을 간단하게 표현하고, 결측값을 채우기 위해 fillna() 함수를 사용하였다.
성능 평가는 그림 4, 표 12에서와 같이 캐글에서 제공하는 튜토리얼 모델을 테스트한 결과 [34-38]와 텐서플로우를 적용한 신규 모델을 비교분석 하였으며, 각 모델의 차이점과 알고리즘에 따른 학습 결과는 표 10, 11에서 확인할 수 있다.

이론/모형

input layer → hidden layer → output layer 순으로 이루어진 기초적인 신경망 모델로 본 연구에서는 MLP (multi layer perceptron)를 사용하였다 [16-19].
데이터를 단순하게 독립적인 사건으로 가정하고, 이를 베이즈 이론에 대입시켜 가장 높은 확률의 레이블로 분류하는 방식으로 본 연구에서는 gaussian naive bayes를 사용하였다 [21].
샘플을 여러 번 출력하여 각 모델을 학습시켜 결과를 집계하는 bagging 방식 (병렬)과 순차적으로 가중치를 부여하는 boosting 방식이 있으며, 본 연구에서는 random forest, xgboost 등을 사용하였다 [23-27].

성능/효과

먼저 기존 모델은 예측 성능의 차이는 있지만 앙상블 기법이 가장 높은 예측 성능을 보이는 것으로 모두 대동소이하게 나타났다.
분석 대상인 데이터의 타당성을 검증하기 위해 본 연구에서는 보유한 데이터를 과 training set으로 구분하여 데이터로 validation settraining set 학습 모형을 만들고데이터로 성능, validation set 을 계산한 후에 test set으로 학습 모델을 평가하는 방법으로 교차검증 (cross validation)이 있으며 [7, 15], 표 10에서와 같은 방법으로 간단하게 구현할 수 있다.
제안된 신규 모델은 AdaBoost에서 83.21%(모델 1 -3.55% 모델 2 +5.2%, 모델 3 +0.83%, 모델4 +0.96%, 모델 5 -5.45%)로 가장 높은 정확도를 보이는 것으로 나타났으며, 전체적으로 앙상블 기법들이 모두 높은 것을 확인하였다.
캐글 타이타닉 데이터 셋을 살펴보면, 표 4-6에서와 같이 생존이라는 종속변수, 즉 label이 있는 지도 학습 (supervised learning)으로 성별, 승선권 클래스 등의 다양한 독립변수들이 나타났으며, 값이 없거나 (결측값) 숫자형, 문자형 등 데이터 유형들이 다양하게 나타났다.
튜토리얼 모델 1은 sex, title, age, name, embarked, fare, pclass, family (sibsp+parch)를 기준으로 survived를 예측하였으며, 가장 높은 예측성능을 보이는 알고리즘은 random forest로 86.76%의 정확도가 나타났다.
튜토리얼 모델 2는 이전 모델에 시각적인 효과와 데이터 검증 과정을 추가하고, age, fare, sex, embarked, cabin을 기준으로 survived를 예측하였으며, 가장 높은 예측 성능을 보이는 알고리즘은 random fores (78.01%), 그 다음으로 gradient boosting (77.69%) 순으로 정확도를 확인하였다.
튜토리얼 모델 3은 이전 모델의 데이터 전처리 과정에서 encoding이 추가되었으며, pclass, sex, age, sibsp, parch, fare, cabin, name을 기준으로 survived를 예측하고, grid search 기능을 통해 random forest에 적합한 최적의 학습 파라미터 값을 적용함으로써 82.38%의 정확도를 확인하였다.
튜토리얼 모델 4는 age, family (sibsp+parch), pclass, sex, fare, title, embarked를 기준으로 survived에 영향을 미치는 변수 중요도와 random forest (82.25%), gradient boosting (82.17%), extra tree (80.77%), adaboost (80.16%) 순으로 정확도를 확인하였다.
튜토리얼 모델 5는 pclass, sex, age, fare, parch를 기준으로 survived를 예측하는 과정을 간소화하고, xgboost 기법을 사용하여 88.66%의 정확도를 확인하였다.
학술정보 통합서비스인 디비피아에서 ‘machine learning’으로 검색 (최근 5년)을 한 결과 표 2에서와 같이 ‘machine learning’ 관련 논문들이 점진적으로 계속 증가하는 것으로 나타났다.

후속연구

향후 과제로는 데이터 전처리 후 이전의 결과보다 더 높은 값이 나올 수 있는 다양한 데이터 전처리 방법 및 모델 학습에 최적화된 알고리즘 설계와 작성된 코딩을 윈도우, 리눅스 등의 다양한 OS 환경에서 이용할 수 있는 도커 이미지 제작을 진행할 것이다.

질의응답

핵심어	질문	논문에서 추출한 답변
	머신러닝을 위해 필요한 전처리 과정은?	머신러닝의 학습 과정은 그림 1에서와 같이 모델 학습에 필요한 데이터를 수집하는 데이터 획득 단계에서 학습에 용이하도록 하나의 포맷으로 통일하고 데이터를 한 곳에 수집하는 것이 필요하다. 이 때 획득된 데이터는 학습, 검증, 테스트로 구분되어 사용된다.
	머신러닝은 무엇인가?	인공지능은 컴퓨터가 지능을 가질 수 있도록 만드는 과정을 의미하며, 이를 위한 도구로 머신러닝 (machine learning)이 있다. 머신러닝은 데이터와 알고리즘을 기반으로 컴퓨터가 스스로 예측하는 프로그램으로 정의할 수 있다 [2-6].
	머신러닝을 위해 수집한 데이터는 어떻게 사용되는가?	머신러닝의 학습 과정은 그림 1에서와 같이 모델 학습에 필요한 데이터를 수집하는 데이터 획득 단계에서 학습에 용이하도록 하나의 포맷으로 통일하고 데이터를 한 곳에 수집하는 것이 필요하다. 이 때 획득된 데이터는 학습, 검증, 테스트로 구분되어 사용된다. 다음으로 학습 데이터를 기반으로 한 개 이상의 머신러닝 모델을 구현하는 단계와 검증 데이터를 사용하여 구현된 모델들의 성능을 검증하는 단계가 있다.

LOADING...

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증