[논문]토픽모델링을 활용한 대학생의 중도탈락 데이터 분석

정도헌; 박주연

doi:10.6109/jkiice.2021.25.1.88

토픽모델링을 활용한 대학생의 중도탈락 데이터 분석
Data Analysis of Dropouts of University Students Using Topic Modeling 원문보기

한국정보통신학회논문지 = Journal of the Korea Institute of Information and Communication Engineering, v.25 no.1, 2021년, pp.88 - 95

정도헌 (Department of Library and Information Science, Duksung Women's University) , 박주연 (Cha Mirisa College of Liberal Arts, Duksung Women's University)

초록
AI-Helper

본 연구의 목적은 대학생의 중도탈락 현상 데이터를 실증적으로 분석하여 대학의 학생지원정책을 수립하기 위한 시사점을 제공하는 데 있다. 이를 위해 D대학의 2017~2019년 입학생 데이터를 토픽모델링 LDA(Latent Dirichlet Allocation)를 활용하여 재학생과 제적생으로 나누어 분석하였다. 연구결과 제적생에서 특징있게 나타난 토픽은 '학적'관련하여 '학기등록 1회', '전공'관련하여 '어문계열학과', '학점'관련하여 '학사경고'이고, '대학생활'관련하여 '비교과 프로그램'에 대한 토픽은 나타나지 않았다. 다음으로 '재학생 토픽'과 '제적생 토픽'의 상호 식별 성능을 측정한 결과, SVM(Support Vector Machines)이 가장 우수한 식별 성능을 보여주었다. 이러한 실험을 통해 기계학습을 활용한 인공지능 기반의 학생 데이터 분류 기법 연구의 가능성을 확인할 수 있었다.

Abstract ▼ AI-Helper

This study aims to provide implications for establishing support policies for students by empirically analyzing data on university students dropouts. To this end, data of students enrolled in D University after 2017 were sampled and collected. The collected data was analyzed using topic modeling(LDA: Latent Dirichlet Allocation) technique, which is a probabilistic model based on text mining. As a result of the study, it was found that topics that were characteristic of dropout students were found, and the classification performance between groups through topics was also excellent. Based on these results, a specific educational support system was proposed to prevent dropout of university students. This study is meaningful in that it shows the use of text mining techniques in the education field and suggests an education policy based on data analysis.

주제어

표/그림 (11)

그림 Fig. 1 LDA graphical model (left) & variational distribution to approximate the posteriori (right) [8]
그림 Fig. 2 Overall process
표 Table. 1 Main fields of raw data for LDA
표 Table. 2 Quartile conversion of numerical data
그림 Fig. 3 Visualization of topics using LDAvis
표 Table. 3 optimization of topic number (parameters : alpha=auto, pass=20, iteration=400)
그림 Fig. 4 Word cloud analysis of enrolled students
그림 Fig. 5 Word cloud analysis of the drop out students
표 Table. 4 Topic analysis of enrolled students and dropout students(Top 5 words in each topic)
그림 Fig. 6 Input data frame for the automatic topic classification
그림 Fig. 7 Result of the classification test :AUC score(top), ROC curve(bottom)

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

따라서 본 연구의 목적은 중도탈락의 현상을 토픽모델링 기법을 활용하여 분석하고, 중도탈락의 예측 가능성을 탐색하여, 이를 실제적인 대학의 학생지원정책에 반영할 수 있는 기초 자료로써 시사점을 제시하는데 있다.
본 연구는 대학생의 중도탈락에 대해 대학의 특수성을 반영하여 사례 중심으로 접근함으로써 대학의 구체적인 지원시스템을 구축하는데 도움을 주기 위한 목적으로 수행되었다. 연구 결과 재학생과 제적생의 토픽 차이로 ‘학적’에서는 ‘학기등록’, ‘전공’에서는 ‘어문계열학과’, ‘학점’에서는 ‘학사경고’, ‘대학생활’에서는 ‘비교과 프로그램 참여’등이 나타났다.
본 연구는 텍스트 마이닝 기법을 통해 실증 데이터를 분석함으로써 교육 분야에서도 정교해진 확률 모델을 적용하여 교육데이터를 분석하는 방법을 제안하였다는 데서 의의가 있다. 향후 연구에서는 학생들의 대학 생활에서 발생하는 더 많은 데이터들을 수집하여 학생 개인의 다양한 활동 데이터를 통해 중도탈락을 자동 분류하는 연구를 수행하기를 제안한다.
본 연구의 마지막 단계는 재학생과 제적생 두 그룹의 토픽 들을 자동 분류하는 것이다. 기계 학습(machine learning) 환경의 지속적인 연구를 통해, 향후 학생의 실시간 활동 데이터를 분석하여 중도탈락 가능성이 나타날 때 경고 데이터를 제공하는 시스템을 구축할 수 있을 것으로 기대한다.
본 연구의 목적은 토픽모델링을 활용하여 중도탈락 관련 토픽들을 찾고, 학생들의 중도탈락을 예측하는 방법론을 도출하는 것으로, 이를 위한 연구절차는 그림 2 와 같다. 우선 중도탈락 관련 선행연구 분석 후 학생들의 자료를 수집한다.

제안 방법

개인 정보를 포함하는 데이터의 익명화 처리를 위해 성명과 학번은 모두 제거하고 식별코드를 부여하여 처리하였다. 또한, 학과정보 역시 민감할 수 있는 데이터이므로 모두 코드화하여 처리하였다.
데이터로부터 통합 구축된 테이블은 총 53개 필드로 최종 구성하였으며, 토픽 모델링을 위한 입력 데이터로 변환하는 작업이 수행되었다. 데이터의 주요한 항목은 표 1과 같다.
또한, 원천 데이터가 세부항목 단위로 입력되어 있는 경우에는 카테고리 구분을 위해 중항목, 대항목 등의 추가 항목을 생성하였다. 예를 들어, 입학전형 데이터에서 “수시-논술”, “수시-학생부100%” 등과 같은 입시 유형은 상위 범주인 “입시구분:수시” 항목을 추가 생성하였고, “교내장학_성적우수”, “교내장학_저소득” 등의 경우, 중분류인 “교내장학금”, 대분류인 “장학금 수혜” 등의 값을 추가 생성하였다.
또한, 학과정보 역시 민감할 수 있는 데이터이므로 모두 코드화하여 처리하였다. 수집 데이터에 나타나는 학과는 총 41개이며, 실제 학과명을 알파벳 A-Z, AA-AN 으로 변환 표기하였다.
토픽모델링을 수행하여 재학생과제적생의 주요 토픽을 분석하고, LDAvis와 워드 클라우드 방식으로 시각화하여 추가 분석을 실시한다. 마지막으로 도출된 토픽들의 자동 분류 실험을 통해 식별 성능을 측정한다.
이 과정에서 성적 및 봉사시간 등의 수치 데이터는 명목(nominal) 데이터로의 변환이 필요하였다. 본 연구에서 수치 데이터로 구성된 항목은 종합평점, 전공평점, 봉사시간 이었으며, 이를 사분위로 측정한 결과는 표 2와 같다. 예를 들어, 전공 성적 필드의 값이 “4.
본 연구에서는 파이썬 기반의 토픽 모델링 라이브러리인 Gensim(https://radimrehurek.com/gensim/)을 활용하여 파이썬 코드를 직접 작성하여 수행하였다. Gensim 을 사용하기 위해서는 데이터 집합을 2차원의 배열 형태로 작성하여 입력하며, 생성된 토픽은 “0.
본연구에서는 최적의 토픽 수를 도출하기 위해 gensim의 coherence 함수를 사용해 측정하였으며, 비교적 처리 속도가 빠른 u_mass 방식을 이용하였다. u_mass는 토픽 내 용어의 동시발생 확률의 측정에 기반하여 토픽을 평가하는 방식이다[15].
우선 중도탈락 관련 선행연구 분석 후 학생들의 자료를 수집한다. 토픽모델링을 수행하여 재학생과제적생의 주요 토픽을 분석하고, LDAvis와 워드 클라우드 방식으로 시각화하여 추가 분석을 실시한다. 마지막으로 도출된 토픽들의 자동 분류 실험을 통해 식별 성능을 측정한다.
표 1과 같이 수집된 데이터는 학적, 입학, 장학금, 전공 연계, 취득학점, 학점, 대학생활 등의 테이블 정보를 고유 식별자를 통해 통합 구축하였으며, 처리 과정에서 개인정보를 삭제하고 익명화 처리를 수행하였다.
학생들의 데이터를 토픽모델링(LDA)을 적용하여 15 개의 토픽을 구성하는 단어들 중에서 주요 5개의 키워드를 산출하고, 재학생과 제적생에서 나타나는 주요 토픽들을 분석하였다. 먼저 재학생의 토픽별 주요 키워드를 분석하면 표 4와 같다.

대상 데이터

5 이하는 식별 능력이 좋지 않다고 해석한다[16]. 본 실험에 사용한 주요 파라미터는 kNNe neighbors=5, euclidean distance 유사도, SVMe linear 방식, c(cost)=1.0, RF는 생성트리수=10, ε(엡실론)=0.1, iteration=100 이다.
또한, 학과정보 역시 민감할 수 있는 데이터이므로 모두 코드화하여 처리하였다. 수집 데이터에 나타나는 학과는 총 41개이며, 실제 학과명을 알파벳 A-Z, AA-AN 으로 변환 표기하였다. 의사결정 필요시, 학과- 코드의 매핑 테이블을 활용해 역변환 할 수 있다.
연구 수행을 위한 원천 데이터(raw data)는 학내 구축된 데이터 레포지터리 시스템을 통해 2017년 이후 입학생을 대상으로 총 2, 200명을 제공받았으며, 이 중 재학생은 2,000명, 제적생은 200명이었다. 제공받은 데이터는 중도탈락과 관련된 개인의 민감 정보임을 감안하여 DB에 구축된 전량이 아닌 반출이 가능한 일부 데이터이며, 실제 재학생과 중도탈락 학생의 비율을 감안하여중도탈락 데이터는 재학생 기준 10% 수준으로 설정하였다.
같다. 우선 중도탈락 관련 선행연구 분석 후 학생들의 자료를 수집한다. 토픽모델링을 수행하여 재학생과제적생의 주요 토픽을 분석하고, LDAvis와 워드 클라우드 방식으로 시각화하여 추가 분석을 실시한다.

데이터처리

다음으로 토픽모델링을 통해 추출된 토픽들의 주요 워드의 빈도분석을 위해 워드 클라우드 분석을 실시하였다. 재학생에서 추출된 토픽의 빈도분석 결과는 그림 4와 같다.
평가 방식은 5-fold 교차 검증(cross validation)을 실시하여 평균값을 구하였으며, 기계 학습 분야의 보편적인 성능 평가 지표인 ROC curve를 산출하였다[16]. ROC 커브는 FPR(false positive rate)을 x축으로, TPR (true positive rate)을 y축으로 설정하여 좌측 상위로 휨의 정도가 클수록 좋은 성능을 나타내는 성능 평가 척도이다.

이론/모형

분석 도구는 기계 학습과 데이터 분석을 지원하는 과학 패키지인 아나콘다(Anaconda)를 기반으로 개발된 오렌지(Orange)를 활용하였다.
실험을 위한 분류기(classifier)로 기계 학습 분야에서 널리 사용되는 k-최근접 이웃(kNN; k-Nearest Neighbor), 서포트 벡터 머신(SVM; Support Vector Machines), 랜덤 포레스트(Random Forest)의 3종 알고리즘을 사용하였다. 분석 도구는 기계 학습과 데이터 분석을 지원하는 과학 패키지인 아나콘다(Anaconda)를 기반으로 개발된 오렌지(Orange)를 활용하였다.
이러한 주요 토픽들 간의 강도와 사이 거리를 시각적으로 분석하기 위해 LDAvis를 활용하였다. 제적생의 토픽을 시각화 한 예는 그림 3과 같다.

성능/효과

최종 실험 결과는 그림 7과 같다. AUC (area under the ROC curve)를 측정한 결과, SVM 분류기가 최고치 0.844로 가장 우수한 성능을 보여 주었다. AUC 수치는 0.
연구 결과 재학생과 제적생의 토픽 차이로 ‘학적’에서는 ‘학기등록’, ‘전공’에서는 ‘어문계열학과’, ‘학점’에서는 ‘학사경고’, ‘대학생활’에서는 ‘비교과 프로그램 참여’등이 나타났다. 다음으로 토픽모델링(LDA)를 통해 생성된 ‘재학생 토픽’, ‘제적생 토픽’의 상호 식별 성능을 측정한 결과 학생 데이터의 불분명한 패턴 및 제한적인 정보량(정보의 희소성)을 감안할 때 식별 성능이 크게 저조하지 않은 것으로 확인되었다.
모델링되었다고 판단할 수 있다[15]. 실험을 통한 측정 결과, 데이터는 재학생 그룹과 제적생 그룹 모두 k=15 즉, 15개의 토픽으로 최적화 결과가 나타났다(표 3 참고).
수행되었다. 연구 결과 재학생과 제적생의 토픽 차이로 ‘학적’에서는 ‘학기등록’, ‘전공’에서는 ‘어문계열학과’, ‘학점’에서는 ‘학사경고’, ‘대학생활’에서는 ‘비교과 프로그램 참여’등이 나타났다. 다음으로 토픽모델링(LDA)를 통해 생성된 ‘재학생 토픽’, ‘제적생 토픽’의 상호 식별 성능을 측정한 결과 학생 데이터의 불분명한 패턴 및 제한적인 정보량(정보의 희소성)을 감안할 때 식별 성능이 크게 저조하지 않은 것으로 확인되었다.

후속연구

들을 자동 분류하는 것이다. 기계 학습(machine learning) 환경의 지속적인 연구를 통해, 향후 학생의 실시간 활동 데이터를 분석하여 중도탈락 가능성이 나타날 때 경고 데이터를 제공하는 시스템을 구축할 수 있을 것으로 기대한다.
구분하여 그 영향력을 분석하고 있다[1-7]. 이를 바탕으로 각 대학이 학생들의 중도탈락을 방지하고 교육지원 시스템을 마련하기 위해서는 각 대학의 특수성과맥락을 반영하여 실증적인 학생 데이터를 분석하는 사례연구가 필요하다. 또한, 선행 연구들에서 사용한 연구 방법을 보면 로지스틱 회귀분석, 다항로짓모형, 의사결정트리 모델, 랜덤포레스트 예측모형 등이 있으나[1-7], 최근 텍스트 마이닝 기법이 정교해지고 있으므로 새로운 분석기법을 시도해 볼만 하다.
또한, 선행 연구들에서 사용한 연구 방법을 보면 로지스틱 회귀분석, 다항로짓모형, 의사결정트리 모델, 랜덤포레스트 예측모형 등이 있으나[1-7], 최근 텍스트 마이닝 기법이 정교해지고 있으므로 새로운 분석기법을 시도해 볼만 하다. 특히, 확률모델의 적용 범위가 넓어지고 알고리즘의 성능이 개선되고 있어, 이를 교육 데이터에 적용하여 보다 다차원적으로 중도탈락에 대한 데이터를 분석할 필요가 있다고 하겠다.
의의가 있다. 향후 연구에서는 학생들의 대학 생활에서 발생하는 더 많은 데이터들을 수집하여 학생 개인의 다양한 활동 데이터를 통해 중도탈락을 자동 분류하는 연구를 수행하기를 제안한다.

참고문헌 (16)

J. Y. Chung, M. S. Sun, and M. J. Jeong, "An Analysis of Institutional Factors Affecting on College Dropout Rates," Asian Journal of Education, vol. 16, no. 4, pp. 57-76, 2015.

상세보기
M. Kang, E. Lee, and E. Lee, "Trends and influencing factors of college student's dropout intention," In Forum for Youth Culture, no. 58, pp. 5-30, 2019.
C. Park, "Development of Prediction Model to Improve Dropout of Cyber University," Journal of the Korea Academia-Industrial Cooperation Society, vol. 21, no. 7, pp. 380-390, 2020.
S. Lee and L. Park, "Analysis of Correlation between the Characteristics of University Students and Dropout," Journal of Learner-Centered Curriculum and Instruction, vol. 19, no. 11, pp. 1185-1210, 2019.
E. Lee, Y. Song, J. Kim, and S. Oh, "An Exploratory Study on Determinants Predicting the Dropout Rate of 4-year Universities Using Random Forest: Focusing on the Institutional Level Factors," Journal of Educational Technology, vol. 36, no. 1, pp. 191-219, 2020.

상세보기
E. H. Lee and S. Kang, "The Research Trends and Implications of College Dropouts in Korea," Journal of Learner-Centered Curriculum and Instruction, vol. 19, no. 10, pp. 169-199, 2019.

상세보기
S. Han, "Exploration of Factors that Affect College Student Drop-out and Resilience," Journal of Learner-Centered Curriculum and Instruction, vol. 18, no. 24, pp. 1369-1391, 2018.

상세보기
D. M. Blei, A. Y. Ng, and M. I. Jordan, "Latent dirichlet allocation," The Journal of Machine Learning Research, vol. 3, pp. 993-1022, 2003.
M. Jin and H. Ko, "Analysis of trends in mathematics education research using text mining," Journal of the Korean Society of Mathematical Education: Communications of Mathematical Education, vol. 3, no. 3, pp. 275-294, 2019.
J. Chung, Y. Park, and W. Kim, "Social Media Analysis Based on Keyword Related to Educational Policy Using Topic Modeling," Journal of Internet Computing and Services, vol. 19, no. 4, pp. 53-63, 2018.

원문보기 상세보기
D. H. Jeong and H. S. Joo, "Discovering interdisciplinary convergence technologies using content analysis technique based on topic modeling," Journal of the Korean Society for Information Management, vol. 35, no. 3, pp. 77-100, 2018.

원문보기 상세보기
D. H. Jeong and H. S. Joo, "Topical Prescriptive Analytics System for Automatic Recommendation of Convergence Technology," Biotechnology and Bioprocess Engineering, vol. 24, pp. 893-906, 2019.

상세보기
Z. Huang, X. Lu, and H. Duan, "Latent treatment pattern discovery for clinical processes," Journal of Medical Systems, vol. 37, no. 9915, 2013.
D. H. Jeong and M. Song, "Time gap analysis by the topic model-based temporal technique," Journal of Informetrics, vol. 8, no. 3, pp. 776-790, 2014.

상세보기
D. M. Mimno, H. M. Wallach, E. M. Talley, M. Leenders, and A. K. McCallum, "Optimizing semantic coherence in topic models," In Proceedings of the Conference on Empirical Methods in Natural Language Processing: EMNLP '11, pp. 262-272, 2011.
M. P. Muller, G. Tomlinson, T. J. Marrie, P. Tang, A. McGeer, D. E. Low, A. S. Detsky, and W. L. Gold, "Can Routine Laboratory Tests Discriminate between Severe Acute Respiratory Syndrome and Other Causes of Community-Acquired Pneumonia?," Clinical Infectious Diseases, vol. 40, no. 8, pp. 1079-1086, 2005.

상세보기

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증