[논문]LDA 토픽모델링을 통한 ICT분야 국가연구개발사업의 주요 연구토픽 및 동향 탐색

우창우; 이종연

doi:10.15207/jkcs.2020.11.7.009

LDA 토픽모델링을 통한 ICT분야 국가연구개발사업의 주요 연구토픽 및 동향 탐색
Investigation of Research Topic and Trends of National ICT Research-Development Using the LDA Model 원문보기

한국융합학회논문지 = Journal of the Korea Convergence Society, v.11 no.7, 2020년, pp.9 - 18

우창우 (충북대학교 컴퓨터과학과) , 이종연 (충북대학교 소프트웨어학과)

초록
AI-Helper

본 논문의 연구목표는 LDA(Latent Dirichlet Allocation) 모델을 적용하여 국가연구개발사업을 통해 수행되고 있는 ICT(Information and Communication Technology) 분야의 연구과제에 대한 주요 연구 토픽과 동향을 탐색하는데 있다. 연구방법에는 NTIS(National Science and Technology Information Service)로부터 최근 5년간 국가연구개발사업의 전체 연구과제 정보를 다운로드받고 이를 정보통신기획평가원(IITP)의 EZone 시스템과 매칭하여 ICT 분야 연구과제 5,200건을 확보하고, 토픽모델링 기법중 하나인 LDA 모델을 적용하여 연구토픽과 연구동향을 조사하였다. 실험결과로, ICT분야 연구과제에 대한 연구토픽은 인공지능, 빅데이터, 사물인터넷(Internet of Things)과 같은 지능정보기술로 확인되었고 연구동향에는 초실감미디어에 관한 연구가 활발히 진행되고 있음을 확인하였다. 끝으로 본 논문에서 진행된 국가연구개발사업에 대한 토픽모델링 결과는 향후 ICT분야 연구개발 계획 및 전략수립, 정책, 과제기획 등 중요한 정보로 활용될 수 있을 것이다.

Abstract ▼ AI-Helper

The research objectives investigates main research topics and trends in the information and communication technology(ICT) field, Korea using LDA(Latent Dirichlet Allocation), one of the topic modeling techniques. The experimental dataset of ICT research and development(R&D) project of 5,200 was acquired through matching with the EZone system of IITP after downloading R&D project dataset from NTIS(National Science and Technology Information Service) during recent five years. Consequently, our finding was that the majority research topics were found as intelligent information technologies such as AI, big data, and IoT, and the main research trends was hyper realistic media. Finally, it is expected that the research results of topic modeling on the national R&D foundation dataset become the powerful information about establishment of planning and strategy of future's research and development in the ICT field.

주제어

표/그림 (12)

그림 Fig. 1. Data extraction process
표 Table 1. Comparison of technological development level gap between USA and other countries
그림 Fig. 2. Data preprocessing steps for experimental data
그림 Fig. 3. Graphical model representation of the smoothed LDA model
그림 Fig. 4. Topic modeling processes using LDA
표 Table 2. Topic modeling results of ICT R&D in 2015
표 Table 3. Topic modeling results of ICT R&D in 2016
표 Table 4. Topic modeling results of ICT R&D in 2017
표 Table 5. Topic modeling results of ICT R&D in 2018
표 Table 6. Topic modeling results of ICT R&D in 2019
그림 Fig. 5. Hitmap of important keywords during the experiments
표 Table 7. Key importance and high probability in topic modeling results between 2015 and 2019

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

따라서 본 논문의 연구목표는 국내외적으로 빠르게 변화하는 ICT 흐름을 파악하기 위해 LDA 토픽모델링 기법을 적용하여 국내 연구자들이 수행하고 있는 ICT분야 국가연구개발사업 과제정보에 대한 주요 연구토픽과 연구 동향을 탐색하는데 있다. 아울러 세부적인 연구방법은 다음과 같다.

제안 방법

NTIS에서 제공되는 데이터 속성은 ‘부처명’, ‘사업기간’, ‘사업예산’, ‘과제명’ 등으로 관련 규정에 따라 총 164개의 속성을 제공하고 있으며[13], 불필요한 속성을 제외한 후 ‘과제연도’, ‘계속과제여부’, ‘영문키워드’ 3개 속성과, 분석결과의 해석을 위해 ‘과제명’, ‘국문키워드’, ‘최종목표’, ‘주요내용’, ‘기대효과’ 등 5개 속성을 추가로 선택하였다(Fig. 1 참고).
그리고 모델을 반복하며 θ, β 값을 갱신, 모든 z값 중 가장 높은 z값을 찾아 문서에 있는 각각의 단어들이 어디에 속해야 하는지 추론한다.
데이터 전처리는 입력데이터로 사용될 영문키워드 속성을 중심으로 진행하였다. 첫째, 데이터에 포함되어 있는 특수문자 및 영어가 아닌 한글과 기호 등을 제거하였다.
둘째, ‘IoT’, ‘AR’ 등 일반적으로 쓰이는 약어는 ‘Internet of Things’, ‘Augmented Reality’ 등 동일한 단어로 표준형 변환을 수행하였다.
이를 위해 한국과학 기술정보연구원에서 운영 중인 NTIS(National Science and Technology Information Service) 시스템[6]에서 국가연구개발사업 전체 데이터를 우선 수집하였고, ICT분야만 추출하기 위해 과기정통부의 ICT분야 전담기관인 정보통신기획평가원의 EZone 시스템[7] 과 매칭하여 ICT분야에 대한 과제데이터를 확보하였다. 둘째, 확보된 ICT분야의 데이터에 대해 특수문자 제거, 약어 풀이 등 분석을 위한 데이터 전처리를 진행하였다. 셋째, 토픽모델링 기법 중 하나인 LDA 모델을 적용하여 분석 결과를 연도별 주요 토픽-키워드와 연도별 키워드 히트맵으로 표현해 ICT분야 국가연구개발사업으로 투자 ㆍ연구되고 있는 과제정보에 대한 주요 연구토픽과 연구 동향을 분석하였다.
셋째, ‘SW’, ‘ICT’, ‘Development’ 등 빈번하게 등장하거나 분석에 영향을 미치지 않는다고 판단되는 키워드 ‘Manpower’, ‘Seoul Accord’, ‘University’ 등은 불용어로 처리하였다.
둘째, 확보된 ICT분야의 데이터에 대해 특수문자 제거, 약어 풀이 등 분석을 위한 데이터 전처리를 진행하였다. 셋째, 토픽모델링 기법 중 하나인 LDA 모델을 적용하여 분석 결과를 연도별 주요 토픽-키워드와 연도별 키워드 히트맵으로 표현해 ICT분야 국가연구개발사업으로 투자 ㆍ연구되고 있는 과제정보에 대한 주요 연구토픽과 연구 동향을 분석하였다. 끝으로 본 논문의 연구 결과는 향후 ICT 분야 전략기획 수립ㆍ정책기획ㆍ과제기획 등 연구 개발 기획 과정에 사용될 수 있을 것으로 기대한다.
앞서 전처리가 완료된 3,443건의 ICT분야 국가연구 개발사업 과제데이터를 각각 연도별로 LDA 모델에 적용하여 1,000번의 학습을 통해 주요 연구토픽 10개를 도출하였고, 각 연구토픽에 도출된 키워드를 연도별로 재배치하여 분포값을 기준으로 연구동향을 탐색하였다. 실험은 Python 3.
데이터 전처리는 입력데이터로 사용될 영문키워드 속성을 중심으로 진행하였다. 첫째, 데이터에 포함되어 있는 특수문자 및 영어가 아닌 한글과 기호 등을 제거하였다. 둘째, ‘IoT’, ‘AR’ 등 일반적으로 쓰이는 약어는 ‘Internet of Things’, ‘Augmented Reality’ 등 동일한 단어로 표준형 변환을 수행하였다.

대상 데이터

분석을 위해 한국정보기술연구원에서 운영하고 있는 NTIS 시스템에서[6] 최근 5년간 국가연구개발사업으로 수행된 과제 데이터 수십만 건을 다운로드받았고, 해당 데이터의 과제 제목 및 과제번호 등의 속성을 활용하여 정보통신기획평가원의 EZone 시스템[7] 매칭을 통해 ICT분야로 연구된 국가연구개발사업 과제 데이터 약 5,200건을 추출하였다. NTIS에서 제공되는 데이터 속성은 ‘부처명’, ‘사업기간’, ‘사업예산’, ‘과제명’ 등으로 관련 규정에 따라 총 164개의 속성을 제공하고 있으며[13], 불필요한 속성을 제외한 후 ‘과제연도’, ‘계속과제여부’, ‘영문키워드’ 3개 속성과, 분석결과의 해석을 위해 ‘과제명’, ‘국문키워드’, ‘최종목표’, ‘주요내용’, ‘기대효과’ 등 5개 속성을 추가로 선택하였다(Fig.
넷째, 과제별 키워드가 5개 미만인 경우 과제의 내용을 충분히 설명하기 어렵다고 판단하여 데이터 자체를 삭제하였으며, 과제별 키워드가 5개를 초과하는 경우 후순위 키워드일수록 우선순위가 낮다고 판단하여 초과되는 키워드는 모두 삭제하였다. 위의 과정을 통해 최종 3,443건의 과제정보 데이터를 확보하였으며, 총 17,215건의 키워드를 기반으로 분석을 진행하였다(Fig. 2 참고).
첫째, 실험 데이터로 최근 5년간(2015∼ 2019) 국가연구개발사업을 통해 수행된 과제 중 ICT분야로 분류된 과제정보를 수집하였다. 이를 위해 한국과학 기술정보연구원에서 운영 중인 NTIS(National Science and Technology Information Service) 시스템[6]에서 국가연구개발사업 전체 데이터를 우선 수집하였고, ICT분야만 추출하기 위해 과기정통부의 ICT분야 전담기관인 정보통신기획평가원의 EZone 시스템[7] 과 매칭하여 ICT분야에 대한 과제데이터를 확보하였다. 둘째, 확보된 ICT분야의 데이터에 대해 특수문자 제거, 약어 풀이 등 분석을 위한 데이터 전처리를 진행하였다.
첫째, 실험 데이터로 최근 5년간(2015∼ 2019) 국가연구개발사업을 통해 수행된 과제 중 ICT분야로 분류된 과제정보를 수집하였다.

이론/모형

데이터 분석은 토픽모델링 방법 중 대표적으로 활용되는 LDA(Latent Dirichlet Allocation) 모델을 사용하였다 [14]. 토픽모델링이란 문서 집합의 추상적인 ‘토픽’을 발견하기 위한 텍스트마이닝 기법으로 하나의 문서가 특정 단어들의 집합이라고 가정하고 문서에 나오는 단어를 확률적으로 계산하여 본문의 숨겨진 의미구조를 발견하는 통계적 모델 중 하나이다.

성능/효과

2∼6 같이 국내 연구자들이 수행하는 주요 연구토픽으로 ‘artificial intelligence’, ‘big data’, ‘internet of things’ 등 지능정보기술에 대한 고도화 및 응용연구를 수행하고 있음을 확인하였다.
셋째, ‘SW’, ‘ICT’, ‘Development’ 등 빈번하게 등장하거나 분석에 영향을 미치지 않는다고 판단되는 키워드 ‘Manpower’, ‘Seoul Accord’, ‘University’ 등은 불용어로 처리하였다. 넷째, 과제별 키워드가 5개 미만인 경우 과제의 내용을 충분히 설명하기 어렵다고 판단하여 데이터 자체를 삭제하였으며, 과제별 키워드가 5개를 초과하는 경우 후순위 키워드일수록 우선순위가 낮다고 판단하여 초과되는 키워드는 모두 삭제하였다. 위의 과정을 통해 최종 3,443건의 과제정보 데이터를 확보하였으며, 총 17,215건의 키워드를 기반으로 분석을 진행하였다(Fig.
첫째, 제4차 산업혁명 이후 촉발된 지능정보기술에 대한 소리 없는 전쟁에 대해 국내에 서도 꾸준한 R&D를 통해 참여하고 있다는 것을 확인할 수 있었다. 둘째, 논문ㆍ특허ㆍSNS 등의 데이터 분석을 통해 연구토픽을 추론하는 것보다 국가연구개발사업 과제정보 데이터 분석을 통해 연구토픽을 추론하는 것이 더 빠른 연구 트렌드를 파악할 수 있음을 확인하였다.
또한, 무선통신 및 안테나에 관한 키워드로 ‘5G(Avg. 0.0102)’, ‘beamforming(Avg. 0.0098)’, ‘lidar(Avg. 0.0094)’, ‘millimeter wave(Avg. 0.0143)’, ‘massive mimo(0.0098)’, ‘terahertz(0.0082)’ 키워드를 통해 연구를 진행하고 있었고, 이 외에도 ‘drone(Avg. 0.0093)’, ‘fintech(Avg. 0.0101)’, ‘malware/ransomware (0.0117/Avg. 0.0074)’, ‘smart factory(Avg. 0.0108)’ 등 ICT분야 국가연구개발사업을 통해 다양한 연구가 지속되고 있음을 확인할 수 있었다.
본 논문은 ICT분야 국가연구개발사업 과제정보 데이터 분석을 통해 주요토픽의 결과로 지능정보기술(인공지능ㆍ빅데이터ㆍ사물인터넷)에 관한 연구가 주로 이루어지고 있으며, 구체적인 연구 동향으로 초실감 미디어 분야가 활발히 연구되고 있음을 확인하였다. 본 연구가 주는 시사점은 다음과 같다.
실험결과, 2015년∼2019년 국가연구개발사업을 통해 수행된 ICT분야 연구과제 대부분은 제4차산업혁명의 핵심 동인으로 언급되는 지능정보기술인 인공지능, 빅데이터, 사물인터넷 관련 연구토픽으로 확인되었다.
따라서 키워드의 확률값과 연속성을 함께 본다면 연구자들이 수행하고 있는 연구 동향의 파악이 가능하다. 위 결과에 따라 연구의 연속성과 확률값이 가장 높은 분야는 Virtual Reality로 확인되었다(Table 7 참고). Virtual Reality 키워드는 Augmented Reality, Mixed Reality, 360 Immersive Video와 함께 초실감미디어 분야의 대표적인 키워드라고 할 수 있다
이를 통해 자연스럽게 ICT분야가 갖는 특성을 반영하여 고위 험ㆍ도전형 R&D와 함께 추격형 R&D를 수행하고 있음을 확인할 수 있었고, Table.
실질적으로 연도별 토픽 모델링 결과는 다음과 같다. 첫째, 2015년도에는 10개의 주요토픽 중 총 6개(#2, #3, #5, #6, #7, #10의 토픽에서 지능정보기술 키워드가 등장하였고, #4에서 등장한 platform, smart contents, gamification 키워드와 관련된 연구토픽은 세부 과제정보 확인결과 주로 생산성 향상을 위한 게임화 서비스 플랫폼 연구로 확인되었다(Table 2 참고).
첫째, 제4차 산업혁명 이후 촉발된 지능정보기술에 대한 소리 없는 전쟁에 대해 국내에 서도 꾸준한 R&D를 통해 참여하고 있다는 것을 확인할 수 있었다.

후속연구

셋째, 토픽모델링 기법 중 하나인 LDA 모델을 적용하여 분석 결과를 연도별 주요 토픽-키워드와 연도별 키워드 히트맵으로 표현해 ICT분야 국가연구개발사업으로 투자 ㆍ연구되고 있는 과제정보에 대한 주요 연구토픽과 연구 동향을 분석하였다. 끝으로 본 논문의 연구 결과는 향후 ICT 분야 전략기획 수립ㆍ정책기획ㆍ과제기획 등 연구 개발 기획 과정에 사용될 수 있을 것으로 기대한다.
따라서 이러한 문제점을 개선하기 위해 토픽과 토픽 간의 관계나 다른 속성들을 배경정보로 활용하여 사람이 인지하는 의미에 더 가까운 결론을 도출하는 연구가 진행될 필요가 있으며, 더 정확한 연구 동향을 파악하기 위해 시간의 흐름에 따라 연구주제 및 동향의 변화를 파악하기 위해 시계열 분석이 가능하도록 시간에 관한 속성을 추가하거나 최근의 시간에 가중치를 더 부여하는 등 기존 모델을 개선하는 연구가 진행될 필요가 있다.
본 연구를 통해 도출한 연구주제 및 연구 동향의 결과는 향후 ICT분야 연구개발 계획 및 전략수립, 정책 및 과제기획 등 다양한 과정에 중요한 정보로 활용될 수 있을 것으로 기대하며, 해당 연구의 한계점은 LDA 토픽모델 링이 비지도학습의 기계학습 모델로 알고리즘을 통해 주제를 반환하지만, 분석에 사용되는 데이터 키워드에 대한 각각의 의미를 기계가 정확히 인식할 수 없음과 동시에 현재의 알고리즘이 문서 내에 등장한 키워드 확률을 기반으로 추론하기 때문에 해당 토픽에 나타난 키워드가 사람이 인지하는 의미와 정확할 수 없다는 것을 밝힌다. 따라서 이러한 문제점을 개선하기 위해 토픽과 토픽 간의 관계나 다른 속성들을 배경정보로 활용하여 사람이 인지하는 의미에 더 가까운 결론을 도출하는 연구가 진행될 필요가 있으며, 더 정확한 연구 동향을 파악하기 위해 시간의 흐름에 따라 연구주제 및 동향의 변화를 파악하기 위해 시계열 분석이 가능하도록 시간에 관한 속성을 추가하거나 최근의 시간에 가중치를 더 부여하는 등 기존 모델을 개선하는 연구가 진행될 필요가 있다.

참고문헌 (21)

Klaus Schwab. (2016). The Fourth Industrial Revolution: what it means, hot to respond. World Economic Forum Agenda. World Economic Forum.
Presidential Committee on the Fourth Industrial Revolution. (2016). Comprehensive Measures for Intelligence Information Society. Seoul : Presidential Committee on the Fourth Industrial Revolution.
Presidential Committee on the Fourth Industrial Revolution. (2017). 4th Industrial Revolution Response Plan. Seoul : Presidential Committee on the Fourth Industrial Revolution.
Ministry of Science and ICT. (2018). I-KOREA 4.0 : ICT R&D Innovation Strategy. Sejong : Ministry of Science and ICT Publishing.
Institute of Information & Communications Technology Planning & Evaluation. (2019). 2018 ICT Technical Level Survey. Daejeon : Institute of Information & Communications Technology Planning & Evaluation.
NTIS. National R&D Management System. https://www.ntis.go.kr
EZone. National ICT R&D Management System. https://https://ezone.iitp.kr
T. K. Kim, H. R. Choi & H. C. Lee. (2016). A Study on the Research Trends in Fintech using Topic Modeling. Journal of the Korea Academia Industrial cooperation Society, 17(11), 670-681. DOI : 10.5762/KAIS.2016.17.11.670
C. S. Kim, S. J. Choi & K. Y. Kwahk. (2017). Investigation of Research Trends in Information Systems Domain Using Topic Modeling and Time Series Regression Analysis. Journal of Digital Contents Society, 18(6), 1143-1150. DOI : 10.9728/dcs.2017.18.6.1143
J. S. Park, N. R. Kim & E. J. Han. (2018). Analysis of Trends in Science and Technology using Keyword Network Analysis. Journal of the Korea Industrial Information Systems Research, 23(2), 63-73. DOI : 10.9723/jksiis.2018.23.2.063
H. Y. Kim & Y. S. Kim. (2019) Trend Analysis of Healthcare Research in Korea using Topic Modeling. Journal of Wellness, 14(1), 253-262. DOI : 10.21097/ksw.2019.02.14.1.253
H. I. Jo, J. W. Kim & B. K. Lee. (2019). A Study on Research Trends of Blockchain Using LDA Topic Modeling : Focusing on United States, China, and South Korea. Journal of Digital Contents Society, 20(7), 1453-1460. DOI : 10.9728/dcs.2019.20.7.1453

상세보기
Ministry of Science and ICT. (2019). Administrative Rules(2019-79) National research and development information standard. Seoul : Ministry of Science and ICT.
David M. Blei, Andrew Y. Ng & Michael I. Jordan. (2003). Latent dirichlet allocation. Journal of Machine Learning Research, 3, 993-1022. DOI : 10.1162/jmlr.2003.3.4-5.993
Scott Deerwester, Susan T. Dumais, George W. Furnas, Thomas K. Landauer & Richard Harshman. (1990). Indexing by latent semantic analysis. Journal of the American Society for Information Science, 41(6), 391-407. DOI : 10.1002/(SICI)1097-4571(199009)41:6<391

상세보기
Thomas Hofmann. (2001). Unsupervised learning by probabilistic latent semantic analysis. Machine Learning, 42(1-2), 177-196. DOI : 10.1023/A:1007617005950
AlphaGo versus Lee Sedol, AlphaGo versus Lee Sedol, https://en.wikipedia.org/wiki/AlphaGo_versus_Lee_Sedol
Bitcoin, Bitcoin, https://en.wikipedia.org/wiki/Bitcoin
Ministry of Government Legislation. (2019). Current Status of Proposals Related to Cryptocurrency. Seoul : Ministry of Government Legislation.
Organization for Economic Cooperation and Development. (2019). Artificial Intelligence in Society. France: Organization for Economic Cooperation and Development. DOI : 10.1787/eedfee77-en
Lin Liu, Lin Tang, Wen Dong, Shaowen Yao & Wei Zhou. (2016). An Overview of Topic Modeling and its current applications in bioinformatics. Springerplus, 5(1), 1608-1630. DOI : 10.1186/s40064-016-3252-8

상세보기

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증