초록 ▼

□ 연구개요
본 연구에서는 라벨이 없고 사전 지식이 부족하거나 없는 상황에서 태스크 해결을 위해 적합한 특징 구축의 여러 방법을 개발하였다. (1) 소수 샷 분류, (2) 메타/강화학습, (3) 표현 구축 학습, (4) 테스트 단계 적응, (5) 이상 데이터 탐지, (6) 내적 보상 기반 강화 학습 등 다양한 태스크에서 사전학습 모델이 없거나 테스트 도메인에 대한 정보가 제한되는 상황에 대처할 수 있는 기법들을 연구했다. 개발한 기법들은 각 태스크 벤치마크에서 기존 기법들보다 향상된 성능을 보였다.

□ 연구 목표대

□ 연구개요
본 연구에서는 라벨이 없고 사전 지식이 부족하거나 없는 상황에서 태스크 해결을 위해 적합한 특징 구축의 여러 방법을 개발하였다. (1) 소수 샷 분류, (2) 메타/강화학습, (3) 표현 구축 학습, (4) 테스트 단계 적응, (5) 이상 데이터 탐지, (6) 내적 보상 기반 강화 학습 등 다양한 태스크에서 사전학습 모델이 없거나 테스트 도메인에 대한 정보가 제한되는 상황에 대처할 수 있는 기법들을 연구했다. 개발한 기법들은 각 태스크 벤치마크에서 기존 기법들보다 향상된 성능을 보였다.

□ 연구 목표대비 연구결과
본 연구의 목표는 자기지도학습을 통해 적은 데이터 환경에서 태스크에 대한 사전학습 없이 심층망 기반 알고리즘의 성능을 높일 수 있는 특징 구축 기법을 개발하는 것이었다. 지난 개발 기간 동안 적은 데이터에 대한 자기지도학습을 통한 특징 구축 기법을 개발해냈고, 다양한 도메인과 태스크에서 신뢰할 수 있는 특징을 구축하는 방법들을 만들었다. 연구한 자기지도학습 기반 기법들이 다양한 각각의 벤치마크에서 기존의 기법들보다 우수한 성능을 나타냄을 검증하였다.
(1) 소수 샷 분류 문제에서의 자기지도학습은 과적합 문제가 쉽게 발생한다. 따라서 이를 방지하는 초기 단계 특징 재구축 기법과 특징에 노이즈를 추가하는 특징 레벨 데이터 증강 기법을 개발하였다. 메타 강화학습에서 데이터 효율성과 일반화 능력 개선을 위해 특징 레벨에서 역학 모델을 학습하고, 이를 내재 공간에서 혼합하여 가상의 태스크를 생성하는 (2) 메타 강화 학습 방법론을 개발하였다. 더불어 상호정보량 조정을 통해 가상 라벨을 생성하고 이를 학습에 활용하는 (3) 비지도 표현 구축 학습 기법을 개발하였다. 학습 과정에서 테스트 환경에 대한 사전 정보가 없을 때 테스트 단계에서의 적응으로 도메인 변화에 대처하는 (4) 테스트 단계 적응 기법을 개발했다. 학습 데이터와 크게 다른 이상 데이터를 탐지하기 위해 가상의 이상 데이터를 생성해 학습하는 (5) 대조 학습 기반 이상 데이터 탐지 알고리즘을 개발하였다. 내적 보상 기반 강화 학습 알고리즘은 도메인과 태스크에 따라 최적 계수가 다르다. 도메인과 태스크에 따라 달라지는 최적 계수를 자동으로 찾아주는 (6) 내적 보상 기반 강화 학습 기법을 개발하였다.
위 연구 내용을 기반으로 CS 우수 국제 학술대회(ICML 및 NeurIPS)에 논문 세 편을 발표하였고, 최근 NeurIPS 2022에 두 편의 논문을 제출하였다. 이는 당초 정량 목표인 CS 우수 국제 학술대회 총 두 편 이상의 논문 게재를 초과 달성한 결과이다.

□ 연구개발성과의 활용 계획 및 기대효과(연구개발결과의 중요성)
라벨이 없는 데이터로부터 유의미한 정보를 학습하기 위해 오랫동안 활발한 연구가 진행되었다. 최근 자기지도학습 방식을 통해 라벨이 없는 데이터의 유용한 특징을 추출하는 기법들이 주목을 받고 있다. 그러나 많은 자기지도학습 연구는 일반/사전 지식을 학습하는데 집중하며, 다량의 데이터를 학습 과정에 필요로 하기에 확장성이 떨어지는 문제가 있다. 따라서 본 연구는 적은 데이터 환경을 비롯한 다양한 도메인과 태스크에서 적응할 수 있는 자기지도학습 기법을 개발하였다. 본 연구에서 개발된 다양한 기법들은 향후 자기지도학습 연구가 기존보다 확장성 높고, 새로운 관점으로 이루어지도록 하는 발판이 될 것으로 기대한다.

(출처 : 연구결과 요약문 2p)

목차 Contents

• 표지 ... 1
• 연구결과 요약문 ... 2
• 목차 ... 3
• 1. 연구개발과제의 개요 ... 4
• 2. 연구개발과제의 수행 과정 및 수행 내용 ... 5
• 가. 1차 연도 ... 5
• 나. 2차 연도 ... 8
• 3. 연구개발과제의 수행 결과 및 목표 달성 수준 ... 15
• 1) 정성적 연구개발성과 ... 15
• 2) 세부 정량적 연구개발성과 ... 16
• 3) 목표 달성 수준 ... 16
• 4. 연구개발성과의 관련 분야에 대한 기여 정도(연구개발결과의 중요성) ... 17
• 5. 연구개발성과의 관리 및 활용 계획 ... 17
• 가. 성과 관리 추진체계 ... 17
• 나. 예상되는 연구개발성과의 활용분야 및 활용방안 ... 18
• 다. 추가연구의 필요성 ... 18
• 6. 참고문헌 ... 19
• 붙임1. 세부 정량적 연구개발성과 ... 22
• 붙임2. 연구책임자 대표적 연구실적 및 증빙(요약문 및 사본) ... 23
• 끝페이지 ... 29