초록 ▼

연구개발 목표 및 내용
최종 목표
본 과제의 연구 개발 목표는 음성 데이터에서 폭력 상황을 감지하고 분류하는 경량화 딥러닝 모델을 개발하기 위해, 딥러닝을 이용한 cer 14% 이하의 음성인식 모델, f1 score 74% 이상의 텍스트 분류 모델을 연구, 개발한다. 그 후, 경량화 기술을 이용하여 compression rate 40% 이상, FLOPs rate 30% 이하의 모델을 개발한다.
전체 내용
딥러닝을 이용한 음성인식 모델 개발
음성 데이터에서 폭력상황 감지 및 분류를 위해 음성을 텍스트로 바꿔

연구개발 목표 및 내용
최종 목표
본 과제의 연구 개발 목표는 음성 데이터에서 폭력 상황을 감지하고 분류하는 경량화 딥러닝 모델을 개발하기 위해, 딥러닝을 이용한 cer 14% 이하의 음성인식 모델, f1 score 74% 이상의 텍스트 분류 모델을 연구, 개발한다. 그 후, 경량화 기술을 이용하여 compression rate 40% 이상, FLOPs rate 30% 이하의 모델을 개발한다.
전체 내용
딥러닝을 이용한 음성인식 모델 개발
음성 데이터에서 폭력상황 감지 및 분류를 위해 음성을 텍스트로 바꿔주는 모델을 Transformer 기반의 시퀀스-투-시퀀스 구현 및 학습하여 개발
딥러닝을 이용한 텍스트 분류 모델 개발
음성인식 모델에서 텍스트로 변환된 음성에 폭력상황 감지 및 분류를 위해 기존 오픈소스 ELECTRA 모델에 finetuning을 진행하여 개발
개발 완료된 모델에 경량화 기술 적용
개발 완료된 딥러닝 기반의 음성인식 모델과 텍스트 분류 모델에 경량화 기술을 적용하여 전체 모델 크기 파라미터 수)를 축소

연구개발성과 활용계획 및 기대 효과
현재 딥러닝 기반의 한국어 음성인식은 이제 막 시작하는 단계이다. 2020년에서야 한국어 딥러닝 음성인식 모델 학습을 위한 1000시간의 대용량 데이터가 공개되었으며, 현재까지 딥러닝 기반의 음성인식 학습을 위한 오픈소스 데이터는 3종 정도에 불과하다. 그렇기 때문에 본 과제를 통해 MIT 라이센스로 음성인식 기술을 공개할 경우, 딥러닝 기반의 한국어 음성인식 오픈소스에 큰 기여를 할 수 있음
그리고, 텍스트 분류 모델에서는 현재 버트 기반의 모델들은 많이 공개되어있지만, 이를 이용한 경량화 모델을 공개되어있지 않기 때문에, 경량화된 버트 기반의 텍스트 분류 모델의 공개 또한 한국어 오픈소스 생태계에 큰 보탬이 될 것으로 기대됨

(출처 : 요약문 3p)

목차 Contents

• 표지 ... 1
• 최종보고서 ... 2
• 요 약 문 ... 3
• 목차 ... 5
• 1. 연구개발과제의 개요 ... 6
• 1) 연구개발과제의 개요 ... 6
• 2) 연구개발 대상의 국내외 현황 ... 6
• 2. 연구개발과제의 수행 과정 및 수행 내용 ... 6
• 1) 현행 최신 모델 현황 ... 6
• 2) 모델 경량화 기술 ... 7
• 3) 모델 연구 계획 ... 9
• 4) Wav2vec 학습과 경량화 ... 10
• 5) Text Classification 모델 학습과 경량화 ... 13
• 3. 연구개발과제의 수행 결과 및 목표 달성 정도 ... 15
• 1) 연구수행 결과 ... 15
• 2) 목표 달성 수준 ... 58
• 4. 목표 미달 또는 미흡한 사항에 대한 분석 ... 58
• 5. 연구개발성과의 관련 분야에 대한 기여 정도 ... 59
• 6. 연구개발성과의 관리 및 활용 계획 ... 60
• 1) 향후 5년간 성과활용·확산 활용방안 및 계획(활동계획) ... 60
• 2) 주요 성과활용 (기대)성과목표 ... 61
• 3) 성과활용·관리 추진체계 ... 62
• 7. 연구개발성과에 대한 후속연구 및 추가 개발 계획 ... 63
• 1) 후속연구 ... 63
• 2) 추가개발 계획 ... 63
• 8. 연구개발비 사용실적 ... 64
• 1) 연구개발비 사용명세서 ... 64
• 2) 발생이자 사용명세서 ... 64
• 3) 반납액 명세서 ... 64
• 붙임 1. 자체 보안관리 진단표 ... 65
• 붙임 3. 공개 SW 요약서 ... 66
• 끝페이지 ... 67