초록 ▼

□ 연구개요
본 연구는 신경망 모델에서의 설명 가능한 인공지능 서비스 (XAI as a Service)를 실현하기 위한 질의 가능한 신경망 학습, 전처리 및 분석 기법을 개발하는 것을 목표로 하며 다음과 같은 세부 목표를 수행하고자 함.
1) Querying AI for Models: 사전 학습된 신경망을 주어진 속성을 만족하는 부분 태스크에 특화된 모델을 추출
2) Querying AI for Samples: 사전 학습 모델의 파라미터에 대한 질의 조건에 부합하는 샘플 데이터 검출
3) Querying AI

□ 연구개요
본 연구는 신경망 모델에서의 설명 가능한 인공지능 서비스 (XAI as a Service)를 실현하기 위한 질의 가능한 신경망 학습, 전처리 및 분석 기법을 개발하는 것을 목표로 하며 다음과 같은 세부 목표를 수행하고자 함.
1) Querying AI for Models: 사전 학습된 신경망을 주어진 속성을 만족하는 부분 태스크에 특화된 모델을 추출
2) Querying AI for Samples: 사전 학습 모델의 파라미터에 대한 질의 조건에 부합하는 샘플 데이터 검출
3) Querying AI for Parameters: 사전 학습 모델의 학습 샘플에 대한 질의 조건에 부합하는 파라미터 검출

□ 연구 목표대비 연구결과
(사전 학습된 신경망을 주어진 속성을 만족하는 부분 태스크에 특화된 모델을 추출 연구에 대한 성과)
- 사용자가 요청하는 태스크를 수행하는 모델을 추가적인 학습 없이 생성하여 전달하는 실시간 모델 쿼리 서비스 프레임워크 개발
- 모델 간의 효율적인 유사도 측정을 통한 개인화된 연합학습 개발
(사전 학습 모델의 파라미터에 대한 질의 조건에 부합하는 샘플 데이터 검출 연구에 대한 성과)
- 생성형 신경망에서 다양한 조건에 따라 원하는 가상 샘플을 추출하여 이를 지속학습에 활용하는 방법 개발
- 학습 데이터 없이 추론형 신경망에서 생성형 신경망으로의 지속적인 지식 전이 방법 개발
(사전 학습 모델의 학습 샘플에 대한 질의 조건에 부합하는 파라미터 검출 연구에 대한 성과)
- 연속적으로 사전 학습된 태스크에 부합하는 파라미터 생성 기법 개발 [AAAI 24]
- 사전학습 모델로부터 추출된 합성샘플 필터링을 통한 강건한 지식증류 기법 개발[AAAI 24]
(논문 및 특허 실적 요약)
- SCIE 논문 2편, Top-tier 국제 conference 3편(BK IF 4), 국외 학술지(SCOPUS) 1편, 국내 학술지(등재지) 6편, 국내 학술대회 10편(우수논문상 2건)
- 국내 특허 출원 9건, 등록 1건, 해외 특허(미국) 출원 2건

□ 연구개발성과의 활용 계획 및 기대효과(연구개발결과의 중요성)
XAI와 AIaaS를 결합하여 XAI as a Service를 실현하기 위한 최초의 시도이며, XAI와 AIaaS에 대한 관련 기술수요가 각각 급증하고 있다는 점에서 학술적·경제적·사회적 기대효과가 높음. 연구개발결과물은 신경망 연속학습 분야에서 치명적 망각현상의 원인을 분석하고 이를 완화시키기 위해 적용할 수 있으며, 특별히 데이터 정제 등을 통한 신경망 모델 디버깅에도 다음과 같이 활용 가능함.
- Querying for Models 기능을 활용하여 각 부분 태스크에 대한 난이도(hardness)와 불균형을 파악하고 학습 모델과 데이터 구성을 달리하여 재학습
- Querying for Samples 기능을 활용하여 잘못된 샘플을 검출하고 학습 데이터 정제에 활용
- Querying for Parameters 기능을 활용하여 잘못 학습된 모델의 원인을 구체적으로 분석하고 아키텍처 재구성 등에 활용

(출처 : 연구결과 요약문 2p)

목차 Contents

• 표지 ... 1
• 연구결과 요약문 ... 2
• 목차 ... 3
• 1. 연구개발과제의 개요 ... 4
• 1) 연구개발 최종 목표 ... 4
• 2) 연차별 연구 목표 ... 4
• 3) 연구의 필요성 ... 4
• 2. 연구개발과제의 수행 과정 및 수행 내용 ... 4
• 1) 1차년도 주요 연구 내용 ... 4
• 2) 2차년도 주요 연구 내용 ... 8
• 3) 3차년도 주요 연구 내용 ... 10
• 3. 연구개발과제의 수행 결과 및 목표 달성 수준 ... 11
• 1) 정성적 연구개발성과(연구개발결과) ... 11
• 2) 세부 정량적 연구개발성과 ... 12
• 3) 목표 달성 수준 ... 12
• 4. 연구개발성과의 관련 분야에 대한 기여 정도(연구개발결과의 중요성) ... 13
• 5. 연구개발성과의 관리 및 활용 계획 ... 13
• 6. 자체점검표 ... 14
• 7. 참고문헌 ... 14
• 끝페이지 ... 30