최소 단어 이상 선택하여야 합니다.
최대 10 단어까지만 선택 가능합니다.
다음과 같은 기능을 한번의 로그인으로 사용 할 수 있습니다.
NTIS 바로가기전기전자학회논문지 = Journal of IKEEE, v.24 no.2, 2020년, pp.514 - 522
박성현 (Dept. of Embedded Systems Engineering, Incheon National University) , 강석훈 (Dept. of Embedded Systems Engineering, Incheon National University)
In Continuous Learning environment, we identify that the Catastrophic Forgetting phenomenon, which forgets the information of previously learned data, occurs easily between data having different domains. To control this phenomenon, we introduce how to measure the relationship between previously lear...
핵심어 | 질문 | 논문에서 추출한 답변 |
---|---|---|
CL 관련 기술의 특징 중 하나는 무엇인가? | CL(Continuous Learning)은 새로운 환경에 적응 하고 복잡한 기술과 지식을 습득할 수 있는 인공지 능 에이전트를 생성하기 위한 중요한 단계이다[1]. CL 관련 기술의 특징 중 하나는 최신 데이터를 사 용하여 모델을 계속 업데이트해야 한다는 것이다. 그러나 이전 학습 데이터를 메모리에 계속 보존하 며 학습하는 것은, 시스템의 구현 관점에서 힘든 것이다. | |
Permuted MNIST 데이터는 무엇인가? | 이를 확인할 실험에 앞서 검증을 위한 Permuted MNIST 데이터를 추가로 사용하였다. 그림 5에 나타 낸 것과 같이, Permuted MNIST 데이터는 MNIST 이미지의 픽셀 순서를 고정된 패턴으로 재배열하 여 새로운 Task의 학습 데이터로 사용한다. 이는 새로운 Task에서 이전의 Task와 형태가 다른 이 미지 데이터를 사용한 것과 같은 효과를 낸다. | |
치명적 망각 (Catastrophic Forgetting) 현상은 언제 더 심해지는가? | 그러나 치명적 망각은 여전히 효과적인 CL 구 현을 향한 주요 장애물이다. 특히 새로운 데이터가 이전 데이터의 분포와 상반된 분포를 보인다면 이러한 현상은 더 심해지게 된다[3, 4]. 망각현상을 제어하기 위해서는 이전 데이터와 새로운 데이터 를 같이 고려하는 방법이 필요하다. |
IJ. Goodfellow, et al., "An empirical investigation of catastrophic forgetting in gradient-based neural networks," arXiv preprint arXiv:1312.6211, 2013.
RM. French, "Catastrophic forgetting in connectionist networks," Trends in cognitive sciences, Vol.3, No.4, pp.128-135, 1999. DOI: 10.1016/S1364-6613(99)01294-2
J. Kirkpatrick, et al., "Overcoming catastrophic forgetting in neural networks," Proceedings of the national academy of sciences, Vol.114, No.13, pp.3521-3526, 2017. DOI: 10.1073/pnas.1611835114
YC. Hsu, et al., "Re-evaluating continual learning scenarios: A categorization and case for strong baselines," arXiv preprint arXiv:1810.12488, 2018.
V. Lomonaco, and D. Maltoni, "Core50: a new dataset and benchmark for continuous object recognition," arXiv preprint arXiv:1705.03550, 2017.
D. Maltoni, and V. Lomonaco, "Continuous learning in single-incremental-task scenarios," Neural Networks, Vol.116, pp.56-73, 2019. DOI: 10.1016/j.neunet.2019.03.010
Y. LeCun, et al., "Gradient-based learning applied to document recognition," Proceedings of the IEEE, Vol.86, No.11, pp.2278-2324, 1998. DOI: 10.1109/5.726791
G. Cohen, et al. "EMNIST: Extending MNIST to handwritten letters," In: 2017 International Joint Conference on Neural Networks (IJCNN). IEEE, pp.2921-2926, 2017. DOI: 10.1109/IJCNN.2017.7966217
GI. Parisi, et al., "Continual lifelong learning with neural networks: A review," Neural Networks, 2019. DOI: 10.1016/j.neunet.2019.01.012.
R Kemker, et al, "Measuring catastrophic forgetting in neural networks," In: Thirty-second AAAI conference on artificial intelligence. 2018.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.