[논문]유전 알고리즘을 이용한 임베디드 프로세서 기반의 머신러닝 알고리즘에 관한 연구

이소행; 석경휴

doi:10.13067/jkiecs.2024.19.2.417

유전 알고리즘을 이용한 임베디드 프로세서 기반의 머신러닝 알고리즘에 관한 연구
A Study on Machine Learning Algorithms based on Embedded Processors Using Genetic Algorithm 원문보기

한국전자통신학회 논문지 = The Journal of the Korea Institute of Electronic Communication Sciences, v.19 no.2, 2024년, pp.417 - 426

이소행 (순천대학교 SW중심대학사업단) , 석경휴 (순천대학교 SW중심대학사업단)

초록
AI-Helper

일반적으로 머신러닝을 수행하기 위해서는 딥러닝 모델에 대한 사전 지식과 경험이 필요하고, 데이터를 연산하기 위해 고성능 하드웨어와 많은 시간이 필요하게 된다. 이러한 이유로 머신러닝은 임베디드 프로세서에서 실행하기에는 많은 제약이 있다.본 논문에서는 이러한 문제를 해결하기 위해 머신러닝의 과정 중 콘볼루션 연산(Convolution operation)에 유전 알고리즘을 적용하여 선택적 콘볼루션 연산(Selective convolution operation)과 학습 방법을 제안한다. 선택적 콘볼루션 연산에서는 유전 알고리즘에 의해 추출된 픽셀에 대해서만 콘볼루션을 수행하는 방식이다. 이 방식은 유전 알고리즘에서 지정한 비율만큼 픽셀을 선택하여 연산하는 방식으로 연산량을 지정된 비율만큼 줄일 수 있다. 본 논문에서는 유전 알고리즘을 적용한 머신러닝 연산의 심화학습을 진행하여 해당 세대의 적합도가 목표치에 도달하는지 확인하고 기존 방식의 연산량과 비교한다. 적합도가 충분히 수렴할 수 있도록 세대를 반복하여 학습하고, 적합도가 높은 모델을 유전 알고리즘의 교배와 돌연변이를 통해 다음 세대의 연산에 활용한다.

Abstract ▼ AI-Helper

In general, the implementation of machine learning requires prior knowledge and experience with deep learning models, and substantial computational resources and time are necessary for data processing. As a result, machine learning encounters several limitations when deployed on embedded processors. To address these challenges, this paper introduces a novel approach where a genetic algorithm is applied to the convolution operation within the machine learning process, specifically for performing a selective convolution operation.In the selective convolution operation, the convolution is executed exclusively on pixels identified by a genetic algorithm. This method selects and computes pixels based on a ratio determined by the genetic algorithm, effectively reducing the computational workload by the specified ratio. The paper thoroughly explores the integration of genetic algorithms into machine learning computations, monitoring the fitness of each generation to ascertain if it reaches the target value. This approach is then compared with the computational requirements of existing methods.The learning process involves iteratively training generations to ensure that the fitness adequately converges.

주제어

표/그림 (15)

그림 그림 1. 유전 알고리즘 플로우차트 Fig. 1 Flowchart of genetic algorithm
그림 그림 2. 인공신경망의 예 Fig. 2 Example of ANN[3]
그림 그림 3. 유전 알고리즘 기반 선택적 콘볼루션 방법의 제안 Fig. 3 Proposed genetic algorithm-based selective convolution method
그림 그림 4. 가우시안 분포와 식 Fig. 4 Gaussian distribution
그림 그림 5. 가우시안 분포로 선택된 랜덤 마스크 Fig. 5 Random mask selected by the Gaussian mean method
그림 그림 6. 랜덤 픽셀 삭제를 위한 플로우차트 Fig. 6 Floatchart of random pixel disable_1
그림 그림 7. 특성맵 교차연산을 위한 플로우차트 Fig. 7 Floatchart of feature map crossover
그림 그림 8. 랜덤 픽셀 삭제를 위한 플로우차트 Fig. 8 Floatchart of random pixel disable_2
그림 그림 9. 실험을 위한 시스템 구성 Fig. 9 Experimental system configuration diagram
그림 그림 10. 실험을 위한 실험 데이터 Fig. 10 Numeric data for evaluation
그림 그림 11. 7% 픽셀 삭제를 적용하였을 때 연산 Fig. 11 Computation time when applying 7% pixel disable_1
그림 그림 12. 5% 픽셀 삭제를 적용하였을 때 연산 Fig. 12 Computation time when applying 5% pixel disable_1
그림 그림 13. 3% 픽셀 삭제를 적용하였을 때 연산 Fig. 13 Computation time when applying 3% pixel disable_1
표 표 1. 제안된 연산 평균시간 Table 1. Average computation of proposed Algorithm
표 표 2. 픽셀 삭제에 따른 정확도 평균 Table 2. Accuracy average according to pixel disable percentages

참고문헌 (13)

Graziano Crasta, and V. De Cicco, "A chain？rule formula in BV and applications to？conservation laws", HomeSIAM Journal on？Mathematical Analysis 3, 2010, vol 43, pp.？430-456.
John H. Holland, "Genetic Algorithms,"？Scientific American, 1992, vol. 267, no. 1, pp.？66-73.

상세보기
A. M. Saxe, J. L. McClelland, and S. Ganguli.？"Exact solutions to the nonlinear dynamics of？learning in deep linear neural networks."？Proceedings of the International Conference on？Learning Represenatations 2014, pp. 89-112.
P. Sermanet, D. Eigen, X. Zhang, M. Mathieu,？R. Fergus, and Y. LeCun. "Overfeat:？Integrated recognition, localization and？detection using convolutional networks."？International Conference on Learning？Representations, 2014, pp. 78-94.
S. Lawrence, C. Lee Giles, A. C. Tsoi, and A.？D. Back, "Face recognition : a convolutional？neural network approach," IEEE？Transactions on Neural Networks, 1997, vol. 8,？no. 1, pp. 98-113.

상세보기
Y. Bengio and P. Frasconi, "Input-Output？HMMs for sequence processing," IEEE？Transactions on Neural Networks, 1996, vol. 7,？no. 5, pp. 1231-1249.

상세보기
S.H. Kim, Y. G. Kim and W.J. Kim, "The Design？of Method for Efficient Processing of Small Files？in the Distributed System based on Hadoop？Framework," J. of the Korea Institgrte of Electronic？Communication Sciences, vol. 10. no. 10,2015,？pp.1115-1121.
J. Deng, W. Dong, R. Socher, "ImageNet : A？Large-scale hierarchical image database," IEEE,？2009, pp. 245-255.
H. Lee, R. Grosse, R. Ranganath, and A.Y. Ng.？"Convolutional deep belief networks for？scalable unsupervised learning of hierarchical？ representations," In Proceedings of the 26th？Annual International Conference on Machine？Learning of the ACM, 2009, pp. 609-616.？
Krizhevsky, Alex, Ilya Sutskever, and Geoffrey？E. Hinton. "Imagenet classification with deep？convolutional neural networks."？Communications of the ACM, 2017, pp. 84-90.
Kaiming He, Xiangyu Zhang, Shaoqing？Ren, Jian Sun, "Deep residual learning for？image recognition," IEEE, pp. 770-778, 2015
Y. Bengio, P. Simard, and P. Frasconi.,？"Learning long-term dependentcies with？gradient descent is difficult," IEEE？Transactions on Neural Networks, 1994, vol.？5, no. 2, pp. 157-166.
P. Sermanet, D. Eigen, X. Zhang, M. Mathieu,？R. Fergus, and Y. LeCun. "Overfeat:？Integrated recognition, localization and？detection using convolutional networks."？International Conference on Learning？Representations, 2014, pp. 78-94

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증