[논문]연합학습 개방형 플랫폼의 발전과 문제점에 대한 체계적 비교 분석

김진수; 양세모; 이강윤; 이광기

doi:10.7472/jksii.2023.24.4.1

연합학습 개방형 플랫폼의 발전과 문제점에 대한 체계적 비교 분석
Advances and Issues in Federated Learning Open Platforms: A Systematic Comparison and Analysis 원문보기

Journal of Internet Computing and Services = 인터넷정보학회논문지, v.24 no.4, 2023년, pp.1 - 13

김진수 (Innopia Technologies, Inc) , 양세모 (Dept. of Computer Engineering, Gachon University) , 이강윤 (Dept. of Computer Engineering, Gachon University) , 이광기 (Innopia Technologies, Inc)

초록
AI-Helper

연합학습이 현대 인공지능 연구에 큰 패러다임을 가지고 오면서 다양한 분야의 연구에서 연합학습을 접목시키기 위한 노력을 하고 있다. 하지만 연합학습 적용을 위한 연구자들은 자신의 상황과 목적에 맞는 연합학습 프레임워크와 벤치마크 툴을 선택해야 하는 문제에 직면한다. 본 연구는 실제 연합학습을 적용하는 연구자의 상황을 고려한 연합학습 프레임워크 및 벤치마크 툴의 선택 가이드라인 제시를 목표로 한다. 특히, 본 연구에서는 3가지의 주요한 기여점이 존재한다. 첫번째, 연합학습을 적용하는 연구자의 상황을 연합학습의 목표와 결합하여 일반화하고, 각 상황에 적합한 연합학습 프레임워크의 선택 가이드라인을 제안한다. 두번째, 연구자에게 연합학습 프레임워크를 각각의 특징과 성능비교를 통해 선택의 적합성을 보여준다. 마지막으로, 현존하는 연합학습 프레임워크의 한계와 실세계 연합학습 운영을 위한 방안, 특히 생명주기 관리에 대한 플랫폼의 구조에 대해 제안한다.

Abstract ▼ AI-Helper

As federated learning brings a large paradigm to modern artificial intelligence research, efforts are being made to incorporate federated learning into research in various fields. However, researchers who apply federated learning face the problem of choosing a federated learning framework and benchmark tool suitable for their situation and purpose. This study aims to present guidelines for selection of federated learning frameworks and benchmark tools considering the circumstances of researchers who apply federated learning in practice. In particular, there are three main contributions in this study. First, it generalizes the situation of the researcher applying federated learning by combining it with the goal of federated learning and proposes guidelines for selecting a federated learning framework suitable for each situation. Second, it shows the suitability of selection by comparing the characteristics and performance of each federated learning framework to the researcher. Finally, the limitations of the existing federated learning framework and a plan for real-world federated learning operation are proposed.

주제어

표/그림 (11)

그림 (그림 1) 사일로-교차 연합학습과 디바이스-교차 연합학습 비교 (Figure 1) Comparison of Cross-Silo Federated Learning and Cross-Device Federated Learning
그림 (그림 2) 연합학습 연구자 상황 분류 (Figure 2) Federated Learning Researcher Classification
표 (표 1) 연합학습 초기 연구자를 위한 연합학습 프레임워크 비교 분석 (Table 1) Comparative Analysis of Federated Learning Frameworks
표 (표 2) 연합학습 프레임워크 데이터 샘플 및 파티션, 커스텀 형식 비교 표 (Table 2) FL Framework Data Sample and Partition, Custom Format Comparison Table
그림 (그림 3) 시뮬레이션 환경에서 연합학습 프레임워크 성능 비교 (Figure 3) Federated Learning Framework Performance Comparison in Simulation Environment
표 (표 3) 클라이언트 수에 따른 연합학습 프레임워크 수행 시간 비교 표 (Table 3) Comparison Table of Federated Learning Framework Runtime According to the Number of Client
표 (표 4) 연합학습 프레임워크의 집계 최적화 예시 및 클라이언트 선택 모듈화 비교 표 (Table 4) Aggregation Optimization Example of Federated Learning Framework and Client Selection Modularization Comparison Table
표 (표 5) 연합학습 프레임워크의 클라이언트 관리, 모니터링, 상태 확인, 모바일 환경 지원 비교 표 (Table 5) Comparison Table of Client Management, Monitoring, Status Check, and Mobile Example Support of Federated Learning Framework
그림 (그림 4) 실세계에서 연합학습 운영을 위한 연합학습 수명주기관리 플랫폼 구조 (Figure 4) Federated Learning Lifecycle Management Platform Structure for FL Operation in the Real World
그림 (그림 5) Manager Communication Process (Figure 5) Manager Communication Process
그림 (그림 6) Continuous Federated Learning Process (Figure 6) Continuous Federated Learning Process

AI 본문요약
AI-Helper

문제 정의

연합학습 알고리즘 연구자의 경우 연구 방식과 목표가 최적화에서 수식(5)의 연합학습의 규제항(Regularazation term) 연구에 포함된다. 클라이언트의 업데이트 방식을 개선하거나 서버의 모델 통합 과정에서 가중치를 추가하여 성능을 향상시키는 것이 목표이다.

제안 방법

그리고 현존하는 벤치 마크 툴과 오픈 소스 프레임워크, 데이터에 대해 설명한다. 3.연합학습 프레임워크 선택 가이드라인에서는 연합 학습 적용을 위한 연구자의 상황을 4가지로 분류하고 각 상황에 맞는 벤치마크 툴과 오픈 소스 프레임워크를 제안한다. 4.
본 연구에서는 연합학습 연구자 상황을 연합학습 목적함수 최적화 수식과 연관지어서 4가지 상황으로 일반화시키고, 각 상황에 발생할 수 있는 질문들과 연관지어 비교 실험을 통해 연합학습 프레임워크를 선택할 수 있는 가이드라인을 제안하였다. 활발히 개발 및 관리되는 Flower와 FedML, Fate의 경우에는 대부분의 상황에서 가장 많이 언급된 프레임워크이다.

데이터처리

등록된 클라이언트에 내에서 선택하여 연합학습을 실행할 수 있다. 연합학습에 대한 결과는 로그와 모니터링 대쉬보드를 제공하여 연합학습 성능을 비교 분석할 수 있다. 하지만, FedML 역시 실제 산업 및 연구에서 발생하는 각 클라이언트의 실시간 데이터를 처리하고 로컬 모델에 적용하여 자동적으로 연합학습을 운영 관리할 수 없다는 한계점이 존재한다.

후속연구

이 상황의 연구자는 다양한 프레임워크들의 장단점을 비교하여 선택을 하는 경우 연구의 첫 걸음에서는 좋은 방향일 수 있지만, 프레임워크의 숙련도가 높아진 상황이라면 구조를 이해하고 자신의 손에 맞는 프레임워크를 사용하는 것이 더 좋은 결과를 볼 수 있는 방법일 수 있다. 또한, 프레임워크 성능 실험을 통해서 프레임워크 선택을 고려한다면 본 논문에서는 시뮬레이션 환경에서 정확도와 소요 시간을 비교한 실험이기 때문에 연합학습의 중요 변수들(통신비용, 로컬 디바이스 성능)에 대해서는 고려되지 않았다는 한계점을 인지해야 한다.
본 연구에서는 연합학습 프레임워크 비교와 실용적인 가이드를 중심으로 진행되었지만, 추후 이어지는 연구에서는 각 프레임워크의 한계점을 보완하고 다양한 분야에서 통합적으로 사용되는 프레임워크 설계 및 개발하는것을 목표로 나아갈 것이다.
세번째, 현존하는 연합학습 프레임워크의 한계와 실세계 연합학습 운영을 생명주기 관리 플랫폼의 구체적인 구성을 제안한다.
데이터 및 모델 연구자들은 데이터를 제공해 주거나 모델을 기본적으로 제공해주는 프레임워크 및 벤치마크툴을 선호할 것이다. 추가적으로 연합학습의 데이터의 이질성(Data Heterogeneity)를 위한 파티션 기능을 제공하거나 자신이 실험하고 싶은 커스텀 데이터와 모델을 쉽게 프레임워크에 적용시킬 수 있다면 좋은 선택지가 될 수 있을 것이다.

참고문헌 (21)

Keith Bonawitz, Hubert Eichner, Wolfgang Grieskamp,？Dzmitry Huba, Alex Ingerman, Vladimir Ivanov, Chloe？Kiddon, Jakub Konecny, Stefano Mazzocchi, Brendan？McMahan, Timon Van Overveldt, David Petrou, Daniel？Ramage, Jason Roselander, "Towards Federated？Learning at Scale: System Design", Proceedings of？Machine Learning and Systems, Vol. 1, pp. 374-388,？2019.？https://arxiv.org/abs/1902.01046
Tian Li, Anit Kumar Sahu, Manzil Zaheer, Maziar？Sanjabi, Ameet Talwalkar, and Virginia Smith.？Federated optimization in heterogeneous networks. In？Third Conference on Machine Learning and Systems？(MLSys), 2020. https://arxiv.org/abs/1812.06127
Bingyan Liu, Nuoyan Lv, Yuanchun Guo, Yawen Li,？"Recent Advances on Federated Learning: A？Systematic Survey", arXiv, 2023.？https://doi.org/10.48550/arXiv.2301.01299
Chen Zhang, Yu Xie, Hang Bai, Bin Yu, Weihong Li,？Yuan Gao, "A survey on federated learning",？Knowledge-Based Systems, Vol. 216, 2021.？https://doi.org/10.1016/j.knosys.2021.106775

상세보기
Ahmed Saidanim, "A Systematic Comparison of？Federated Machine Learning Libraries",？DEPARTMENT OF INFORMATICS TECHNISCHE？UNIVERSITAT MuNCHEN, 2023.
Xiaoyuan Liu, Tianneng Shi, Chulin Xie, Qinbin Li,？Kangping Hu, Haoyu Kim, Xiaojun Xu, Bo Li, Dawn？Song, "UniFed: A Benchmark for Federated Learning？Frameworks", arXiv, 2022.？https://doi.org/10.48550/arXiv.2207.10308
Fan Lai, Yinwei Dai, Sanjay S. Singapuram, Jiachen？Liu, Xiangfeng Zhu, Harsha V. Madhyastha, Mosharaf？Chowdhury, "FedScale: Benchmarking Model and？System Performance of Federated Learning at Scale",？International Conference on Machine Learning (ICML),？2022. https://doi.org/10.48550/arXiv.2105.11367
https://github.com/OnizukaLab/FedBench
Yuexiang Xie, Zhen Wang, Dawei Gao, Daoyuan？Chen, Liuyi Yao, Weirui Kuang, Yaliang Li, Bolin？Ding, Jingren Zhou, "FederatedScope: A Flexible？Federated Learning Platform for Heterogeneity", arXiv,？2022. https://doi.org/10.48550/arXiv.2204.05011
W. Zhuang, X. Gan, Y. Wen and S. Zhang, "EasyFL:？A Low-Code Federated Learning Platform for？Dummies," in IEEE Internet of Things Journal, vol. 9,？no. 15, pp. 13740-13754, 1 Aug.1, 2022.？https://doi.org/10.1109/JIOT.2022.3143842

상세보기
https://github.com/tensorflow/federated
Mohammad Al-Quraan, Ahsan Khan, Anthony Centeno,？Ahmed Zoha, Muhammad Ali Imran, Lina Mohjazi,？"FedTrees: A Novel Computation-Communication？Efficient Federated Learning Framework Investigated in？Smart Grids", arXiv, 2022.？https://doi.org/10.48550/arXiv.2210.00060
Mirian Del Carmen Hipolito Garcia, Andre Manoel,？Daniel Diaz Madrigal, Robert Sim, Dimitrios？Dimitriadis, "FLUTE: A Scalable, Extensible？Framework for High-Performance Federated Learning？Simulations", NeurIPS, 2022.？https://doi.org/10.48550/arXiv.2203.13789
https://github.com/FederatedAI/FATE
Chaoyang He, Songze Li, Jinhyun So, Xiao Zeng, Mi？Zhang, Hongyi Wang, Xiaoyang Wang, Praneeth？Vepakomma, Abhishek Singh, Hang Qiu, Xinghua Zhu,？Jianzong Wang, Li Shen, Peilin Zhao, Yan Kang, Yang？Liu, Ramesh Raskar, Qiang Yang, Murali Annavaram,？Salman Avestimehr, "FedML: A Research Library and？Benchmark for Federated Machine Learning", arXiv,？2020. https://doi.org/10.48550/arXiv.2007.13518
Daniel J. Beutel, Taner Topal, Akhil Mathur, Xinchi？Qiu, Javier Fernandez-Marques, et al. "FLOWER: A？FRIENDLY FEDERATED LEARNING FRAMEWORK".？2022. https://hal.science/hal-03601230
https://github.com/PaddlePaddle/PaddleFL
Sebastian Caldas, Sai Meher Karthik Duddu, Peter Wu,？Tian Li, Jakub Konecny, H. Brendan McMahan,？Virginia Smith, Ameet Talwalkar, "LEAF: A？Benchmark for Federated Settings", arXiv, 2019.？https://doi.org/10.48550/arXiv.1812.01097
Jianyu Wang, Qinghua Liu, Hao Liang, Gauri Joshi,？and H. Vincent Poor, "Tackling the objective？inconsistency problem in heterogeneous federated？optimization", Proceedings of the 34th International？Conference on Neural Information Processing Systems？(NIPS'20), No. 638, pp. 7611-7623, 2020.？https://doi.org/10.48550/arXiv.2007.07481
Daoyuan Chen, Dawei Gao, Weirui Kuang, Yaliang Li,？Bolin Ding, "pFL-Bench: A Comprehensive Benchmark？for Personalized Federated Learning", arXiv, 2022.？https://doi.org/10.48550/arXiv.2206.03655
Fan Lai, Xiangfeng Zhu, Harsha V. Madhyastha,？Mosharaf Chowdhury, "Oort: Efficient Federated？Learning via Guided Participant Selection", arXiv,？2020. https://doi.org/10.48550/arXiv.2010.06081？

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증