선택한 단어 수는 입니다.
최소 단어 이상 선택하여야 합니다.
최소 단어 이상 선택하여야 합니다.
선택한 단어 수는 30입니다.
최대 10 단어까지만 선택 가능합니다.
최대 10 단어까지만 선택 가능합니다.
제안 방법
- 구조가 변경된 서버리스 플랫폼의 성능은 인공지능 모델 중 객체 검출 모델인 SSD 의 TensorFlow 구현체를 이용하여 추론 시간을 측정하였다. 실험은 100회의 요청에 대한 응답 시간을 측정하였고 응답 시간들의 표준편차를 계산하였다.
- 본 논문에서는 오픈소스 서버리스 플랫폼에서 엔비디아-도커, k&s-device-plugin 함수 구조의 변경을 통해서 GPU 지원을 가능하게 하였다. 또한 이러한 함수 구조의 변경의 성능을 측정하기 위하여 인공지능 모델 중 객체 검출 모델인 SSD 를 통해서 함수 구조별 응답 지연시간을 측정하여 변경된 서버리스 플랫폼이 인공지능 모델을 배포하기 더 적합한 플랫폼이라는 것을 검증하였다.
- 이 문제를 해결하기 위해서 엔비디아는 도커에서 하드웨어와 소프트웨어에 약한 의존성을 갖는 엔비디아 컨테이너 런타임을 개발하였다.
- 서버리스의 무상태성은 인공지능 모델 추론 시 일회성으로 호출되는 모델 객체 선언, 가중치 로드를 반복적으로 실행하도록 하며 이러한 반복적 실행은 응답 시간을 지연시킨다. 이를 해결하기 위하여 파인썬의 호출 가능한 객체(Callable Object)를 이용하는 방식으로 함수 구조를 변경하였다.
데이터처리
- 구조가 변경된 서버리스 플랫폼의 성능은 인공지능 모델 중 객체 검출 모델인 SSD 의 TensorFlow 구현체를 이용하여 추론 시간을 측정하였다. 실험은 100회의 요청에 대한 응답 시간을 측정하였고 응답 시간들의 표준편차를 계산하였다.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.