초록 ▼

본 개시는 2022년도 정부(과학기술정보통신부)의 재원으로 '정보통신기획평가원'의 지원을 받아 수행된 연구이다(No. 2020-0-00844, 엣지 서버 시스템 자원 관리 및 제어를 위한 경량 시스템 소프트웨어 기술 개발).본 발명은 이종의 AI 연산 프로세서를 대상으로 쉽고 편리하게 가속을 수행하고, 수행한 가속의 성능을 평가할 수 있는 인터페이스 시스템에 대한 것으로, 다양한 프레임워크들을 대상으로 하나의 가속화 툴킷을 이용하여 다양한 제조사의 AI 연산 프로세서의 가속을 수행하고, 업로드 된 딥러닝 학습 모델과 데이터 세트를

본 개시는 2022년도 정부(과학기술정보통신부)의 재원으로 '정보통신기획평가원'의 지원을 받아 수행된 연구이다(No. 2020-0-00844, 엣지 서버 시스템 자원 관리 및 제어를 위한 경량 시스템 소프트웨어 기술 개발).본 발명은 이종의 AI 연산 프로세서를 대상으로 쉽고 편리하게 가속을 수행하고, 수행한 가속의 성능을 평가할 수 있는 인터페이스 시스템에 대한 것으로, 다양한 프레임워크들을 대상으로 하나의 가속화 툴킷을 이용하여 다양한 제조사의 AI 연산 프로세서의 가속을 수행하고, 업로드 된 딥러닝 학습 모델과 데이터 세트를 이용하여 다양한 환경 설정 값에 따라 복수의 실행을 수행한 경우에 추론 결과 정보를 이용하여 딥러닝 학습 모델과 데이터 세트에 가장 적합한 환경 설정 값을 추천하는 기술을 제공하는데 그 목적이 있다.

대표청구항 ▼

프로세서를 이용하여 구현된 AI 연산 프로세서 가속 성능 평가 인터페이스 시스템에 있어서,딥러닝 학습 모델 업로드, 데이터 세트 업로드, 추론 실행 중 하나의 과업에 대한 선택이 가능하도록 과업 선정 화면을 사용자에게 제공하고 사용자로부터 진행할 과업을 입력 받는 과업 메뉴 선정부;딥러닝 모델 및 딥러닝 모델 업로드 정보를 입력 받고, 상기 딥러닝 모델을 대상으로 딥러닝 모델 업로드 정보에 따라 최적화 변환을 수행하며, 변환된 상기 딥러닝 모델 및 딥러닝 모델 업로드 정보를 업로드하는 딥러닝 모델 업로드부;입력 받은 데이터 세트 및

프로세서를 이용하여 구현된 AI 연산 프로세서 가속 성능 평가 인터페이스 시스템에 있어서,딥러닝 학습 모델 업로드, 데이터 세트 업로드, 추론 실행 중 하나의 과업에 대한 선택이 가능하도록 과업 선정 화면을 사용자에게 제공하고 사용자로부터 진행할 과업을 입력 받는 과업 메뉴 선정부;딥러닝 모델 및 딥러닝 모델 업로드 정보를 입력 받고, 상기 딥러닝 모델을 대상으로 딥러닝 모델 업로드 정보에 따라 최적화 변환을 수행하며, 변환된 상기 딥러닝 모델 및 딥러닝 모델 업로드 정보를 업로드하는 딥러닝 모델 업로드부;입력 받은 데이터 세트 및 상기 데이터 세트 정보, 데이터 수, 데이터 형식 중 적어도 하나를 포함하는 데이터 세트 업로드 정보를 업로드하는 데이터 세트 업로드부; 및AI 연산 프로세서의 가속화 툴킷 정보 및 추론 필요 정보를 입력 받고, 상기 가속화 툴킷에서 호환이 가능하도록 상기 추론 필요 정보를 이용하여 추론 코드를 생성하며, 상기 추론 코드에 따라 상기 딥러닝 모델을 통해 상기 데이터 세트에 대한 추론을 실행하고 추론 결과를 출력하는 추론 실행부를 포함하는 것을 특징으로 하는 AI 연산 프로세서 가속 성능 평가 인터페이스 시스템.