초록 ▼

□ 연구개발 목표 및 내용
◎ 최종 목표
ㅇ PIM을 활용하는 소프트웨어 개발자들을 위한 프로그래밍 방법, 프로그래밍 언어 개발
ㅇ 다양한 PIM 프로세서에 대응 가능한 PIM 시스템 소프트웨어 프레임워크 개발
ㅇ 프로그램의 정적, 동적 분석을 통해 PIM 활용 시 어플리케이션의 성능을 극대화하는 소프트웨어 프레임워크 개발
ㅇ PIM 모델의 연산 및 구조적 특성을 반영하는 다종의 PIM에 대한 통합형 중간언어 개발 및 최적화
ㅇ 다종의 PIM 하드웨어의 메모리 및 마이크로아키텍처에 대한 실험이 가능한

□ 연구개발 목표 및 내용
◎ 최종 목표
ㅇ PIM을 활용하는 소프트웨어 개발자들을 위한 프로그래밍 방법, 프로그래밍 언어 개발
ㅇ 다양한 PIM 프로세서에 대응 가능한 PIM 시스템 소프트웨어 프레임워크 개발
ㅇ 프로그램의 정적, 동적 분석을 통해 PIM 활용 시 어플리케이션의 성능을 극대화하는 소프트웨어 프레임워크 개발
ㅇ PIM 모델의 연산 및 구조적 특성을 반영하는 다종의 PIM에 대한 통합형 중간언어 개발 및 최적화
ㅇ 다종의 PIM 하드웨어의 메모리 및 마이크로아키텍처에 대한 실험이 가능한 cycle-accurate 시뮬레이터 개발
ㅇ 연구개발 과제의 목표 인도물
- 다양한 PIM 하드웨어 활용을 지원하는 통합 프로그래밍 개발 환경 및 소프트웨어 프레임워크
- 다양한 PIM 프로그래밍 언어를 지원하는 중간언어 및 컴파일러
- 다양한 PIM 구조의 성능 및 전력 소모량을 정확하게 측정하는 시뮬레이터

◎ 전체 내용
ㅇ 본 연구에서는 PIM 소프트웨어 개발자들을 위한 프로그래밍 방법을 제공하는 것을 목표
- PIM 기반 시스템이 컴퓨터 시스템에서 널리 활용되기 위해서는 PIM 전용 소프트웨어 생태계 구축이 필수적임. 하지만, PIM 하드웨어 개발에 비하여 상대적으로 PIM 지원 프로그래밍 방법, PIM 지원 프로그래밍 언어 및 컴파일러 개발은 매우 부진한 상황임.
- PIM 내부에 포함되는 프로세서 또는 프로세싱 로직의 경우 호스트 CPU에 종속되어 있지만 다른 바이너리를 구동하는 이종 코어의 형식으로 구현됨. 따라서, 그 프로그램의 구동이 전통적인 방법과 많은 차이가 있음.
- 현재까지 개발된 PIM 하드웨어 구조는 연산기와 메모리 구조에 대해 다양한 모델이 존재함. 이는 어플리케이션을 가속하기 위해 요구되는 최적의 PIM 연산기 구조 및 메모리의 물리적 특성이 다르기 때문임. 이러한 다양한 형태의 PIM 하드웨어 구조로 인해 이를 효과적으로 지원하는 프로그래밍 방법 및 언어의 개발이 매우 난해함.
- 본 과제에서는 이러한 이종 코어 간의 종속성과 병렬성을 지원할 수 있는 프로그래밍 방법 및 언어 개발과 그 성능 평가를 주요 내용으로 진행 하고자 함.
ㅇ 이를 위해 제안하는 통합형 PIM 소프트웨어는 다양한 하드웨어 구조를 고려한 다수의 프로그래밍 언어를 지원(MLSS: Multiple-Language Single-Software), 다양한 PIM 하드웨어 모델을 그룹화하고 통합 컴파일러 환경을 제공(SSMP: Single-Software Multiple-PIM)
- 제안된 PIM 소프트웨어 개발 환경은 PIM 하드웨어의 사용자를 위해 상위 PIM 프로그래밍 언어를 최적화된 하위 PIM 명령어로 변환할 수 있음. 또한, 하드웨어 최적화를 원하는 사용자를 위해 PIM 하드웨어 구조에 최적화된 명령어와 API 등을 통한 사용자 수준의 PIM 소프트웨어 최적화 또한 수행 가능함.
- 제안하는 개발 환경은 전체 소프트웨어 계층을 포괄하는 플랫폼으로 PIM 향 알고리즘부터 PIM 하드웨어를 관리하는 드라이버까지 포함한 통합 솔루션을 제공. 또한 PIM 하드웨어 개발 환경인 PIM Development Kit(PDK)를 제공하여 PIM 시스템에 대한 에뮬레이션 및 PIM 소프트웨어의 기능성을 평가할 수 있음.

◎ 1단계
● 목표
ㅇ C 언어에 대해 호환 가능한 PIM 프로그래밍 프레임워크
ㅇ 이종 프로세서용 언어(CUDA) 및 병렬 언어(OpenMP)를 통합적으로 지원하는 PIM 프로그래밍 프레임워크 개발
ㅇ 사용자에게 PIM 하드웨어 종류 및 구성에 상관없이 동일한 프로그래밍 방식을 지원하는 PIM 프로그래밍 프레임워크 개발
ㅇ 프로그램 프로파일링을 통해 정적 워크로드 배치가 가능한 정적 PIM 프로세싱 소프트웨어 개발
ㅇ PIM 하드웨어 모니터링을 통해 동적 워크로드 배치가 가능한 동적 PIM 프로세싱 소프트웨어 개발
ㅇ PIM 확장 언어를 입력받아 중간 언어로 변환 가능한 컴파일러 개발
ㅇ 중간 언어를 PIM 모델의 종류 및 특성에 따라 최적화한 기계어를 생성하는 어셈블러 개발
ㅇ PIM 하드웨어의 주요 요소를 정확하게 모델링한 메모리, 마이크로 아키텍처 시뮬레이터 개발

● 내용
<1차년도>
ㅇ 다양한 PIM 하드웨어에 대해 구분 없이 지원 가능한 확장형 PIM 프로그래밍 언어 모델 개발
ㅇ PIM SW 프레임워크 설계를 위한 기존 PIM의 하드웨어를 설계에 따라 분류하고, 내재적 특성들을 파악
ㅇ PIM 컴파일러 설계를 위한 PIM 명령어와 특징적인 함수 분석 CPU와 PIM의 연산 특성의 차이를 구분 짓는 중간 언어를 설계
ㅇ 정적 PIM 할당 소프트웨어 개발을 목표로 어플리케이션들의 메모리 활용에 대한 프로파일링 실시
ㅇ 동적 PIM 할당 소프트웨어 개발을 목표로 PIM에서 명령어들을 실행 시 발생하는 성능 병목 현상을 찾아내도록 동적 PIM 성능 분석
ㅇ 개발된 PIM 프로그래밍 언어를 사용자 중심의 확장성 있는 프레임워크로 확장
ㅇ PIM 소프트웨어 평가를 위한 기존 PIM 기반 아키텍처 분류 및 하드웨어 성능 모델링
ㅇ PIM 소프트웨어 평가를 위한 각 단계의 PIM 구조에 대한 성능을 개별적으로 정확하게 모델링 할 수 있는 시뮬레이터 개발
ㅇ PIM 소프트웨어 활성화를 위한 Big data 시스템 및 병렬 프로그램 최적화 알고리즘 개발
ㅇ Analog-PIM 시뮬레이션의 정합성 확보를 위한 다양한 저항성 메모리 디바이스의 물성 및 PIM 환경 모델링
ㅇ PIM logic 시뮬레이션의 정합성 확보를 위한 다양한 digital logic의 성능 및 동작 사이클 모델링

<2차년도>
ㅇ PIM 프레임워크 확장을 위한 GPU 프로그래밍 언어 CUDA 분석 진행
ㅇ PIM 프레임워크에 CUDA 언어를 지원하여 이종 코어에서의 병렬 특성을 PIM에서 활용할 수 있도록 개발
ㅇ 중간 언어 설계를 바탕으로 LLVM, MLIR을 이용하여 PIM을 지원하기 위한 다계층 중간언어를 구현
ㅇ 구현한 중간언어에 대하여 여러 PIM 모델에 맞추어 동작할 수 있도록 고도화
ㅇ 정적 PIM 할당 소프트웨어를 위한 데이터 간섭 그래프에 대한 분할 알고리즘을 개발
ㅇ 그래프에 대한 분할 알고리즘에서 그래프의 특성에 따라 단일계층 분할이 아닌 다단계 분할을 수행
ㅇ 동적 PIM 할당 소프트웨어를 위한 PIM 데이터를 최적의 배치 방식에 따라 실시되는 runtime 재배치 기술 개발
ㅇ PIM 소프트웨어 평가를 위한 메모리 구조 단계별로 PIM 기술을 적용한 복합 PIM 구조를 시뮬레이션 할 수 있는 시뮬레이터 개발
ㅇ PIM 소프트웨어 활성화를 위한 DNN 알고리즘 재구성 기술 개발
ㅇ PIM 시뮬레이터의 통합으로 인해 새롭게 생겨나는 성능 및 통계 값을 고려할 수 있도록 시뮬레이터를 확장 설계
ㅇ PIM 시뮬레이터가 통합되면 발생하는 새로운 통계값과 각 모듈간의 간섭으로 인한 성능 측정 함수의 변화를 고려하여 시뮬레이터를 수정

◎ 2단계
● 목표
ㅇ C 및 Python와 호환 가능한 PIM 프로그래밍 프레임워크
ㅇ 이종 프로세서용 언어 (CUDA, OpenCL) 및 병렬 언어 (OpenMP)를 통합적으로 지원하는 PIM 프로그래밍 프레임워크 개발
ㅇ 사용자에게 PIM 하드웨어 종류 및 구성에 상관없이 동일한 프로그래밍 방식을 지원하는 PIM 프로그래밍 프레임 워크 개발
ㅇ 프로그램 프로파일링을 통해 정적 워크로드 배치가 가능한 정적 PIM 프로세싱 소프트웨어 개발
ㅇ PIM 하드웨어 모니터링을 통해 동적 워크로드 배치가 가능한 동적 PIM 프로세싱 소프트웨어 개발
ㅇ PIM 확장 언어를 입력받아 중간 언어로 변환 가능한 컴파일러 개발
ㅇ 중간 언어를 PIM 모델의 종류 및 특성에 따라 최적화한 기계어를 생성하는 어셈블러 개발
ㅇ Big data analysis, Deep Neural Network (DNN) 등 데이터센터 규모를 갖는 어플리케이션에 대한 PIM 향 알고리즘 분석 및 개발
ㅇ PIM 하드웨어의 주요 요소를 정확하게 모델링한 메모리, 마이크로 아키텍처 시뮬레이터 개발

● 내용
<3차년도>
ㅇ PIM 프레임 워크에서 OpenCL 언어를 확장 지원하기 위한 분석 및 개발 진행
ㅇ PIM 프레임 워크가 Python을 구동 언어로 지원할 수 있도록 개발
ㅇ PIM 컴파일러를 위한 프로파일링을 통한 최적화 수준 검증 및 단계별 최적화 진행
ㅇ 향후 추가된 PIM 모델에 대한 컴파일러 지원을 위한 컴파일러 자동 구현 모듈 설계
ㅇ 정적 PIM 할당 소프트웨어의 고도화
ㅇ 동적 PIM 할당 소프트웨어의 고도화
ㅇ PIM 소프트웨어의 평가를 위한 시뮬레이션 환경의 고도화
ㅇ PIM 소프트웨어의 활성화를 위한 알고리즘 고도화
ㅇ 상위 과제에서 개발한 새로운 디자인 포인트를 포함한 end-to-end PIM 시뮬레이터 개발
ㅇ 2차년도 및 앞 과제에서 개발한 새로운 디자인 포인트를 고려하여 보다 효율적이고 빠르며, 정확한 시뮬레이션이 가능하도록 리팩토링 수행
ㅇ 완성된 시뮬레이터를 사용하여 연산기, 데이터 버스, 메모리 스펙을 조절해 가며 성능 향상의 변곡점을 분석

□ 연구개발성과
ㅇ PIM 프로그래밍 프레임워크 개발
ㅇ PIM 중간언어 및 컴파일러 개발
ㅇ PIM 하드웨어를 모델링한 메모리, 마이크로 아키텍처 시뮬레이터 개발

□ 연구개발성과 활용계획 및 기대 효과
ㅇ 활용 계획
- PIM 에코시스템 구축에 활용. 세계적인 메모리 생산 회사를 갖고 있는 현 상황에서 Processor-in-Memory 제품의 활성화는 산업 전반에 끼칠 영향이 적지 않을 것으로 판단됨. 본 과제에서 개발된 소프트웨어 기술은 PIM 제품의 상용화 성공 여부를 결정할 중요한 요소로 생각되며, 향후 개발 될 PIM 하드웨어의 응용 및 성능향상에 활용될 수 있음.
- 데이터센터 시스템 유지 보수 분야에 활용: PIM 소프트웨어를 포괄하는 시뮬레이터는 데이터센터에 대한 비용 모델링 뿐 아니라 데이터센터의 목적, 구조, 예산에 맞는 최적의 PIM 구조의 제안을 가능케 함.
ㅇ 기대 효과
- 딥러닝/Big data 어플리케이션 개발에 기여: 다양한 딥러닝/Big data 분석 관련 알고리즘의 특성 및 PIM 최적화를 통해 얻은 알고리즘 재구성 기술을 통해, 유사한 패턴을 가지는 새로운 타입의 응용에도 빠르게 PIM을 활용할 수 있게 될 것으로 전망 함.
- 인공지능 기반 서비스의 사업화에 기여: 인공지능 알고리즘의 발전으로 인공지능 기반의 다양한 서비스 산업 전반이 확대되고 있음. PIM 소프트웨어의 개발을 통하여 비PIM 시스템과 대비하여 PIM의 경쟁력을 갖추면 프로세서와 메모리로 구성돼있던 컴퓨팅 시스템이 통합돼 하드웨어 가격 부담을 줄일 수 있음. 시스템 구성 및 하드웨어에 대한 가격 부담이 줄어들면 인공지능 서비스를 더 활성화 할 수 있음.
- PIM 기반 기술의 산업화에 기여: 이 연구에서 제시한 PIM에 대한 통합 소프트웨어 지원은 PIM의 개발 진입 장벽을 낮추는 효과가 있고 PIM 연구의 확산에 도움을 줄 것으로 보임. 다양한 PIM 기기와 어플리케이션에 대한 분석, DRAM 병렬성과 PIM 병렬성의 접목 등의 PIM 시스템에 대한 분석은 다양한 PIM 선행 기술 개발로 파생될 수 있을 것으로 기대됨.

(출처 : 요약문 3p)

목차 Contents

• 표지 ... 1
• 최종보고서 ... 2
• 요 약 문 ... 3
• 목차 ... 8
• 1. 연구개발과제의 개요 ... 9
• 2. 연구개발과제의 수행 과정 및 수행 내용 ... 11
• 3. 연구개발과제의 수행 결과 및 목표 달성 정도 ... 40
• 1) 연구수행 결과 ... 40
• 2) 목표 달성 수준 ... 69
• 4. 목표 미달 또는 미흡한 사항에 대한 원인분석 ... 70
• 5. 연구개발성과의 관련 분야에 대한 기여 정도 ... 71
• 6. 연구개발성과의 관리 및 활용 계획 ... 75
• 1) 향후 5년간 성과활용·확산 활용방안 및 계획(활동계획) ... 76
• 2) 주요 성과활용 (기대)성과목표 ... 77
• 3) 성과활용·관리 추진체계 ... 78
• 4) 기타 ... 78
• 7. 연구개발성과에 대한 후속연구 및 추가 개발 계획 ... 79
• 8. 연구개발비 사용실적 ... 81
• 끝페이지 ... 87