ETRI-Knowledge Sharing Plaform

하이퍼스케일 인공지능반도체 컴퓨터의 부동소수점 데이터 기반 적층 메모리 성능 극대화 행렬 연산 중심 인공지능프로세서 NPU 코어 설계

본 기술은 PIM 인공지능 NPU코어 기술로서 하이퍼스케일 AI반도체 시스템 구축을 위하여 필수적인 적층 메모리를 효율적으로 활용하기 위한 아키텍처의 인공지능 반도체 NPU코어의 설계 기술임
서버를 넘어서 모바일을 포괄하는 인공지능 반도체 컴퓨팅 시장의 급성장에도 불구하고 이에 대응할 수 있는 국내 고성능 프로세서 기술 및 소프트웨어 기술의 부재로 인해 막대한 비용의 라이센싱 비용을 지불하고 해외 기술을 활용하거나, 제작된 칩을 수입하는 상황이 지속되고 있어 기술종속성 심화

본 PIM(Processing-In-Memory) 인공지능프로세서 NPU 코어는 하이퍼스케일 AI 시스템의 성능을 극대화하는 반도체로서 고속 적층 DRAM 상의 AI 데이터의 컴퓨팅 성능을 극대화하기 위한 하이퍼쓰레드 데이터 로드 아키텍처 및 Hyper-Parallel 구조의 행렬연산기 제어 구조를 보유한 NPU코어임

O. 기술이전 대상물인 "PIM 인공지능 NPU코어 기술은 적층 DRAM인 HBM을 병렬로 연결한 구조에 대한 최적의 PIM 구조 설계 기술을 적용한 인공지능 프로세서 기술
-. 고도의 인공지능 컴퓨팅 성능 구현을 위해 칩렛 구조로 확장가능하며, 적층 외부 메모리인 HBM을 활용하기 위한 NPU코어 마이크로아키텍처를 설계하여 검증
-. 적층 DRAM 구조의 주 메모리인 HBM(High-Bandwidth Memory)을 고려한 NPU코어 마이크로 아키텍처 기반 구조의 반도체 설계를 통합하기 위한 온칩 네크워크를 설계하여 외부 인터페이스와 통합한 인공지능 반도체를 설계하였으며, 인공신경망 연산의 병렬처리를 극대화할 수 있는 인공신경망 컴파일러 및 Runtime 환경인 ABW 환경을 개발하였음
-. 하이퍼스케일 AI컴퓨팅을 위한 서버 시스템에서 성능을 극대화 하기 위하여 인공지능 NPU 코어의 마이크로아키텍처와 첨단패키지 HBM을 통합한 AI반도체를 다층, 다수, 병렬 구조로 집적할 수 있는 하이퍼스케일 칩렛 프로세서 반도체 기반 시스템을 개발하였음
PIM 인공지능 NPU코어 설계의 기술 구성 요소는 다음과 같음
(HW):
1. PIM 인공지능 NPU 설계 코어
2. PIM 인공지능 NPU 설계 검증(RTL Verification) 환경
(SW): 없음

- 본 이전 기술을 기반으로 엣지 서버용 저전력 딥뉴럴넷 컴퓨팅, 초병렬 딥뉴럴넷 컴퓨팅, 자율주행차의 비전컴퓨팅, 소형 로봇의 비전컴퓨팅 등에 포괄적으로 사용할 수 있는 인공지능 NPU 설계를 할 수 있음