ETRI-Knowledge Sharing Plaform

ENGLISH
기술이전 검색
연도 ~ 이전수 키워드

상세정보

AI 반도체/NPU를 위한 컴파일러 V1.0 (NEST-C V1.0)

전수책임자
권용인
참여자
기술이전수
0
이전연도
2022
협약과제
본 기술인 ‘뉴로모픽 컴파일러 기술’은 다양한 뉴로모픽 프레임워크, 뉴로모픽 HW, 다양한 최적화를 지원하도록 확장이 가능한 기술로서 뉴럴넷 모델의 실행을 위한 자동 코드 생성 및 최적 파티셔닝 기능, NPU상에서 뉴럴넷 모델의 동작을 위한 양자화 및 프로파일링 기능, Function으로 정의된 Graph IR과 IR Function으로 정의된 Tensor IR의 자료구조를 활용하여 인스트럭션을 최적화하고 백엔드 코드를 생성하는 VTA 타겟 컴파일러 백앤드 기능을 포함한다.
- 뉴로모픽 HW와 뉴로모픽 응용 SW 프레임워크의 사이에는 이들을 연결하기 위한 시스템 SW 계층이 필요하고, 뉴로모픽 HW의 최대 성능을 활용할 수 있도록 지원하는 SW 연구 필요하다. 또한 뉴로모픽 HW에서 동작하는 인공지능 응용 SW 개발의 편의성을 제공하는 SW 개발 환경과 실행?검증 환경이 필요하다.
- 본 기술은 뉴로모픽 시스템에서 성능 최적화를 위한 핵심 소프트웨어 기술이며, 뉴로모픽 HW에 최적화된 뉴로모픽 SW 탑재하고자 하는 경우 뉴로모픽 SW 플랫폼에 최적화 기술을 쉽게 추가하고 최적화 기능을 지원 가능한 기술이다.
본 기술은 다양한 뉴로모픽 프레임워크와 뉴로모픽 HW를 지원하기 위하여 컴파일러의 중간 언어 (IR; Intermediate Representation) 개념을 도입하여 확장성 높고 다양한 최적화가 가능한 구조를 가지고 있다.
. 확장성: 컴파일러의 전반부는 다양한 뉴로모픽 프레임워크를 지원할 수 있도록 구성하고, 컴파일러의 후반부는 다양한 뉴로모픽 HW를 지원할 수 있도록 구성
. 최적화: 뉴로모픽 HW에 독립적인 부분과 뉴로모픽 HW에 종속적인 부분으로 나누어 다양한 최적화가 가능한 개방적인 구조로 구성
A. 기술명 : 뉴로모픽 컴파일러 프론트엔드 기술
- 뉴럴넷 모델의 실행을 위한 자동 코드 생성 기능
- 성능 프로파일링 기반 그래프 파티셔닝 및 파티션 최적화 기능
- 뉴럴넷 실행 최적화를 위한 양자화 기능
B. 기술명 : 뉴로모픽 컴파일러 VTA 백인드 기술
- VTA 타켓 컴파일러 백앤드 기능
- VTA 실행코드 검증을 위한 시뮬레이터 기능
A. 기술명 : 뉴로모픽 컴파일러 프론트엔드 기술
- 요구사항 정의서
- 시험 절차서 및 결과서
- 소스코드
- 기술 문서: 3종

B. 기술명 : 뉴로모픽 컴파일러 VTA 백엔드 기술
- 요구사항 정의서
- 시험 절차서 및 결과서
- 소스코드
- 기술 문서: 2종
적용분야 : 고성능 저전력 뉴로모픽 HW 및 뉴로모픽 컴퓨터
기대효과 : 다양한 종류의 뉴로모픽 HW에서 다양한 인공지능 응용이 실행되는 주요 플랫폼으로서 활용