ETRI-Knowledge Sharing Plaform

KOREAN
기술이전 검색
Year ~ Transaction Count Keyword

Detail

Integrated development framework technology for generating and deploying device adaptive neural networks

Manager
Kim Seon-Tae
Participants
Kwak Ji Young, Kim Kang Ho, Kim Seon-Tae, Kim Hong Soog, Park Jaebok, Jinwuk Seok, Iksoo Shin, Joonsun Auh, Kyung Hee Lee, Seongwon Jo, Cho Chang Sik, Hyunwoo Cho
Transaction Count
1
Year
2023
Project Code
23HS2200, Development of Integrated Development Framework that supports Automatic Neural Network Generation and Deployment optimized for Runtime Environment, Cho Chang Sik
23ZS1300, Research on High Performance Computing Technology to overcome limitations of AI processing, Kim Kang Ho
- 본 기술은 '신경망 통합개발 프레임워크 기술 개발“ 과제에서 개발된 기술 중 다양한 디바이스를 대상으로 신경망을 생성하고 디바이스에 탑재를 지원하는 도구에 포함되는 기술임
. 신경망 통합개발 프레임워크는 크게 신경망 자동생성 기술과 배포탑재 기술로 구분되어 짐
. 신경망 자동 생성 기술은 응용에 대한 주요 요구사항 및 실행될 타겟 디바이스에 관련된 사항을 입력받아 최적의 신경망 모델을 생성하는 도구 기술임
. 신경망 배포탑재 기술은 자동 생성된 신경망 모델이 타겟 디바이스 환경에서 실행될 수 있도록 신경망 실행 코드를 생성하고 이를 클라우드 환경 혹은 다양한 디바이스 환경에 탑재하여 동작하도록 하는 도구 기술임
본 기술은 주어진 디바이스에 맞게 신경망을 생성하고 디바이스 환경에 맞게 신경망이 타겟에서 실행가능하도록 신경망 모델의 변환하여 주는 기술임
신경망 응용 자동생성 및 신경망 가속 관련 디바이스 업체들을 대상으로 선순환 구조의 가치 사슬 구축 등 인공지능 산업 생태계 활성화를 위해 필요한 기술임
- (특징) 사용하고자 하는 디바이스에 최적화된 신경망 생성 및 최적화 기술
. 타겟 적응형 신경망 생성 기술
. 응용 및 타겟 디바이스를 적응형 신경망 모델 추천 기술
. 타겟 맞춤형 신경망 모델 변환 및 경량화 기술
. 추론 엔진 최적화 지원 신경망 실행 코드 자동 생성 기술
. 신경망 모델의 시각화 및 편집 기술
. 도커기반 각 모듈의 파이프라인 통합 관리 기술
. 편리한 정보 입력 UI 및 상호 인터페이스 기술

- 주요 장점
. (신경망 모델 추천) 빠른 신경망 학습을 위해서 응용 TASK 및 디바이스 능력을 세분화 및 적합한 모델 추천 기능 제공
. (신경망 시각화) 추천된 신경망 모델을 시각화하거나 수정하고자 할 때 편리한 기능 제공
. (운영체제의 다양성 지원) Linux, Windows 등 추론 엔진이 동작하는 다양한 운영체제 환경을 지원
. (디바이스의 다양성 지원) x86, ARM과 같은 CPU 뿐만 아니라, RK3399Pro와 같은 NPU 혹은 Nvidia CUDA, Mali GPU상 OpenCL과 같은 다양한 신경망 가속 환경 지원
. (편리한 원클릭 생성) 입력 정보 입력 후 한번의 클릭으로 신경망 생성부터 배포/탑재까지 수행하는 기능 제공
o 본 기술은 사용자의 입력된 디바이스의 성능을 고려하여 신경망을 생성하고, 신경망 모델이 타겟 디바이스상에서 최적 실행 가능하도록 신경망 변환 및 실행 코드 자동 생성을 지원하는 도구 기술임

o 기술명 : 디바이스 적응형 신경망 생성 및 배포를 위한 통합개발 프레임워크 기술*
(1) 세부기술1 : 영상내 객체탐지 기반 디바이스 적응형 신경망 생성 및 배포를 위한 통합개발 프레임워크 기술
- 사용자 정보 입력 UI 및 프레임워크 관리 기술
- 신경망 모델 추천 기술
- 영상내 객체 탐지 기반 신경망 생성 기술
- 타겟 맞춤형 신경망 모델 변환 및 경량화 기술
- 추론엔진 최적화 지원 신경망 실행 코드 자동 생성 기술
- 모듈간 인터페이스 기술

(2) 세부기술2: 이미지 분류 기반 디바이스 적응형 신경망 생성 및 배포를 위한 통합개발 프레임워크 기술
- 사용자 정보 입력 UI 및 프레임워크 관리 기술
- 신경망 모델 추천 기술
- 이미지 분류 기반 신경망 시각화 기술
- 이미지 분류 기반 신경망 생성 기술
- 타겟 맞춤형 신경망 모델 변환 및 경량화 기술
- 추론엔진 최적화 지원 신경망 실행 코드 자동 생성 기술
- 모듈간 인터페이스 기술

* 본 기술은 오픈소스 프로젝트를 지향하여, 오픈 소스코드의 조합으로 산업에서 사용할 수 있는 통합개발 프레임워크를 개발하였음. 프레임워크에서 사용되는 라이선스에 따라서 기술이전 받은 내용을 사용하거나 추가 수정하였을 경우 공개의무 사항이 발생할 수 있음(공개 프로젝트 사이트 (TANGO) : https://github.com/ML-TANGO/TANGO)
o 디바이스 적응형 신경망 생성 및 배포를 위한 통합개발 프레임워크 기술
- 신경망 통합개발 프레임워크 기술개발 요구사항정의서
- 신경망 통합개발 프레임워크 기술개발 시스템 구조 설계서
- 디바이스 적응형 신경망 생성 및 배포를 위한 통합개발 프레임워크 프로그램
- 디바이스 적응형 신경망 생성 및 배포를 위한 통합개발 프레임워크 프로그램 시험 절차서 및 결과서
- (신경망 모델 적용 기업) 스마트 공장이나 의료 등의 산업 현장에는 다양한 디바이스와 데이터에 맞게 적응적으로 신경망을 개발하고 검증해서 적용을 해야 하는 업체가 활용 가능
- (신경망 HW 개발 기업) 신경망 실행 가속기용 신경망 개발 SDK 혹은 라이브리리 기술로 활용 가능
- (No-code/Low-code 관련 기업) 디바이스용 신경망 실행 엔진 및 응용 개발 프레임워크로 활용 가능
- (기대효과) No-code/Low-code 등 신생 신장에서 기술 선점 효과 및 국산 신경망 가속 HW 시장 활성화에 기여 가능