ETRI-Knowledge Sharing Plaform

ENGLISH
기술이전 검색
연도 ~ 이전수 키워드

상세정보

디바이스 적응형 신경망 생성 및 배포를 위한 통합개발 프레임워크 기술

전수책임자
김선태
참여자
곽지영, 김강호, 김선태, 김홍숙, 박재복, 석진욱, 신익수, 어준선, 이경희, 조성원, 조창식, 조현우
기술이전수
1
이전연도
2023
협약과제
23HS2200, 신경망 응용 자동생성 및 실행환경 최적화 배포를 지원하는 통합개발 프레임워크 기술개발, 조창식
23ZS1300, 인공지능 처리성능 한계를 극복하는 고성능 컴퓨팅 기술 연구, 김강호
- 본 기술은 '신경망 통합개발 프레임워크 기술 개발“ 과제에서 개발된 기술 중 다양한 디바이스를 대상으로 신경망을 생성하고 디바이스에 탑재를 지원하는 도구에 포함되는 기술임
. 신경망 통합개발 프레임워크는 크게 신경망 자동생성 기술과 배포탑재 기술로 구분되어 짐
. 신경망 자동 생성 기술은 응용에 대한 주요 요구사항 및 실행될 타겟 디바이스에 관련된 사항을 입력받아 최적의 신경망 모델을 생성하는 도구 기술임
. 신경망 배포탑재 기술은 자동 생성된 신경망 모델이 타겟 디바이스 환경에서 실행될 수 있도록 신경망 실행 코드를 생성하고 이를 클라우드 환경 혹은 다양한 디바이스 환경에 탑재하여 동작하도록 하는 도구 기술임
본 기술은 주어진 디바이스에 맞게 신경망을 생성하고 디바이스 환경에 맞게 신경망이 타겟에서 실행가능하도록 신경망 모델의 변환하여 주는 기술임
신경망 응용 자동생성 및 신경망 가속 관련 디바이스 업체들을 대상으로 선순환 구조의 가치 사슬 구축 등 인공지능 산업 생태계 활성화를 위해 필요한 기술임
- (특징) 사용하고자 하는 디바이스에 최적화된 신경망 생성 및 최적화 기술
. 타겟 적응형 신경망 생성 기술
. 응용 및 타겟 디바이스를 적응형 신경망 모델 추천 기술
. 타겟 맞춤형 신경망 모델 변환 및 경량화 기술
. 추론 엔진 최적화 지원 신경망 실행 코드 자동 생성 기술
. 신경망 모델의 시각화 및 편집 기술
. 도커기반 각 모듈의 파이프라인 통합 관리 기술
. 편리한 정보 입력 UI 및 상호 인터페이스 기술

- 주요 장점
. (신경망 모델 추천) 빠른 신경망 학습을 위해서 응용 TASK 및 디바이스 능력을 세분화 및 적합한 모델 추천 기능 제공
. (신경망 시각화) 추천된 신경망 모델을 시각화하거나 수정하고자 할 때 편리한 기능 제공
. (운영체제의 다양성 지원) Linux, Windows 등 추론 엔진이 동작하는 다양한 운영체제 환경을 지원
. (디바이스의 다양성 지원) x86, ARM과 같은 CPU 뿐만 아니라, RK3399Pro와 같은 NPU 혹은 Nvidia CUDA, Mali GPU상 OpenCL과 같은 다양한 신경망 가속 환경 지원
. (편리한 원클릭 생성) 입력 정보 입력 후 한번의 클릭으로 신경망 생성부터 배포/탑재까지 수행하는 기능 제공
o 본 기술은 사용자의 입력된 디바이스의 성능을 고려하여 신경망을 생성하고, 신경망 모델이 타겟 디바이스상에서 최적 실행 가능하도록 신경망 변환 및 실행 코드 자동 생성을 지원하는 도구 기술임

o 기술명 : 디바이스 적응형 신경망 생성 및 배포를 위한 통합개발 프레임워크 기술*
(1) 세부기술1 : 영상내 객체탐지 기반 디바이스 적응형 신경망 생성 및 배포를 위한 통합개발 프레임워크 기술
- 사용자 정보 입력 UI 및 프레임워크 관리 기술
- 신경망 모델 추천 기술
- 영상내 객체 탐지 기반 신경망 생성 기술
- 타겟 맞춤형 신경망 모델 변환 및 경량화 기술
- 추론엔진 최적화 지원 신경망 실행 코드 자동 생성 기술
- 모듈간 인터페이스 기술

(2) 세부기술2: 이미지 분류 기반 디바이스 적응형 신경망 생성 및 배포를 위한 통합개발 프레임워크 기술
- 사용자 정보 입력 UI 및 프레임워크 관리 기술
- 신경망 모델 추천 기술
- 이미지 분류 기반 신경망 시각화 기술
- 이미지 분류 기반 신경망 생성 기술
- 타겟 맞춤형 신경망 모델 변환 및 경량화 기술
- 추론엔진 최적화 지원 신경망 실행 코드 자동 생성 기술
- 모듈간 인터페이스 기술

* 본 기술은 오픈소스 프로젝트를 지향하여, 오픈 소스코드의 조합으로 산업에서 사용할 수 있는 통합개발 프레임워크를 개발하였음. 프레임워크에서 사용되는 라이선스에 따라서 기술이전 받은 내용을 사용하거나 추가 수정하였을 경우 공개의무 사항이 발생할 수 있음(공개 프로젝트 사이트 (TANGO) : https://github.com/ML-TANGO/TANGO)
o 디바이스 적응형 신경망 생성 및 배포를 위한 통합개발 프레임워크 기술
- 신경망 통합개발 프레임워크 기술개발 요구사항정의서
- 신경망 통합개발 프레임워크 기술개발 시스템 구조 설계서
- 디바이스 적응형 신경망 생성 및 배포를 위한 통합개발 프레임워크 프로그램
- 디바이스 적응형 신경망 생성 및 배포를 위한 통합개발 프레임워크 프로그램 시험 절차서 및 결과서
- (신경망 모델 적용 기업) 스마트 공장이나 의료 등의 산업 현장에는 다양한 디바이스와 데이터에 맞게 적응적으로 신경망을 개발하고 검증해서 적용을 해야 하는 업체가 활용 가능
- (신경망 HW 개발 기업) 신경망 실행 가속기용 신경망 개발 SDK 혹은 라이브리리 기술로 활용 가능
- (No-code/Low-code 관련 기업) 디바이스용 신경망 실행 엔진 및 응용 개발 프레임워크로 활용 가능
- (기대효과) No-code/Low-code 등 신생 신장에서 기술 선점 효과 및 국산 신경망 가속 HW 시장 활성화에 기여 가능