Registered
SYSTEM AND METHOD FOR PROVIDING INFERENCE SERVICE BASED ON DEEP NEURAL NETWORK
- Inventors
-
Lee Chang Sik, Tae Yeon Kim, Seungwoo Hong
- Application No.
-
10-2020-0106508 (2020.08.24)
KIPRIS
- Publication No.
-
10-2022-0025579 (2022.03.03)
- Registration No.
- 10-2653006-0000 (2024.03.26)
- Country
- KOREA
- Project Code
-
20HH6400, A Development for Intellectualized Edge Networking based on AI,
Tae Yeon Kim
- Abstract
- 심층 신경망 기반의 추론 서비스 제공 방법이 제공된다. 상기 방법은 상기 심층 신경망으로의 입력 데이터에 대한 추론 요청에 대응하여 엣지 노드의 미리 정의된 레이어까지 추론 연산을 수행하는 단계; 상기 엣지 노드에서 상기 추론 연산에 따른 결과(이하, 제1추론 결과)로 상기 입력 데이터에 대한 각 결과 값에 상응하는 확률 벡터를 기반으로 하는 엔트로피(Entropy) 값을 산출하는 단계; 상기 엣지 노드에서 복수의 미리 설정된 임계 값과 상기 엔트로피 값을 비교하는 단계; 및 상기 복수의 임계 값과의 비교 결과에 기초하여 상기 제1 추론 결과에 상응하는 결과 값 또는 추론 결과 미정(unknown)을 결과 값으로 제공하거나, 상기 제1 추론 결과를 상기 클라우드 노드로 전달하는 단계를 포함하되, 상기 클라우드 노드는 상기 엣지 노드로부터 전달된 제1 추론 결과를 수신하여 추론 연산을 수행하여 최종적인 제2 추론 결과를 결과 값으로 제공한다.
- KSP Keywords
- Deep neural network(DNN), neural network