Registered
METHOD AND APPARATUS OF QUANTIZATION FOR WEIGHTS OF BATCH NORMALIZATION LAYER
- Inventors
-
Lee Mi Young, Lee Joo Hyun, Kim Jin Kyu, Kim Ju-Yeob, Kim Seong Min, Kim Byung Jo
- Application No.
-
10-2018-0138455 (2018.11.12)
KIPRIS
- Publication No.
-
10-2020-0054759 (2020.05.20)
- Registration No.
- 10-2462910-0000 (2022.10.31)
- Country
- KOREA
- Project Code
-
17HS1600, Feasibility Study of Blue IT based on Human Body Research,
Cho Il Yeon
- Abstract
- 본 발명에서는 복수의 배치 정규화 레이어의 미리 학습된 복수의 제1 웨이트들을 입력받는 단계와, 복수의 제1 웨이트들의 제1 분포 정보를 획득하는 단계와, 제1 분포 정보를 이용하여 복수의 제1 웨이트들에 제1 양자화를 수행하여 복수의 제2 웨이트들을 획득하는 단계와, 복수의 제2 웨이트들의 제2 분포 정보를 획득하는 단계와, 및 제2 분포 정보를 이용하여 복수의 제2 웨이트들에 제2 양자화를 수행하여 복수의 최종 웨이트들을 획득하는 단계를 포함하는 복수의 배치 정규화 레이어의 웨이트에 대하여 양자화를 수행하는 방법을 제공함으로써, 배치 정규화 레이어의 웨이트를 양자화할 때 발생할 수 있는 오류를 줄일 수 있다.
- KSP Keywords
- Batch normalization
- Family
-