Registered
METHOD AND APPARATUS TO PROVIDE COMPRSSION AND TRANSMISSION OF LEARNING PARAMETER IN DISTRIBUTED PROCESSING ENVIRONMENT
- Inventors
-
Cho Seunghyun, Jinwuk Seok, Lee Jooyoung, Woong Lim, Kim Younhee, Kim Jongho, Dae Yeol Lee, Jeong Se Yoon, Kim Hui Yong, Choi Jin Soo, 강제원
- Application No.
-
10-2018-0160774 (2018.12.13)
KIPRIS
- Publication No.
-
10-2019-0072450 (2019.06.25)
- Registration No.
- 10-2435595-0000 (2022.08.19)
- Country
- KOREA
- Project Code
-
17HR2200, Development of Audio/Video Coding and Light Field Media Fundamental Technologies for Ultra Realistic Tera-media,
Choi Jin Soo
- Abstract
- 분산 처리 환경에서의 딥 러닝 모델의 학습을 위한 학습 파라미터를 압축하고, 압축된 파라미터를 전송하는 방법 및 장치가 개시된다. 분산 처리 시스탬 내의 복수의 전자 장치들은 신경망의 학습을 수행한다. 학습의 수행에 의해 파라미터가 갱신된다. 전자 장치는 자신의 갱신된 파라미터를 다른 전자 장치들과 공유할 수 있다. 이러한 공유를 효율적으로 수행하기 위해, 파라미터의 잔차가 다른 전자 장치에게 제공된다. 파라미터의 잔차가 제공되면, 다른 전자 장치는 파라미터의 잔차를 사용하여 파라미터의 갱신을 수행한다.
- KSP Keywords
- distributed processing
- Family
-