BROWSE
Detail
Registered METHOD FOR DISTRIBUTED DEEP-LEARNING BASED ON HETEROGENEOUS CLUSTER AND APPARATUS USING THE SAME
이미지 확대
METHOD FOR DISTRIBUTED DEEP-LEARNING BASED ON HETEROGENEOUS CLUSTER AND APPARATUS USING THE SAME
- Inventors
- Ahn Shin Young, Eun-Ji Lim, Park Yoo-Mi, Yongseok Choi, Young Choon Woo, Choi Wan
- Application No.
- 10-2019-0025730 (2019.03.06) KIPRIS
- Publication No.
- 10-2020-0107124 (2020.09.16)
- Registration No.
- 10-2190511-0000 (2020.12.07)
- Country
- KOREA
- Project Code
- 18HS2700, Development of HPC System for Accelerating Large-scale Deep Learning, Choi Wan
- Abstract
- 이종 클러스터 기반의 분산 딥러닝 방법 및 이를 위한 장치가 개시된다. 본 발명의 일실시예에 따른 분산 딥러닝 방법은 딥러닝 성능이 상이한 복수개의 이기종 딥러닝 모듈들이 원격 공유 메모리를 기반으로 전역 파라미터와 전역 학습 카운터를 공유하는 단계; 상기 복수개의 이기종 딥러닝 모듈들이 상기 전역 학습 카운터를 기반으로 할당된 지역 학습 카운터에 상응하는 분산 딥러닝 학습과 원격 공유 메모리 업데이트를 중첩하여 수행하는 단계; 및 상기 원격 공유 메모리 업데이트에 의해 업데이트된 전역 학습 카운터를 고려하여 분산 딥러닝 프로세스를 종료하는 단계를 포함한다.
- KSP Keywords
- deep learning(DL), heterogeneous cluster