상세정보
학술지
HeteroAccel: 엣지 컴퓨팅 환경에서의 다양한 영상 추론을 위한 쿠버네티스 기반의 이종 연산·가속기 자원 관리 시스템
- 발행일
- 202110
- 출처
- 대한임베디드공학회논문지, v.16 no.5, pp.201-207
- ISSN
- 1975-5066
- 출판사
- 대한임베디드공학회
- 협약과제
- 21HS5100, 엣지 서버 시스템 자원 관리 및 제어를 위한 경량 시스템 소프트웨어 기술 개발, 강성주
- 초록
- Edge Computing enables image-based inference in close proximity to end users and real-world objects.However, since edge servers have limited computational and accelerator resources, efficient resource management is essential. In this paper, we present HeteroAccel system that performs optimal scheduling in Kubernetes platform based on available node and accelerator information for various inference requests. Our experiments showed 25.3% improvement in overall inference performance over the default scheduling scheme in edge computing environment in which four types of inference services are requested.
- KSP 제안 키워드
- Computing environment, End-users, Image-based, Optimal Scheduling, Real-world objects, Resource management, Scheduling Scheme, close proximity, edge computing