BROWSE
Detail
Conference Paper
이기종 엣지 AI 환경에서의 Stage-level Runtime Replanning
Cited - time in 
Share 
Share
- Issue Date
- 2026-05
- Citation
- IEMEK Symposium on Embedded Technology (ISET) 2026, pp.75-78
- Publisher
- 대한임베디드공학회
- Language
- Korean
- Type
- Conference Paper
- Abstract
- 온디바이스 AI와 엣지 컴퓨팅의 확산으로 x86 서버, Jetson, Raspberry Pi와 같은 이기종 노드가 협력하는 엣지 AI 환경의 중요성이 커지고 있다. 그러나 이기종 환경에서는 노드별 연산 성능, 메모리 용량, 가속기 구성 차이로 인해 단일 애플리케이션 단위의 정적 배치만으로는 실행 중 발생하는 병목에 대응하기 어렵다. 본 논문은 AI 서비스를 Capture, Preprocess, Inference stage로 분해하고, 런타임 노드 상태와 경험적 비용 통계를 반영하여 병목 stage를 재배치하는 stage-level runtime replanning 구조를 제안한다. 제안 시스템은 State Aggregator, Placement Engine, Workflow Executor/Reporter로 구성되며, KubeEdge 기반 x86 서버, Jetson Orin, Raspberry Pi 5 테스트베드에서 구현하였다. 네 가지 부하 시나리오와 다섯 가지 실행 방식을 비교한 결과, Runtime replanning은 Static placement 대비 평균 End-to-End latency를 12.7% 감소시키고 throughput을 13.4% 향상시켰다. 또한 시나리오별 최저 지연 시간은 Static placement 대비 12.7%–15.3% 감소하였다.
- Keyword
- Edge AI, Heterogeneous Edge, Runtime Orchestration, KubeEdge
- KSP Keywords
- End to End(E2E), Raspberry PI