다계층 분산 AI, 마이크로서비스, 상황 인지, 엣지 네트워킹, AI Distribute Processing, Context Aware, Service Migration, Microservice, Software-Defined WAN
Funding Org.
과학기술정보통신부
Research Org.
한국전자통신연구원
Project Code
21HH6100, A Development for Intellectualized Edge Networking based on AI,
Tae Yeon Kim
Abstract
연구개발 목표 및 내용 최종 목표 o 최종 목표 사용자/사물의 행위를 인공지능 기반으로 분석하여 상황에 맞는 인프라 (네트워킹, 컴퓨팅 등) 자원 최적구성 및 동적 서비스 환경을 제공할 수 있는 지능형 에지 네트워킹 기술 개발 o 주요 기능 - 다계층 분산 AI 처리 기술 · 다계층(디바이스, 에지, 클라우드) 분산 협력 AI 처리 기능 · Multi-Dimensional Context 기반 상황 추론 기술 - 상황인지 기반 자원 자율관리 및 마이크로 서비스 구성관리 기술 · 상황에 따른 에지 자원 동적 자율 구성 기능 · 상황 맞춤서비스 제공을 위한 마이크로서비스 구성관리 기능 - 상황인지 기반 지능형 SD-WAN 기술 · 서비스 품질 보장형 SD-WAN Edge Fabric 기능 o 주요 성능 - AI 분산 처리 : 다중 도메인 분산 DNN - 상황인지 연계 요소 : 마이크로 서비스, 가상 자원 (네트워크, VM/Container, vGPU, MLU 등) - 서비스 라이브 마이그레이션 시간 : < 10 sec - 상황인지기반 마이크로서비스 구성 시간 : < 3 sec - SD-WAN Edge 노드간 전송 Packet Latency : 평균 50msec 이하 o End Product - AI 기반 Context 브로커 및 추론 엔진 (SW) - 상황인지 분산 네트워크 컴퓨팅 융합 플랫폼 (SW) - 상황인지기반 네트워크 컴퓨팅 에지 시스템 (SYS) - 상황인지기반 네트워크 컴퓨팅 분산 에지 제어 시스템 (SYS)
전체 내용 o 연차별 목표 2018년 : 인공지능 기반 지능형 에지 네트워크 구조 및 핵심 기술 연구 (IPR 학보) 2019년 : 다중 도메인 AI 분산처리 및 상황인지 기술 개발 2020년 : 상황인지 연동 자원관리/서비스 구성/SD-WAN 기술 개발 2021년 : 지능형 에지 네트워크 요소기술 통합 및 PoC o 연구개발 내용 - 다중 도메인 AI 분산 처리 기술 · 계층적(디바이스, 에지, 클라우드) DNN 오프로딩 기술 · 다중 에지 간 협력적 AI 처리 기술 · 분산 DNN(Deep Neural Network) 기반 상황인지 브로커 기술 - 상황인지 기반 자원 자율관리 및 마이크로 서비스 구성관리 기술 · 상황에 따른 에지 자원 동적 자율 구성 기술 · 상황 맞춤서비스 제공을 위한 마이크로 서비스 구성 관리 기술 · 상황정보를 고려한 서비스 연결 및 가상자원 마이그레이션 기술 - 상황인지 기반 지능형 SD-WAN 기술 · 서비스 품질 보장형 SD-WAN Tunnel 제어 기술 · 마이크로서비스 Driven Packet Forwarding 기술 · 상황 및 서비스 맞춤형 WAN Optimization 기술 o 과제수행방법 - 연구개발 초기부터 철저한 기술 분석을 바탕으로 핵심 기술 연구 및 개발에 집중 - 기술 경제성 및 사업성 분석을 통해서 시장의 현실을 반영한 연구 개발 진행 - 연구 개발 결과물의 신뢰성 확보를 위한 실증 서비스(PoC) 추진 - 주관 및 참여기관의 유기적 연구개발 체계를 구축 및 시제품 개발 - 핵심 기술을 제외한 오픈 소스 소프트웨어(OSS)의 적극 활용 - SDN/NFV 포럼 산하 에지 네트워킹 연구그룹 운영을 통해 기술적/산업적 요구 변화를 연구개발에 신속 반영 결과물의 경쟁력 강화 o 연구개발 결과물 특징 - 저지연 에지 클라우드 Cognitive 서비스 기술 (세계 Top 3위) - 지능형 Software Defined Edge Fabric 기술 (세계 최초) - 프로세서/엑셀러레이터(GPU/FPGA) 연동 지능형 고속 Flow 처리 기술 (세계 최초) - AI 기반 실시간 상황정보(네트워크 및 컴퓨팅 자원) Telemetry 분석 기술 (세계 Top 5위) o 적용범위(또는 서비스) - (상황인지기반 분산 네트워크 컴퓨팅 융합 플랫폼) 향후 도래할 Post App 시대에 대응하여 상황인지기반 사용자 맞춤형 서비스 (스마트 홈, 스마트 쇼핑, 스마트 교통 등)를 제공하기 위한 공통 기반 플랫폼으로 활용 - (AI 기반 Cognitive 서비스 기술) 저지연 에지 클라우드에 탑재되어 클라우드 기반의 지능/실감 서비스 (VR/AR)와 실시간 서비스 (Connected Car, RT-VPA)에 활용 - (지능형 SD Edge Fabric 기술) 기업/금융/물류/의료 등 다수의 에지 네트워크를 연결하는 VPN 서비스, 데이터센터간 연결시 IP 이동성 문제 솔루션 및 방대한 IoT 단말을 Multi-Tenancy로 연결하기 위한 핵심기술로 활용 - (AI 기반 실시간 분석 기술) 실시간 Telemetry를 활용하기 위한 범용 스위치/라우터장Telemetry 비 및 가상화 네트워크를 구성하는 소프트웨어 기반의 다양한 형태의 오픈 하드웨어에서 활용
연구개발성과 o 목표 대비 연구성과 연구 목표 : 다중 도메인 AI 분산 처리 기술 당해 연구목표 1. 협력적 AI 기반 Context 추론 기술 고도화 연구 개발 내용 : 1.1 Multimodal Context 추론 기술 고도화 1.2 복합 상황인지 요소기술 통합 및 플랫폼 구축 1.3 다계층 분산 DNN 클러스터 구축 및 시험 연구 성과 : (정성적 성과) o Multimodal Context 추론 기술 - Imputation Accuracy Prediction (IAP) Module 성능 분석 - Imputation Accuracy Prediction (IAP) 모듈의 Ablation 결과 - 에너지와 데이터 성능별 가중치에 따른 주기조절 결과 성능 분석 o 복합 상황인지 요소기술 - 복합 상황인지 통합엔진 및 플랫폼 o 다계층 분산 DNN 클러스터 구축 - Multi exit point DNN 추론 모델 - Docker container 기반 분산 DNN 협력 추론 모듈 (성능목표 달성) o (성능평가항목) AI 분산처리 - 개발목표치: 다중 도메인 분산 DNN - 평가결과: 합격 (공인시험 완료) (혁신기술) o 머신러닝 기반 오토스케일링 알고리즘 - Response time 예측 모델과 post-scaling metric 예측모델을 활용하여 서비스 품질 향상 및 인프라 운용 비용감소에 효과적인 auto-scaling 수행 - Kubernetes 환경을 기반으로, pod scaling에 대한 성능 시험 - 기존scaling policy 대비 뛰어난 scaling 성능 (SLA violation 비율, 평균 response time, 평균 pod 수, scaling action 횟수) 보임 (핵심기술) o IoT 단말의 데이터 전송 주기 조절 기술 - 데이터의 누락 복원 정확도와 IoT 단말의 에너지 소비량을 고려 최적의 IoT 단말의 데이터 전송주기 결정 - 실제 IoT 환경에 구동중인 IoT 단말 데이터를 활용, 실제 누락 복원 오차율을 정확하게 근사함을 보임
연구 목표 : 상황인지 기반 자원 자율관리 및 마이크로 서비스 구성관리 기술 당해 연구목표 2. 상황인지 기반 Cognitive 서비스 플랫폼 구축 연구 개발 내용 : 2.1 Context 연동 마이크로서비스 기술 통합 및 시험 2.2 Context 연동 자원자율관리 기술 통합 및 시험 2.3 상황인지기반 Cognitive 서비스 PoC 개발 및 시험 연구 성과 : (정성적 성과) o Context 연동 마이크로서비스 관리 기술 - Container 기반 마이크로서비스 라이프사이클 관리 - 가상머신 기반 마이크로서비스 라이프사이클 관리 - 마이크로서비스에 가상 및 물리 네트워크 연동 - 마이크로서비스에 vGPU 연동 o Context 연동 자원자율관리 기술 - Kubernetes 기반 Telemetry 정보 수집 시스템 및 오토스케일링 시험 환경 - 머신러닝 기반 가상함수 스케일링 알고리즘 (성능목표 달성) o (성능평가항목) 상황인지 연계요소 - 개발목표치: 마이크로서비스, 가상자원 (네트워크, 가상머신, Container, vGPU 등) - 평가결과: 합격 (공인시험 완료) (혁신기술) o QoS 보장형 마이크로서비스 네트워킹 기술 - 노드 내 대역폭 보장이 가능한 Qdisc 연동 기능 - Virtual Function 네트워크 요구사항 기반 Qdisc 제어 기능 - Virtual Function 네트워크 요구사항 기반 스케줄링 기능 (핵심기술) o ML 기반 자원관리를 위한 인프라 구성 기술 - 쿠버네티스 기반의 클러스터 서버 - 프로메테우스를 이용한 telemetry 수집 서버 - Telemetry 데이터를 기반으로 한 모델 학습 서버 - 학습된 ML 모델을 이용한 pod 스케일링 o 상황 기반 마이크로서비스 연동 기술 - ISTIO service mesh 프로젝트 분석 - MPEG-DASH 스트리밍 서비스 분석 및 시나리오 설계 - 마이크로서비스 기반 스트리밍 서버 구현 - 비디오 재생지점 정보 추출 기능 구현 - 사용자 상황 기반 스트리밍 서비스 매니저 구현 - Cognitive engine-서비스 매니저 간 인터페이스 구현
연구 목표 : 상황인지 기반 지능형 SD-WAN 기술 당해 연구목표 3. 지능형 SD-WAN 통합 플랫폼 구축 연구 개발 내용 : 3.1 지능형 SD-WAN 분산 에지 및 오케스트레이터 통합 및 시험 3.2 AI 기반 Telemetry 기능 통합 및 시험 3.3 저지연 고속 Flow 처리 기능 통합 및 시험 연구 성과 : (정성적 성과) o 지능형 SD-WAN 분산 에지 및 오케스트레이터 - SD-WAN 오케스트레이터 - SD-WAN 컨트롤러 - SD-WAN EDGE(Wireless GW, Wired GW, HOST, DTR) o AI 기반 Telemetry 기능 - 수집 데이터의 Logging전 분석 결과 저장 모듈 - AI 기반 일괄 데이터 분석 및 감시 처리 모델 - 마이크로 서비스 형태의 데이터 분석 및 감시 작업 관리 모듈 (핵심기술) o Edge Fabric 네트워크 고도화 기술 - Orchestrator의 UI/UX, DB, Telemetry, Topology, Alarm, History 처리 기술 - Controller의 다수 VNET을 관리하는 Controller의 고도화 기술 - Edge의 DTR, HOST, Gateway-LAN, Gateway-WLAN 세분화 기술 o 상황인지 연동 SD-WAN 제어 기술 - Config 설정 REST API 제어 기술 - VNET으로부터 Leave를 위한 REST API 제어 기술 - VNET으로의 Join를 위한 REST API 제어 기술 o 가상주소 기반 LPM 모듈 및 암호화 기술 - Binary Tree + HashMap 구조 적용한 Longest Prefix Maching 기술 - 각 Edge들 간 암·복호화를 위한 Controller의 Key, IV 생성 및 배포 기술 - Edge들간 AES_256_CBC 암호화 모듈 적용 패킷 암·복호화 기술 (성능목표 달성) o (성능평가항목) SD-WAN 노드간 전송 latency - 개발목표치: 50ms 미만 - 평가결과: 합격 (공인시험 완료) o (성능평가항목) 에지노드 네트워크 슬라이스 수 - 개발목표치: 2K 이상 - 평가결과: 합격 (공인시험 완료)
연구 목표 : 통합 및 검증 당해 연구목표 4. Cognitive Edge 컴퓨팅 플랫폼 통합 연구 개발 내용 : 4.1 Cognitive Edge 컴퓨팅 플랫폼 기능 통합 및 시험 4.2 Cognitive Engine 통합 및 시험 4.3 지능형 에지 네트워킹 기술 지원 Living Lab 구축 연구 성과 : (정성적 성과) o Cognitive Edge 컴퓨팅 플랫폼 기술 - 상황추론 기반 HAS(HTTP Adaptive Streaming) 서비스 - 마이크로서비스의 네트워크 대역폭 제어 - 분산 클러스터 상에 마이크로서비스 관리 o Cognitive Engine 통합 - AI기반 복합 상황인지 S/W 모듈 (영상, 음성) - IoT 플랫폼 기반 복합 상황인지 S/W 모듈 - Cognitive Engine 연구시작품 - 복합상황인지 통합 플랫폼연동 PoC 4종 o 지능형 에지 네트워킹 기술 지원 Living Lab 구축 - AI Edge 네트워킹 R&D PoC 리빙랩 구축 및 운영 - 리빙랩을 통한 지능형 SD-WAN 제어 기술 등 R&D 결과 테스트 기반 마련 - R&D 개발 기술 및 PoC 내용 중심의 개발 성과 관련 대외홍보를 위한 기술시연영상 및 브로슈어 제작 등 (성능목표 달성) o (성능평가항목) 서비스 연속성 - 개발목표치: 10초 미만 - 평가결과: 합격 (공인시험 완료) o (성능평가항목) 상황인지 기반 서비스 구성시간 - 개발목표치: 3초 미만 - 평가결과: 합격 (공인시험 완료)
o 기술적 성과 [상황인지 기반 지능형 에지 네트워킹 PoC 환경 구축 및 시험 완료] · 초연결 지능형 연구개발망 (KOREN) 활용 판교와 대전에 PoC 환경 구축(‘21. 09) · PoC 검증 완료(’21.12) - 상황인지 기반 영상정보 전송경로 제어 서비스 - 상황인지 기반 지능형 보안 네트워킹 서비스 - 상황인지 기반 네트워크 대역폭 제어 서비스 - 상황인지 기반 맞춤형 응용 서비스 · 세계최초 AI·네트워크 융합플랫폼 개발 (전자신문 외 7개 언론 보도, ‘21. 11. 04) - 인공지능(AI)과 네트워크 기술을 융합한 차세대 네트워킹 플랫폼 개발 - 전국망 규모의 KOREN (Korea Advanced Research Network) 망과 연동, 4개 응용서비스와 연계한 시연 및 기술 검증 완료 [논문: SCIE급 논문 7종 포함 총 14종 작성, 게재/발표 완료] · “A Novel Joint Mobile Cache and Power Management Scheme for Energy- Efficient Mobile Augmented Reality Service in Mobile Edge Computing,” IEEE Wireless Comm., 2021 포함 · SCIE급 논문 7종 포함 총 14종 작성 및 게재/발표 완료(총년도) · SCIE급 논문 3종 게재 및 국제학술발표 1종(4차년도) [특허 및 프로그램: 국내 14종/국외 3종 특허 출원 완료, 프로그램 13종 등록 완료] · “사용자 정의 기반의 가상 네트워크 설정 방법” 국내/국제 출원, 2021 포함 · 국내 14종, 국외 3종 특허출원 완료(총년도) · 국내 4종, 국외 2종 특허출원 완료(4차년도) · “대역폭 요구사항 기반 가상함수 스케줄러프로그램” 포함 프로그램 13종 등록(4차년도 3종) o 경제적 성과 [기술이전: 총6건, 280,500천원 완료] · 후보 기술 3건 발굴 및 Q마크 검증 완료 - SD-WAN 기반 Edge Fabric 네트워크 제어기술(‘19.11) - 네트워크 자원기반 가상함수 스케쥴링 및 대역폭 제어 기술(‘21. 07) - 머신러닝 기반 가상함수 스케일링 기술(‘21. 06) · 기술이전 및 기술 사업화 지원 - SD-WAN 기반 Edge Fabric 네트워크 제어기술: 케이벨, 넷비젼텔레콤, 트리즈네트웍스, 클라우드플러그, 에프아이시스 - 머신러닝 기반 가상함수 스케일링 기술: 송엔텍 [기술사업화: 총11건, 814,774천원 매출 실적] · “AI 엣지 게이트웨이” 포함 총 11건의 사업화 추진 완료 - 보안 서버, 위성 데이터 가속 서버 등의 Smart NIC 관련 사업화(’20~‘21) - 백본망 DDoS 탐지를 위한 텔레메트리 기술 사업화(’21) - 상황인지 기반 사업장의 이벤트 인지를 위한 엣지 게이트웨이 사업화(‘21) o 사회적 성과 [언론 홍보] - 지 면 : 2021년 11월 4일, 전자신문 외 2개 매체 - 온라인 : 2021년 11월 3일, 매일경제 외 4개 매체 [전시 및 시연] · 한국과학기술대전 - 행사명 : 2021 대한민국 과학기술대전(KINTEX) - 일 시 : 2021.12.22.(수) ~ 12.24일.(금) 3일간 · ETRI 통신미디어연구소 성과발표회 - 행사명 : ETRI 통신미디어연구소 2021 성과 발표회(CoEX) - 일 시 : 2022. 01. 11.(화) 10:00 ~ 17:30
연구개발성과 활용계획 및 기대 효과 o 수요처 통신 사업자 (한국) : SDN/NFV 네트워크 솔루션 서비스 사업자 (한국) : SD-WAN 서비스 솔루션 장비 사업자 (한국) : SDN/NFV/SD-WAN 장치 o 적용 범위 - 상황인지기반 지능형 유무선 통합 서비스 플랫폼 - SD-WAN 기반 지능형 Enterprise 네트워크 - 인터넷 신서비스 적용이 쉬운 초연결 저지연 인프라 - Post App 시대의 초연결 융합 서비스 인프라 o 경제적 파급효과 - Post App 시대의 실시간 지능, 실감 서비스 시장 인프라에 적용, 새로운 서비스 시장 창출 기대됨 - 2023년 세계 시장 규모는 146억 불로 추산되며, 연평균 7.7% 성장이 예상됨 - 2023년 국내 시장 규모는 3,210억 원으로 추산되며, 2029년에는 5,014억 원 규모 성장이 예상됨
(출처 : 요약문 4p)
Copyright Policy
ETRI KSP Copyright Policy
The materials provided on this website are subject to copyrights owned by ETRI and protected by the Copyright Act. Any reproduction, modification, or distribution, in whole or in part, requires the prior explicit approval of ETRI. However, under Article 24.2 of the Copyright Act, the materials may be freely used provided the user complies with the following terms:
The materials to be used must have attached a Korea Open Government License (KOGL) Type 4 symbol, which is similar to CC-BY-NC-ND (Creative Commons Attribution Non-Commercial No Derivatives License). Users are free to use the materials only for non-commercial purposes, provided that original works are properly cited and that no alterations, modifications, or changes to such works is made. This website may contain materials for which ETRI does not hold full copyright or for which ETRI shares copyright in conjunction with other third parties. Without explicit permission, any use of such materials without KOGL indication is strictly prohibited and will constitute an infringement of the copyright of ETRI or of the relevant copyright holders.
J. Kim et. al, "Trends in Lightweight Kernel for Many core Based High-Performance Computing", Electronics and Telecommunications Trends. Vol. 32, No. 4, 2017, KOGL Type 4: Source Indication + Commercial Use Prohibition + Change Prohibition
J. Sim et.al, “the Fourth Industrial Revolution and ICT – IDX Strategy for leading the Fourth Industrial Revolution”, ETRI Insight, 2017, KOGL Type 4: Source Indication + Commercial Use Prohibition + Change Prohibition
If you have any questions or concerns about these terms of use, or if you would like to request permission to use any material on this website, please feel free to contact us
KOGL Type 4:(Source Indication + Commercial Use Prohibition+Change Prohibition)
Contact ETRI, Research Information Service Section
Privacy Policy
ETRI KSP Privacy Policy
ETRI does not collect personal information from external users who access our Knowledge Sharing Platform (KSP). Unathorized automated collection of researcher information from our platform without ETRI's consent is strictly prohibited.
[Researcher Information Disclosure] ETRI publicly shares specific researcher information related to research outcomes, including the researcher's name, department, work email, and work phone number.
※ ETRI does not share employee photographs with external users without the explicit consent of the researcher. If a researcher provides consent, their photograph may be displayed on the KSP.