유해 앱 차단, 유해 사이트, 미디어 제어·관리, 시맨틱 분석, 미디어 스트리밍, Media Control·Management, Semantic Analysis, Media Streaming
KSP Keywords
artificial intelligence
Funding Org.
과학기술정보통신부
Research Org.
한국전자통신연구원
Project Code
21HH5300, Development of the System to Analyze and Detect the Obscenity in Media Contents Utilizing Artificial Intelligence Technologies,
Lee Nam Kyung
Abstract
연구개발 목표 및 내용 최종 목표 o 최종목표 멀티미디어 콘텐츠의 음란성 분석 및 검출 시스템 개발 및 사업화 지원(기술이전) - 유해 동영상 분석 및 분류 기술 - 근미래 장면 예측 기술 - 스마트 단말에서의 동영상 스트리밍 실시간 차단 기술 - 국내외 유해미디어 차단기술 현황 및 전망 분석·연구 - AI 학습용 유해 콘텐츠 빅데이터 시스템 구축방안 연구 - 공공 또는 민간 인터넷 스트리밍 음란콘텐츠 차단 기술 적용 - 국내외 유해 웹사이트 목록 자동 업데이트 기술 - 앱 콘텐츠 유해성 분류 기술 o 연차별 개발목표 1차년도 - 의미정보 기반 유해 동영상 분석 및 분류 기술 개발 - 스마트 단말 동영상 스트리밍 실시간 차단 기술 개발 - 근미래 장면 예측 기술 개발 - 공공 및 민간 보유 음란 콘텐츠 빅데이터 구축방안 연구 2차년도 - 공공 또는 민간 적용 스트리밍 모니터링 시스템 기술 개발 - 스트리밍 모니터링 시스템 설치 및 시험 운영 - 국내외 유해 웹사이트 목록 자동 업데이트 기술 개발 - 유해정보 유통 전주기를 고려한 차단 프레임워크 연구 3차년도 - 앱 콘텐츠 유해성 분류 기술 개발 - 스마트단말 탑재형 앱 화면 유해성 분석 엔진 개발 - 국내외 유해 웹사이트 목록 자동 업데이트 기술 민간 및 공공 활용 지원 기술 개발 - 대쉬보드형 유해미 디어 관제 시스템 개발 및 시험 운영 1차년도 결과물 - 유해동영상 분석 및 분류 엔진 - 스마트 단말 동영상 스트리밍 실시간 차단앱 - 민간사업자 유해동 영상 스트리밍 실시간 차단앱 - 근미래 장면 예측 엔진 - 음란정보 빅데이터 시스템 구축방안 연구보고서
2차년도 결과물 - 인터넷 스트리밍 모니터링 시스템 - 유해 웹사이트 목록 자동 업데이트서버 - 인터넷 스트리밍 모니터링 시험 적용 (공공 또는 민간) - 민간사업자 미디어 플랫폼내 유해 웹사이트 차단 시험 적용 - 유해정보 유통 차단 프레임워크 연구 문서
3차년도 결과물 - 앱 콘텐츠 유해성 관리 서버 - 스마트 단말용 앱 유해성 분석 엔진 - 스마트단말용 유해성 차단앱 - 대쉬보드형 유해미디어 관제 시스템 - 민간사업자 유해성 차단앱 시험 적용
o 주요 성능치 - (음란물 검출 정확도) 99% - (유해 콘텐츠 단위장면 판별 속도) 단위장면 유해성 분석 처리속도: 0.1초 - (동시 모니터링 채널 수) 우선 모니터링 대상 채널 수: 50개 - (서비스 운용시험 사용자 수) 서비스 운용시험 시 서비스 이용자 수: 100명 - (사전예측 정확도) 0.72
전체 내용 o 의미정보 기반 유해 동영상 분석 및 분류 기술 개발 - 행동 인식을 위한 움직임 궤적 생성 기술 - 행동 인식을 통한 유해 동영상 인지 및 분류 기술 - 유해성 분류 엔진 검증 테스트베드 구축 - 민간사업자 미디어 플랫폼 적용 시험 운용 o 스마트 단말 동영상 스트리밍 실시간 차단 기술 개발 - 스마트 단말에서 동영상 유해성 분석을 위한 딥러닝 모델 개발 - 스마트 단말용 동영상 유해성 분석 엔진 개발 - 동영상 세그먼트 특성 기반의 프레임 추출 및 제어 기술 개발 - 단말 동영상 스트림 특성 기반의 프레임 추출 및 제어 기술 개발 - 단말 자원 특성 기반의 프레임 추출 및 제어 기술 개발 - 동영상 유해성 분석/차단 엔진 연동 기술 개발 - 단말 미디어 프레임워크 인터페이스 및 제어 기술 - 스마트단말용 동영상 유해성 분석 엔진 정확도 향상 기술 개발 - 스마트단말용 동영상 유해성 분석 엔진 경량화 기술 개발 o 근미래 장면 예측 기술 개발 - 유해 영상 예측을 위한 Generative Adversarial Networks 개발 - 예측 프레임 기반 유해 여부 판별 모델 개발 o 유해정보 유통 전주기를 고려한 차단 프레임워크 연구 - 계층별 유해정보 차단 프레임워크 설계 - 계층별 유해정보 차단 세부 기술 적용 방안 도출 o 민간 보유 음란 콘텐츠를 활용한 음란정보 빅데이터 구축 방안 연구 - 협의체 운영 및 요구사항 수렴 o 공공 또는 민간 적용 스트리밍 모니터링 시스템 기술 개발 - 인터넷 스트리밍 음란 콘텐츠 차단을 위한 딥러닝 융합 기술 - 인터넷 스트리밍 음란 콘텐츠 차단을 위한 유해 장면 추출 도구 개발 - 유해미디어 대쉬보드 관제 시스템 개발 - 대쉬보드형 사용자 요구사항 정립 및 모니터링 통합 시스템 개발 - 공공 또는 민간 적용 모니터링 시스템 설치 및 시범 운영 o 국내외 유해 웹사이트 목록 자동 업데이트 기술 개발 - 실시간 유해 사이트 목록 수집 및 데이터베이스 저장 기술 개발 - 유해성 웹사이트의 미디어와 메타정보 수집 및 저장 기술 개발 - 웹사이트 크롤링 기술 개발 - 유해 웹사이트 분석 및 판별 기술 개발 - 민간사업자 미디어 플랫폼상에서 유해 웹사이트 차단 시험 적용 o 앱 콘텐츠 유해성 분류 기술 개발 - 웹사이트 주소 기반 유해 사이트 차단 요소 기술 개발 - 앱 화면 기반 유해 앱 차단 기술 개발 (유해성 분석 서버 연동) - 앱 콘텐츠 유해성 분석을 위한 스마트단말용 딥러닝 모델 개발 - 유해 앱 차단 정보관리 UI/UX 기능 개발 - 스마트단말 탑재형 앱 화면 유해성 분석 엔진 개발 - 앱화면 기반 유해 사이트 차단 기술 개발 (단말탑재형) - 스마트단말 유해성 분석 및 보고 기능개발 - 스마트단말 앱 스토어 등록 및 시험 운영
연구개발성과 o 인공지능 기반 유해미디어 분석·검출 시스템 (SYS) - 유해동영상 분석 및 분류 SW(서버탑재형SW) - 스마트단말 유해동영상 차단 및 제어 SW(단말탑재형SW) - 유해동영상 모니터링 및 관리 SW(서버탑재형SW) - 유해 웹사이트 목록 자동 업데이트 SW(서버탑재형SW) - 앱(App) 콘텐츠 유해성 제어 및 관리 SW(단말탑재형SW) - 유해미디어 학습 시스템(서버탑재형SW) - 근미래 장면 예측 SW(서버탑재형 SW)
연구개발성과 활용계획 및 기대 효과 o 공공 및 민간 분야에서 시범 적용 - 유해영상 분석, 검출, 차단 기능을 활용한 안전하고 신뢰성 있는 사용자 생성 콘텐츠 서비스 제공 - 웹하드 및 인터넷 파일 공유서비스 등의 유해 영상 업로드 되는 영상 필터링 서비스 제공 - 라이브 방송 서비스 사업자, 개인 방송 사용자의 유해물 자동 검증 및 모니터링 서비스 제공 - 라이브 스트리밍 서비스 기반의 클린 개인 미디어 방송 서비스 제공 - 기존 또는 신규의 차단 서비스를 제공하는 사업자에게 음란 웹사이트 정보 제공 서비스 제공 o 다발적으로 확산되는 유해 미디어 콘텐츠를 대상으로, 상호 신뢰할 수 있는 환경에서 제공할 수 있는 건강한 미디어 서비스 핵심 기술 확보 - 콘텐츠 플랫폼과 단말 사업자간 상생할 수 있는 생태계 창출 기대 - 자동화된 유해미디어 감지 기술을 통해 음란물 모니터링 비용 감소 - 브랜드세이프티 실현으로 광고 및 부가 서비스로의 서비스 확대에 기여 - 유해성 분석, 검출, 차단의 실시간 제어로 클린미디어 서비스 산업 기반 마련
(출처 : 요약문 3p)
Copyright Policy
ETRI KSP Copyright Policy
The materials provided on this website are subject to copyrights owned by ETRI and protected by the Copyright Act. Any reproduction, modification, or distribution, in whole or in part, requires the prior explicit approval of ETRI. However, under Article 24.2 of the Copyright Act, the materials may be freely used provided the user complies with the following terms:
The materials to be used must have attached a Korea Open Government License (KOGL) Type 4 symbol, which is similar to CC-BY-NC-ND (Creative Commons Attribution Non-Commercial No Derivatives License). Users are free to use the materials only for non-commercial purposes, provided that original works are properly cited and that no alterations, modifications, or changes to such works is made. This website may contain materials for which ETRI does not hold full copyright or for which ETRI shares copyright in conjunction with other third parties. Without explicit permission, any use of such materials without KOGL indication is strictly prohibited and will constitute an infringement of the copyright of ETRI or of the relevant copyright holders.
J. Kim et. al, "Trends in Lightweight Kernel for Many core Based High-Performance Computing", Electronics and Telecommunications Trends. Vol. 32, No. 4, 2017, KOGL Type 4: Source Indication + Commercial Use Prohibition + Change Prohibition
J. Sim et.al, “the Fourth Industrial Revolution and ICT – IDX Strategy for leading the Fourth Industrial Revolution”, ETRI Insight, 2017, KOGL Type 4: Source Indication + Commercial Use Prohibition + Change Prohibition
If you have any questions or concerns about these terms of use, or if you would like to request permission to use any material on this website, please feel free to contact us
KOGL Type 4:(Source Indication + Commercial Use Prohibition+Change Prohibition)
Contact ETRI, Research Information Service Section
Privacy Policy
ETRI KSP Privacy Policy
ETRI does not collect personal information from external users who access our Knowledge Sharing Platform (KSP). Unathorized automated collection of researcher information from our platform without ETRI's consent is strictly prohibited.
[Researcher Information Disclosure] ETRI publicly shares specific researcher information related to research outcomes, including the researcher's name, department, work email, and work phone number.
※ ETRI does not share employee photographs with external users without the explicit consent of the researcher. If a researcher provides consent, their photograph may be displayed on the KSP.