본 기술이전 시스템 혹은 앱을 사용자가 자신이 사용하는 PC 혹은 모바일 단말에 서비스로 설치하면, 사용자가 사용하는 SNS 앱을 자동 감시하여 대화 내용 및 미디어 정보를 지식정보화하여 저장하고, AI 분석 기술을 통해 지식정보에 저장된 대화 내용 및 미디어 정보를 분석한 후, 온라인그루밍 위험성 정보를 사용자에게 제공한다. 또한, 유해사이트로부터 아동/청소년을 보호하기 위해 접속하는 웹페이지가 유해사이트 여부를 사전 판단하기 위한 정보를 구축해야한다. 이를 위해, 유해사이트를 자동으로 검색하고 수집하는 기능을 사용자에게 제공한다.
이를 위하여, 1) 사용자가 사용하는 특정 SNS 앱의 대화화면 정보와 주고받는 미디어 파일을 수집하여, 관심영역을 추출한 후 개별 앱 특성에 맞는 대화 재현을 한 후 지식베이스에 관련 정보를 저장하는 기능을 제공한다. 또한, 2) 사용자가 주고받은 대화 및 미디어 지식베이스를 읽어서, 대화 의미 분석, 미디어 유해성 분석을 수행한 후 의미 복합 기반 그루밍 탐지 및 대응을 제공한다. 3) 유해사이트를 자동 검색하여, 유해사이트 정보를 자동 수집하는 기능을 제공한다.
아동/청소년 등을 디지털미디어의 역기능으로부터 보호하기 위해, 소셜미디어 및 인터넷을 통해 발생하는 온라인그루밍 위험성과 유해사이트를 분석하고 사전탐지할 수 있도록, 모바일 단말과 PC에서 동작하는 사용자 대화 및 미디어 분석 기술을 통해 대화, 미디어, 유해사이트의 노출 위험성정보를 제공하도록 한다.
본 기술 중 SNS 미디어 유해성 분석 기술은 수집 모듈, 지식베이스 구축 모듈, 분석 및 온라인그루밍 진단 모듈로 구성된다. 사용자 미디어 수집 및 구성요소 획득 블록에서는 사용자의 앱 정보를 수집하기 위해, 화면과 파일을 수집하고 관심 객체를 추출한 후 문자를 인식하여 관련 미디어 정보를 수집한다. 앱 특성 기반 지식베이스 구축 블록에서는 수집된 미디어 정보를 기반으로 대화를 복원하고 분석을 위한 탐지 지식베이스를 저장한다. 수집 미디어 의미 복합 분석 및 온라인그루밍 진단 블록에서는 수집된 미디어 정보를 분석하여 텍스트의 악성여부와 이미지의 유해성을 판별한 후 온라인그루밍과의 연관성을 분석하여 저장한다. 대화 분석을 지원하는 주요 SNS 앱으로는 카카오톡, 라인, 텔레그램 앱이며, PC와 모바일을 지원한다. 또한, 인터넷에서 소비되는 음란물을 자동으로 검출하는 기술에 대한 수요가 증가하고 있다. 본 기술은 이러한 수요를 충족시키기 위한 기술로서, 인터넷에서 자동으로 키워드를 이용하여 성인사이트를 검색하고, 해당 사이트의 이미지와 텍스트를 수집한 후 인공지능 기반으로 분석하여, 자동으로 성인사이트를 분석/분류하는기술을 제공한다.
- SNS 대화 화면 수집 기술
- SNS 대화 내용 복원 기술
- 텍스트 문장 악성/유해성 기술
- 유해 이미지/동영상 판별 기술
- 대화 수집 및 분석 통합 웹서버 및 DB 관리 기술
- SNS 대화 수집 및 유해성 탐지 웹 클라이언트 기술
- SNS 대화 수집 및 유해성 탐지 안드로이드 앱 기술
- 유해 사이트 크롤러 기술
- 텍스트 분석 및 검색 키워드 추출 기술
- 유해 사이트 정보 DB 수집 및 웹 서비스 기술
● 국내특허 3건 (세부 내용 첨부문서 기술이전계획서 2.다 항목 참조)
● 기술문서
- 요구사항 정의서
- 시험절차 및 결과서
● 프로그램 3건 (프로그램을 구성하거나 관련되어 동작하는 다음의 소스코드 제공)
- SNS 대화 화면 수집 모듈 (PC 및 모바일)
- SNS 대화 내용 복원 모듈 (PC 및 모바일)
- 텍스트 문장 악성/유해성 판별 모듈 (PC)
- 유해 이미지/동영상 판별 모듈 (PC 및 모바일)
- 대화 수집 및 분석 통합 웹서버 및 DB 관리 모듈 (PC)
- SNS 대화 수집 및 유해성 탐지 웹 클라이언트 모듈 (PC)
- SNS 대화 수집 및 유해성 탐지 안드로이드 앱 (모바일)
- 유해 사이트 크롤러 모듈 (PC)
- 텍스트 분석 및 검색 키워드 추출 모듈(PC)
- 유해 사이트 정보 DB 수집 및 웹 서비스 모듈 (PC)
- 유해 사이트 정보 확인 웹 UI 클라이언트 모듈 (PC)
사용자를 온라인그루밍 및 유해미디어로부터 보호하기 위한 솔루션으로 활용
- (온라인그루밍 진단 기술의 경우) SNS, 온라인 대화/회의 분야에서 온라인그루밍 탐지 및 자가진단에 활용 가능
- (퍼스널 미디어 지식베이스 구축 기술의 경우) 개인화된 지식정보 구축을 통해 사용자 특성을 반영한 미디어 추천 및 검색 서비스에 활용 가능
- (미디어 기반 유해성 분석 기술의 경우) 아동/청소년 대상으로 유해 미디어의 노출을 차단하고 건전한 미디어 소비환경을 제공하기 위한 서비스에 활용
- (자연어 처리 기반 대화의미 분석 기술의 경우) AICC (AI Contact Center)에서의 성희롱, 욕설 등으로부터 컨텍 센터 상담원 보호 시스템에 활용 가능
- (PC 기반 미디어 수집 및 유해 분석 기술의 경우) ISP, 교육청 등에서 사용 중인 유해차단 서비스에 활용 가능