기술이전 대상 기술은 악성대화 탐지 결과를 기반으로 악성대화 발언자에게 악성대화 발생에 대한 안내와 주의를 요청하고 사용자의 후속 질의에 대해 악성대화 증거 데이터를 기반으로 응답을 진행하는 멀티턴 대화가 가능한 챗봇 기술이다.
▷ 목적:
- 본 메타버스상의 악성대화 대응을 위한 챗봇 기술은 사용자간의 챗팅에서 발생한 악성대화 발언자를 대상으로 메타버스 보안관 캐릭터가 대응할 수 있는 발언을 제공하는 챗봇 시스템 구축을 목적으로 한다.
- 기술이전은 메타버스 테스트베드를 통해 기능 및 연동시험을 완료한 기술을 기반으로 시행 착오를 줄여 상용화에 필요한 시간을 단축하고, 그 비용을 줄이는데 그 목적이 있다.
▷ 필요성:
- 악성대화 탐지 기술을 보유한 기관에서는 메타버스 악성대화 어뷰징 대응 백엔드 시스템 구축을 위해 본 챗봇 기술이 필요하다.
- 콘텐츠의 가상 캐릭터와 사용자 (아바타)간 대화형 인터랙션이 필요한 콘텐츠 사업자는 사용자 분석 모듈을 적용하여 특정 상황에 사용자 참여를 유도하고 콘텐츠의 맥락에 따라 대화를 진행하는 대화형 AI 에이젼트로 확장하기 위해 본 챗봇 기술 이전이 필요하다. 특히 교육용 콘텐츠일 경우 악성대화 탐지를 챗봇의 사용자와 챗봇간의 대화에 적용하여 챗봇 자체의 신뢰도, 만족도를 향상 시킬 수 있다.
▷ 본 챗봇 기술은 REST API 형태의 개방형 인터페이스를 제공하여 다양한 형태의 시스템에서 연동이 용이함.
▷ 메타버스상에서 악성대화 상황 발생에 따라 악성대화 발언자에게 능동적인 대응이 가능하도록 초기 안내 및 자제 요청 발언 생성 제공
▷ 초기 악성대화 발생 안내 발언부터 후속 사용자 질의/응답 다이얼로그 관리를 통한 멀티턴 대화 제공
▷ 자연스러운 대화를 위해 LLM 생성형 언어 모델을 사용하고 그 입력으로 사용자 질의와 함께 악성대화 탐지 근거가 되는 내부데이터를 활용하여 보다 정확한 응답 생성
o 메타버스 상의 악성대화 대응을 위한 챗봇 기술
- 악성대화 대응 챗봇 연동을 위한 개방형 API 기술
- 악성대화 탐지 상황 기반 어뷰징 주의 안내 생성 기술
- 악성대화 탐지 증거 데이터 기반 사용자 질의/응답(멀티턴 대화) 기술
- 요구사항정의서
- 시험절차 및 결과서
- 시스템 인터페이스 설계서
- 메타버스 악성대화 어뷰징 대응 챗봇 프로그램
▷ 메타버스 악성대화 대응 서비스: 메타버스 상의 보안관 캐릭터를 통해 악성대화 발언자에게 능동적으로 안내, 자제요청, 경고하여 사용자 간 갈등 상황을 미리 예방하여 건전한 서비스 환경 조성
▷ 악성대화 필터링이 가능한 대화형 AI 에이전트: 사용자의 발언과 챗봇에서 생성된 응답 발언에 대한 악성대화 여부를 판단하고 자제 요청하도록 응답하거나 대체 표현 등을 적용하여 챗봇 기술에 대한 신뢰도, 고객 만족도 향상