대화 기반 설명가능성을 멀티모달로 제공하는 인공지능 기술 개발

과제 수행 기간

2022.04.01-2026.12.31(4년 9개월)

연차별 계획

<1단계> : 1-3차년도

• 1차년도

-XAI 분야별시나리오 코퍼스 설계 및 구축

-사용자 수준에 맞는 일반 대화 시스템 베이스라인 구축

-위협 상황 대화 및 마비말환자 음성에 대해 최적화 된 전처리 기법 연구

• 2차년도

-설명 가능한 지식 선택이 가능한 적절한 지식 추출 모델

-분야별 XAI 코퍼스 고도화 및 사용자 수준 DB 코퍼스 구축

-Analytic statement, Visualizations 방식을 활용한 설명가능한 방식의 적용

• 3차년도

-Cases 방식을 활용한 설명가능한 방식의 적용

-법률 분야의 XAI 적용을 위한 위협상황판별 기술 훈련 대화 음성 전처리 수행

<2단계> : 4-5차년도

• 4차년도

-XAI 설명 모드의 복합 적용으로 설명 방식의 고도화

-사용자 수준별 맞춤형 설명가능성 제공 대화 시스템 프로세스 구축

-총괄과제와 협업을 통한 실증 시나리오 코퍼스 고도화

-각 도메인(언어, 음성) 단계별(난이도 별) 알고리즘 통합

• 5차년도

-대화 기반 설명 가능성 모델의 멀티모달 인터페이스 적용

-총괄과제와 공동 실증서비스 분야 실증서비스 적용

-실증서비스 개발

참여범위

주관 기관으로 본 과제 총괄을 담당

• 대화 기반 설명가능성을 멑티모달로 제공하는 AI 기술 설계
• 사용자와의 멀티모달 인터페이스 모델 지식 학습 및 구축 기술 개발
• 3종(analytic statements, visualizations, cases)의 설명모드로 구현하는 설명가능 모델 개발
• 대화 기반 설명가능성 제공 기술 개발
• 다양한 대화를 통해서 위협상황을 인지, 구분하고, 각 위협상황에 따른 법적 조치 제공 애플리케이션
• 기능마비말장애 환자가 집에서 스스로 자가 언어 훈련이 가능하고, 치료의 순응도를 높이는 보이스 대화형 인공지능 및 게임화 설계 기반 애플리케이션
• 마비말장애 환자의 음성 오류 애노테이션 후 오류 결과, 오류 패턴, 오류의 특성 및 정도 제공
• 마비말장애 환자의 오류 패턴 및 빈도를 분석 후 맞춤형 치료 콘텐츠 자동 생성

연구 내용

• 인공지능 학습 모델의 설명가능성 지식을 표준 체계로 구축하여, 사용자 수준별 맞춤형 설명이 가능한 대화형 인터페이스 기반의 설명 모드 기술 개발

설명 가능한 AI의 법률,의료 분야 적용으로 음성 대화 데이터을 위협상황을 5가지로 분류하고 적절한 근거로 결과를 설명하는 모델을 개발함. 이처럼 마비말장애 사용자의 언어 능력 향상을 위해 학습 후 학습도를 평가결과를 적절한 근거로 설명하는 인공지능 기술을 개발함.

-AI 모델 설명가능성 대화 인게이지먼트 : CPS 25 이상

-AI 모델 설명가능성 대화 자연스러움 : SSA 85%이상

-3가지 방식의 사용자 수준별 맞춤형 설명가능한 인공지능 모델 개발

• 사용자 수준에 맞도록 설명을 생성하기 위해 美 DARPA에서 제시한 XAI 설명모드 3가지 이상(Analytic statements, Visualizations, Cases, Rejections of alternative choices)을 활용하여 설명문을 생성함.

-사용자와 대화를 통해 판단과정과 결과를 제공하는 대화형 인터페이스 개발

• 사용자와의 다회턴 대화를 통해 판단의 적절한 근거를 제공함과 동시에 사용자 이탈을 최소화 할 수 있는 UX/UI 연구를 함께 진행함. 따라서 대화형 설명 모드를 통해 더욱 자연스러운 설명성을 제공하는 대화형 설명 모드 인터페이스를 개발함

-일반인 대상 설명가능성의 만족도평가 : FGI 90%이상

-실증 서비스 개발