초록 ▼

용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

인공지능(Artificial Intelligence, AI) 알고리즘이 광범위한 영역에 적용되고, 심층 신경망(Deep Neural
Network, DNN)과 같은 비선형적이고 복잡한 모델이 등장함에 따라 설명 가능한 인공지능(Explainable
AI, XAI)에 대한 필요성이 제기되었다. 수많은 학자들은 설명 가능한 인공지능이 제공하는
설명(Explanation)에 대한 사용자 중심 평가의 필요성을 인식하고 있지만 아직까지는 사용자 중심
설명을 생성하고 평가하는 방법에 대한 학계 간 합의가 모호한 실정이다. 이에 본 연구에서는
다학제간 관점에서 알고리즘적으로 개발되고 ...

인공지능(Artificial Intelligence, AI) 알고리즘이 광범위한 영역에 적용되고, 심층 신경망(Deep Neural
Network, DNN)과 같은 비선형적이고 복잡한 모델이 등장함에 따라 설명 가능한 인공지능(Explainable
AI, XAI)에 대한 필요성이 제기되었다. 수많은 학자들은 설명 가능한 인공지능이 제공하는
설명(Explanation)에 대한 사용자 중심 평가의 필요성을 인식하고 있지만 아직까지는 사용자 중심
설명을 생성하고 평가하는 방법에 대한 학계 간 합의가 모호한 실정이다. 이에 본 연구에서는
다학제간 관점에서 알고리즘적으로 개발되고 시뮬레이션 되어 온 세 가지 유형의 설명(반사실적 설명,
사회적 설명 및 성능 기반 설명)을 정의하였다. 그 다음, 금융 추천 시스템을 중심으로 세 가지 유형의
설명과 상호작용하는 인간의 인지 부하, 투명성, 신뢰성, 만족성을 객관적(뇌전도:
Electroencephalogram, EEG 및 심전도: Electrocardiogram, ECG), 주관적 방법을 통해 평가하였다.
실험은 피험자 내 설계(Within-Subjects Design)로 진행되었으며, 총 10 명이 참여하였다. 연구 결과,
사회적 설명 및 성능 기반 설명이 후두엽 영역을 중심으로 상대 알파파 및 베타파를 낮추는 데 효과가
있었으며, 이완된 심장 상태를 유도하여 인간의 인지 부하를 완화하는데 크게 기여하는 것으로
나타났다. 또한, 주관적 평가에서는 전체 설명 유형이 시스템에 대한 인간의 투명성, 신뢰성 및
만족성을 높이는데 영향을 주는 것을 확인하였다. 이 연구는 설명 가능한 인공지능이 제공하는 설명에
대한 객관적 및 주관적 평가를 병행하여, 금융 추천 시스템 도메인에서 관련 연구자 및 디자이너에게
사용자 중심 설명을 생성하고 평가하는 방법에 대한 지식의 확장에 기여한다.

Keyword