초록 ▼

인공지능의 의사결정을 신뢰하지 못하여 인공지능 도입을 꺼리거나 인공지능을 도입하고도 실제 의사결정에 반영하지 못하는 ‘수용성’과 ‘활용성’ 문제가 많이 발생하고 있다. 커뮤니케이션 방식별로 인간 의사 결정자를 위한 AI 기반 조언에 대한 신뢰를 형성하는 인지 메커니즘을 알아보기 위해서 본 연구에서는 339명의 일반인을 대상으로 AI가 조언을 제공하는 의사결정 커뮤니케이션 실험을 실행하였다.

우리의 분석 결과, 커뮤니케이션 방식별로 AI에 대한 신뢰 형성에 차이가 있었다. 그러나 이러한 신뢰객체(AI)에 대한 커뮤니케이션

인공지능의 의사결정을 신뢰하지 못하여 인공지능 도입을 꺼리거나 인공지능을 도입하고도 실제 의사결정에 반영하지 못하는 ‘수용성’과 ‘활용성’ 문제가 많이 발생하고 있다. 커뮤니케이션 방식별로 인간 의사 결정자를 위한 AI 기반 조언에 대한 신뢰를 형성하는 인지 메커니즘을 알아보기 위해서 본 연구에서는 339명의 일반인을 대상으로 AI가 조언을 제공하는 의사결정 커뮤니케이션 실험을 실행하였다.

우리의 분석 결과, 커뮤니케이션 방식별로 AI에 대한 신뢰 형성에 차이가 있었다. 그러나 이러한 신뢰객체(AI)에 대한 커뮤니케이션과 같은 관계 요인 보다는 신뢰주체(AI 사용자) 요인이 신뢰도 차이에 영향을 더 크게 미쳤다. 실제 AI의 성능은 96%로 높았으며, 이를 절대적/상대적 방식으로 커뮤니케이션 하였으나 이 정보를 받아들이는 AI 사용자는 크게 3개 그룹으로 나뉘었다. 이들은 AI 에러를 어떻게 인지적으로 처리하느냐에 따라 저신뢰자, 중간 신뢰자, 고 신뢰자로 나뉘었다. AI에 대한 의존도가 높을수록 인간은 증강되었으나, AI는 증강되지 않았다. 명확한 업무, 계산 업무와 같은 업무에서는 AI가 더 우수하기 때문인 것으로 추론된다.

인간-AI 증강을 위해 AI에 대한 신뢰를 형성하는 커뮤니케이션과 인지 메커니즘을 조사함으로써 이 보고서는 AI에 대한 새로운 논의에 세 가지 방식으로 기여한다. 첫째, 우리는 AI가 조직에서 신뢰를 얻고 활용되기 어려운 이유에 대해 AI 사용자의 요인이 크다고 주장한다. AI시스템 신뢰도를 향상시키기 위해서 AI 시스템의 신뢰도를 높이기 위한 커뮤니케이션 방식을 개발함과 동시에 이를 받아들이는 AI 사용자의 인식, 특히 인지 편향과 같은 인지오류에 대한 연구가 중요함을 이야기 한다. 둘째, 대인 신뢰에 있어서는 과도한 신뢰 보다는 최적의 신뢰를 강조하나 AI 신뢰에 있어 AI가 우수한 분야의 업무는 AI에 대한 신뢰가 높을수록 인간을 증강시키므로 좋은 성과를 얻는데 도움이 될 수 있다. 따라서 AI 사용자 인지 메커니즘을 규명하여 AI에 대한 신뢰를 높이기 위한 커뮤니케이션 연구는 인간-AI 증강을 위해 중요하다. 셋째, AI에러 등 AI 사용자가 AI시스템을 경험함에 따라 발생하는 일들에 대한 AI 사용자의 인식을 고려한 AI 시스템 설계가 중요하다.

(출처 : 요약문 4p)

Abstract ▼

There are many problems of 'acceptability' and 'usability' that people are reluctant to introduce AI because they do not trust the decision-making of AI or do not reflect it in actual decision-making even after introducing AI. In order to investigate the cognitive mechanisms that form trust in AI-ba

There are many problems of 'acceptability' and 'usability' that people are reluctant to introduce AI because they do not trust the decision-making of AI or do not reflect it in actual decision-making even after introducing AI. In order to investigate the cognitive mechanisms that form trust in AI-based advice for human decision makers by communication method, this study conducted a decision communication experiment in which AI provided advice to 339 ordinary people.
As a result of our analysis, there were differences in the formation of trust in AI by communication method. However, the trust subject (AI user) factor had a greater impact on the difference in trust than the relationship factors such as communication with the trust object (AI). The actual performance of AI was as high as 96%, and it was communicated in an absolute/relative way, but AI users who accepted this information were largely divided into three groups. They were divided into low-trust, medium-trust, and high-trust according to how they cognitively handle AI errors. The higher the reliance on AI, the stronger the human, but not the AI. It is inferred that this is because AI is better at tasks such as clear tasks and calculation tasks.
By examining the communication and cognitive mechanisms that shape trust in AI for human-AI augmentation, this report contributes to the emerging discussion of AI in three ways. First, we argue that the factor of AI users is a strong reason why AI is difficult to gain trust and use in organizations. In order to improve the reliability of the AI system, it is important to develop a communication method to increase the reliability of the AI system and to study the perception of AI users who accept it, especially cognitive errors such as cognitive bias. Second, in interpersonal trust, optimal trust is emphasized rather than excessive trust, but in AI trust, work in areas where AI is superior can help to obtain good results because the higher the trust in AI, the more human beings are augmented. Therefore, communication research to increase trust in AI by identifying AI user recognition mechanisms is important for human-AI augmentation. Third, it is important to design an AI system that considers the AI user's perception of AI errors and other things that occur as the AI user experiences the AI system.

(source : Summary 5p)

목차 Contents

• 표지 ... 1
• 제 출 문 ... 2
• 최종보고서 ... 3
• 요 약 문 ... 4
• Summary ... 5
• Contents ... 6
• 목차 ... 7
• 1. 연구개발과제의 개요 ... 8
• 2. 연구개발수행 내용 및 결과 ... 9
• 2-1. 문헌 연구 ... 9
• 2-2. 실험 연구 디자인 ... 14
• 2-3. 연구 결과 ... 17
• 2-4. 토론 ... 25
• 2-5. 결론 ... 26
• 3. 목표 달성 정도 ... 26
• 4. 연구개발성과의 관련 분야에 대한 기여 정도 ... 26
• 5. 연구개발성과 활용 계획 ... 27
• 6. 참고문헌 ... 28
• 별첨 1. 게임 방법 ... 32
• 별첨 2. 실험 제시문(인공지능 작동원리 정보) ... 34
• 끝페이지 ... 35