인공지능을 이용한 새로운 기술을 도입하는데 있어 가장 큰 장애물 중 하나는 AI 알고리즘을 통해 생성되고 예견된 데이터를 신뢰할 수 있는 가의 문제이다.

미국 남부 캘리포니아 대학의 비터비 공학부(USC Viterbi School of Engineering) 연구진은 AI 알고리즘에 의해 생성된 데이터와 예측이 신뢰할 수 있는지에 대한 새로운 자동 측정 지표를 개발했다. 이 내용은 Frontiers in Artificial Intelligence紙에 “결국 희망은 있다. 신경망 네트워크의 의견과 신뢰성에 대한 정량화(There Is Hope After All: Quantifying Opinion and Trustworthiness in Neural Networks)”라는 제목으로 발표되었다.

신경망 네트워크는 뇌를 본떠서 예측을 만들어 내는 인공지능의 일종이다. 그러나 신경망 네트워크가 만들어내는 예측은 믿을 수 있는가에 대한 의문이 존재한다. 자율주행차의 도입을 막는 주요 장애물 중 하나는 차량이 자체적으로 자동운전(auto-pilot)에 대한 독립적인 의사결정을 해야 한다는 것이다. 즉, 도로상에 있는 물체가 과속방지턱인지, 무생물체인지, 애완동물인지 또는 아이인지 등에 대해 신속히 인식하여 결정하고, 만일 다른 차량이 다가온다면 어떻게 반응해야 하는지 결정해야 한다. 다가오는 차량과 충돌할 것인지, 아니면 차량의 진로를 바꿔 무생물체 혹은 아이를 받을 것인지 결정해야 한다. 찰나의 시간에 차량 내 컴퓨터 소프트웨어가 이러한 결정을 하도록 신뢰할 수 있는가의 문제가 남는다. 이 경우 어떤 시스템이 신뢰할 수 있는지, 그리고 어떤 센싱 시스템이 가장 정확한지 아는 것은 자동 운전 시 결정에 도움이 된다.

보고서의 제1저자인 밍시 쳉(Mingxi Cheng)은 인간조차도 어떤 순간에는 결정을 내리지 못하는데, 충돌이 일어나는 정보가 동시에 들어올 경우 기계는 자신이 모르는 것을 인간에게 모른다고 왜 인정하지 못 하는가 라는 질문에 대한 해답을 찾고 있었다.

보고서의 공동 저자인 폴 보그단(Paul Bogdan) 교수는 DeepTrust라고 명명된 도구를 개발하였고, 이를 통해 불확실성을 계량화할 수 있다고 말했다. 따라서 인간의 개입이 필수적인 사항이라고 그는 주장했다.

연구진이 신경망 네트워크 구조를 평가하기 위한 논리 구현을 통해 이 도구를 개발하기까지 2년여의 시간이 소요되었다. 테스트 사례 중 2016년 미 대통령 선거 투표에서 DeepTrust는 클린턴 대통령 후보 당선예측은 매우 큰 에러율이 나타난다는 점을 발견했다.

이 연구의 다른 특이점은 수천에서 수백만 개의 데이터를 이용한 AI 알고리즘의 신뢰성을 어떻게 테스트할 것인지에 대한 시사점을 제공하는 것이다. AI 예측이 정확한지를 알려주는 각각의 데이터를 확인하는 작업은 상당한 시간이 소요된다. 연구진은 자신들의 신경망 네트워크 시스템 구조는 상당한 정확성을 갖는다고 주장했다. 보그단 교수는 만일 컴퓨터과학자가 정확성을 극대화하고, 동시에 신뢰성을 얻고자 한다면 이번 연구가 좋은 가이드로 참고할 수 있다고 말했다.

연구진은 개발한 모델이 이 분야에서는 최초라고 주장했다. 보그단 교수는 자신들이 아는 한 딥 러닝(deep learning), AI, 그리고 머신 러닝을 위한 신뢰 정량화 모델이나 도구는 존재하지 않는다고 말했다. 이번 연구는 첫 번째 사례로서, 향후 새로운 연구 방향을 제시한다고 주장했다. 그는 이번에 개발한 도구가 AI의 인식과 적응을 위한 잠재력을 가진다고 덧붙였다.