오늘날 대부분의 인공지능은 딥러닝 원리로 작동하고 있다. 주어진 일련의 데이터와 원하는 결과의 집합으로 자신의 알고리즘을 만들어 낸다. 인공지능은 이 과정을 영속적으로 반복한다. 이 시스템을 인공 신경망이라고 하며, 수작업으로 평생이 걸릴 코드를 사람보다 빨리 만들어 낼 수 있는 인공지능의 핵심이다.

MIT 전기 공학 및 컴퓨터 과학과 교수 토미 잭콜라는 작은 신경망은 이해할 수도 있지만 수백 개의 층이 수천 개로 이루어진 매우 큰 인공 신경망은 거의 이해할 수 없게 된다. 현재 우리는 이 거대한 시스템에 도달해 있다. 따라서 이 기계가 자신을 설명할 수 있게 하고 신뢰할 수 있는 용도로 사용하기 전에 풀어야 할 문제가 있다. 어떻게 신경망이 생각하는 것일까?

1. 알고리즘 반전. 이미지 인식의 경우 컴퓨터가 패턴을 학습하고 인지했을 때 그림을 생성하거나 변화시키는 프로그램을 포함한다. 예를 들어 아담의 창조를 변형한 딥 드림의 경우 AI는 개로 인식한 지점에 개의 그림을 넣어 변형하라는 명령을 받았다. 첫 번째로 인공지능은 개의 주요 특징으로 머리를 만들어 내고 두 번째로 컴퓨터가 인식한 개는 그림의 왼쪽인 아담과 오른쪽인 신의 주변에 몰려 있음을 알 수 있다. 이 과정을 통해 인공지능이 인식한 개가 어떤 것인지를 알 수 있다.

2. 사용된 데이터 식별. 이 과정은 AI가 인지하라고 지시받은 패턴을 구분하기 위해 추출하거나 강조한 텍스트를 찾아내는 것이다. MIT 델타 전자공학 교수 리자이나 바질레이가 처음 개발한 이 방법은 데이터에서 패턴을 탐색하거나 그에 따른 결정을 내리는 과정을 이해하는데 쓰인다. 워싱턴 대학의 머신러닝 교수 칼로스 구에스트린도 데이터를 표시하면서 왜 그것이 선택되었는지 간단하게 설명하는 유사한 시스템을 개발했다.

3. 개별 뉴런 모니터링. 우버 AI 랩의 머신러닝 연구원 제이슨 요신스키가 개발한 이 방법은 어떤 이미지가 뉴런을 가장 활성시키는가를 탐색하고 측정하는 기술이다. 이 방법을 통해 연역 과정에서 AI가 무엇을 가장 많이 참조하는지 추론할 수 있다.

그럼에도 불구하고 이런 방법들은 거의 효과적이지 않은 것으로 판명되었다. 구스테린은 아직 우리는 AI가 어느 부분에서 대화를 하고 설명할 수 있는지 큰 그림을 밝히지 못하고 있다. 진정으로 AI를 해석할 수 있을 때까지는 많은 시간이 걸릴 것이라고 말했다.

인공지능이 어떻게 작용하는지 이해하는 것은 이미 기계, 자동차, 금융, 채용 등 우리의 일상에 직접 영향을 주는 근본적인 영역에 AI가 적용되고 있는 상황을 고려할 때 중요한 일이다. 우리가 이해하지 못하는 막대한 능력을 적용하는 것은 믿을 수 없을 정도로 무모한 행동이 될 수 있다. 물론 AI는 정직하고 인간과 달리 진실과 인지의 차이에서 오는 고통을 겪지 않는다는 것은 분명하다.

문제의 핵심은 인공지능의 감정을 이해하는 것이다. 우리가 인공지능을 완벽하게 예측할 수 있다면 인공지능을 특징짓는 자율 지능을 빼앗을 수 있다. 우리는 인간이 어떻게 이런 결정을 하는지 이해하지 못하는 것과 의식도 여전히 수수께끼로 남아 있음도 염두에 두어야 한다. 그리고 세상도 그로 인해 아직 흥미로운 곳으로 남아 있는 것이다.