영국 출신의 제프리 에베레스트 힌튼 교수(Prof. Geoffrey Everest Hinton)는 인지심리학자로 1980년부터 이미 수많은 알고리즘을 개발하며 딥러닝 분야를 이끈 ‘인공지능(AI) 분야의 대부’로 불린다. 힌튼 교수는 그가 대학생이던 1972년 데이터를 분석하여 기술을 학습하는 수학적 시스템인 신경망’이라는 개념에 대해서 이해하기 시작했으며, 이후 평생을 학자로 살아오면서 인공지능의 개발과 활용에 대해서 인생을 바친 사람이다.
힌튼 교수는 특히 딥러닝의 학습 과정에서 가장 핵심적인 기술 중 하나라고 평가받는 신경망 기계 번역 알고리즘을 개발했으며, 이는 자연어 처리 분야에서 큰 혁신을 불러온 기술로 평가받고 있다.
2012년 힌튼 교수는 그의 제자 일리야 수츠케버(Ilya Sutskever, 현재 OpenAI 수석과학자), 알렉스 크리셰프스키(Alex Krizhevsky, 현재 토론토 대학교 연구원)와 함께 수천 장의 사진을 분석하고 꽃, 개, 자동차 등 일반적인 사물을 식별하는 방법을 통해서 인공지능이 스스로 학습할 수 있는 신경망을 구축했다.
2018년에는 힌튼 교수와 다른 두 명의 오랜 공동 연구자가 신경망 연구를 통해서 ‘컴퓨팅계의 노벨상’으로 불리는 튜링상을 수상한 바 있다. 힌튼 교수는 본인의 스타트업 회사를 구글에 매각한 후 구글에서 연구원으로 10년 넘게 활동하며 가장 존경받는 목소리 중 한 명으로 평가받고 있다.

그런 그가 갑작스럽게 퇴사를 선택했다. 힌튼 교수는 먼저 “인공지능이 세상에 심각한 해를 끼칠 수 있다는 우려를 세상과 자유롭게 나누기 위해서” 구글을 떠난다고 밝혔다.
힌튼 교수는 “제가 하지 않았다면 다른 누군가가 해냈을 것이라는 평범한 변명으로 스스로를 위로하고 있습니다”라고 밝히며, 뉴욕타임스와의 인터뷰를 시작했다. 힌튼 교수는 나쁜 사람들이 나쁜 마음을 먹고 인공지능을 악용하는 것을 어떻게 막을 수 있을지 알기 어렵다며 말문을 열었다. 더 충격적인 것은 그는 자신의 인생을 후회하고 있으며, 획기적인 창조자에서 종말론자가 되고 있는 듯 보였다는 점이다.
사실 힌튼 교수의 우려는 하루 이틀 일이 아니다. 이미 인공지능은 잘못된 정보를 그럴싸하게 제공하고 있는 도구가 되고 있으며, 이에 많은 업계 관계자는 위험한 무엇인가를 야생에 풀어놓은 것이 아닌가 하는 두려움에 사로잡혀 있다. 힌튼 교수 역시 이미 인터넷에 거짓 사진, 동영상, 텍스트가 넘쳐나고 있으며 일반인은 더 이상 무엇이 진실인지 알 수 없게 될 것이라고 우려를 표했다.
인공지능은 이에 더해서 사람들의 일자리를 위협하고 있으며 언젠가는 우리 모두를 큰 위험에 처하게 할 수도 있다. 이에 관해서 캐나다의 임상 심리학자 조던 피터슨 교수 (Prof. Jordan Peterson) 역시 이미 비슷한 의견을 밝힌 바 있다.

힌튼 교수가 신경망을 구축하며 이를 발전시키고 있을 때, Google이나 OpenAI 및 다른 회사들 역시 방대한 양의 디지털 텍스트로부터 학습하는 신경망을 구축하기 시작했다. 처음엔 힌튼 교수도 위 알고리즘이 기계가 언어를 이해하고 무언가를 생성할 수 있는 강력한 방법이지만, 인간이 언어를 다루는 방식에 비해서는 열등하다고 생각했다. 하지만 작년에 구글과 OpenAI가 훨씬 더 많은 양의 데이터를 사용하여 시스템을 구축하기 시작하면서 그의 생각이 바뀌기 시작했다고 한다.
특히, 그는 작년까지만 해도 구글이 해를 끼칠 수 있는 기술을 공개하지 않도록 주의하며 “적절한 집사 및 청지기” 역할을 했지만, 마이크로소프트가 챗봇으로 Bing 검색 엔진을 강화하며 구글의 핵심 비즈니스에 도전장을 내밀자, 상황이 완전히 달라졌다고 주장한다. 구글도 즉시 같은 종류의 기술을 배포하기 시작하며 경쟁하고 있기 때문이다. 힌튼 교수는 이러한 경쟁이 매우 위험하다고 밝히며 거대 기술 기업들이 멈출 수 없는 경쟁 쳇바퀴에 갇혀 있다고 주장했다.

그는 또한 많은 사람이 우려하는 것처럼 인공지능 기술이 머지않아 고용 시장을 뒤흔들 것이라고 우려한다. 현재 ChatGPT와 같은 챗봇은 인간 근로자를 주로 보완하는 경향이 있지만, 법률 보조원, 개인 비서, 번역가 등 반복적인 업무를 처리하는 사람들은 이에 대체될 수 있음을 경고했다.
이어서 그는 인공지능이 분석하는 방대한 양의 데이터에서 예상치 못한 행동을 학습하는 경우가 많기 때문에 미래 버전의 기술이 인류에게 위협이 될 수 있다고 우려를 전했다. 그는 개인과 기업이 인공지능 시스템이 자체 컴퓨터 코드를 생성할 뿐만 아니라 실제로 그 코드를 스스로 실행하도록 허용할 때 문제가 될 수 있다고 주장했는데, 이는 즉 “킬러 로봇”이 현실화될 날을 두려워하고 있다고 설명했다.

그는 여전히 인공지능이 어떤 면에서는 인간의 두뇌보다 열등하다고 믿지만, 다른 면에서는 인간의 지능을 훨씬 능가하고 있다고 의견을 밝혔다. 또한, 기업이 인공지능 시스템을 개선할수록 점점 더 위험해질 것이라고 의견을 밝혔다. 힌튼 교수는 5년 전과 지금을 비교해 보면 너무 두려워진다고 설명했다.
로봇이 실제로 사람보다 더 똑똑해질 수 있다는 생각은 소수의 사람만 믿었다. 대부분 사람은 매우 낮은 실현 가능성이거나 적어도 30년에서 50년은 걸리리라 생각했지만, 힌튼 교수 본인은 더 이상 그렇게 생각하지 않는다고 의견을 밝혔다.

그의 학생과 동료를 포함한 많은 다른 전문가들은 이러한 위협이 가설에 불과하다고 주장한다. 하지만, 힌튼 교수는 글로벌 규제가 없다면 구글과 마이크로소프트, 그리고 다른 기업 간의 경쟁이 결코 멈추지 않을 경쟁으로 확대될 것이라고 주장했다.
힌튼 교수는 물론 그의 우려가 일어나지 않을 수도 있다고 밝혔다. 또한, 최선의 희망은 세계 최고의 과학자들이 기술을 통제할 수 있는 방법을 찾기 위해 협력하는 것이라고 밝히며, 인공지능의 통제 여부를 파악할 때까지는 이 기술을 더 확장해서는 안 된다고 생각한다고 주장했다.
구글의 수석 과학자 제프 딘은 이에 관해서 우리는 인공지능에 대한 책임감 있는 접근 방식을 고수하고 있으며 혁신적이지만, 위험한 상황을 이해하기 위해서 지속해 학습하고 있다고 밝혔다.

한편, 지난 3월 샌프란시스코의 스타트업 OpenAI가 ChatGPT의 새 버전을 출시한 후, 온 세상은 ChatGPT로 순식간에 물들고 있다. 저마다 사람들은 위 도구를 본인의 입맛에 맞게 사용하고 있으며, ChatGPT가 종종 사람보다 똑똑하다는 사실에 놀라곤 한다. 반면, 1,000명 이상의 인공지능 기술 리더와 연구자들은 인공지능 기술이 “사회와 인류에 심각한 위험을 초래할 수 있다”며 새로운 시스템 개발을 6개월간 유예할 것을 촉구하는 공개서한에 서명하기도 했다.
이로부터 며칠 후, 인공 지능 발전 협회의 전현직 지도자 19명 역시 인공지능의 위험성을 경고하는 서한을 발표한 바 있다. 위 서명에는 Bing 검색 엔진을 비롯하여 다양한 제품에 OpenAI의 기술을 도입한 마이크로소프트의 최고 과학 책임자 에릭 호르비츠도 포함되었다.
힌튼 교수는 위 두 서한에 모두 서명하지 않았지만, 주된 이유는 직장을 그만두기 전까지는 구글이나 다른 회사를 공개적으로 비판하고 싶지 않기 때문이라고 의견을 밝힌 바 있다. 그런 힌튼 교수가 지난달 회사에 사직 의사를 밝혔고, 마침내 그의 우려를 세상에 알렸다.