최근 기술산업계 주요 기업체들을 대상으로 실시한 설문조사에 의하면 Amazon社와 Microsoft社 같은 선두기업체들이 킬러 인공지능을 통해 전 세계를 위험에 놓이게 하고 있다는 결과가 나타나 관련 내용을 상세히 살펴보고자 한다.

네덜란드의 비영리단체인 PAX社는 아래와 같은 3가지 기준에 의거, 약 50개 기업을 선정하였다고 한다; 1) 개발중인 기술이 킬러 인공지능에 활용될 수 있거나, 2) 군사용 프로젝트들에 참여되고 있거나, 3) 미래 군사적 응용프로그램에 참여하지 않기로 약속된 경우

상기 3가지 기준에 의거, 세계를 위험에 놓이게 만들 수 있는 가장 위험성이 높은 기업들로는 Amazon과 Microsoft가 선정되었으며, Google은 적절한 보호조치를 구현하는 대기업들 중 위치하고 있는 것으로 나타났다고 한다. 여기서 Google은 방대한 데이터 수집을 추진하고 있는 기업적 특성을 고려할 때, 이들의 위치는 매우 놀라운 수준이라 볼 수 있겠으나, 이들 또한 최근 불거지고있는 미 국방부와의 인공지능 프로젝트(Project Maven) 계약으로 논란이 일어나고 있는 상황이다.

특히 이번 설문결과에서 언급된 가장 위험성이 높은 기술기업 중 하나인 Microsoft는 지난 2월 분기보고서를 통해 인공지능 기술제공이 자사의 명성을 손상시킬 수 있다는 경고를 투자자들에게 언급한 것으로 나타났는데, 일부 인공지능 시나리오가 윤리적 문제를 야기할 수 있으며 인권을 비롯해 개인정보보호나 고용 및 기타 사회적 문제에 영향을 미칠 수 있는 논란이 있어 인공지능 솔루션을 사용하거나 제공할 경우 자체 브랜드나 명성에 손해를 입힐 수 있음을 언급하기도 한 것으로 나타났다.

현재 Amazon과 Microsoft는 미군에 클라우드 기반설비를 제공하기 위한 100억 달러 수준의 입찰계약을 추진하고 있으며, 이러한 계약을 두고 기술대기업들이 추가적인 조치를 취하지 않을 경우 치명적인 자동화무기개발에 사용되어 예상치못한 결과를 불러일으킬 수 있는 우려가 제기되고 있는 실정이다.