머신 러닝 기술이 수집하는 대량의 데이터로 인해 최종 이용자의 프라이버시가 그 어느 때보다도 중요해지고 있다.

인공지능은 비즈니스 현장에서 한창 도입을 논의하는 초기단계이다. 그러나 데스크톱과 모바일 어플리케이션이 머신 러닝 알고리즘을 이용하여 자동으로 수집하고 분석하는 데이터는 실재로 진행되고 있는 일이며, IT 관련 부서는 이러한 유형과 대량의 정보를 처리할 수 있는 능력을 갖추어야 한다. 특히 고용주가 직원의 디바이스 혹은 앱에서 개인정보 등을 볼 수 있다는 점에서 인공지능의 데이터 프라이버시 이슈가 불거지고 있다는 점을 인식해야 한다.

IT 조사기관인 Forrester Research社의 부사장인 안드라스 시어(Andras Cser)는 인공지능이 대량의 데이터를 필요로 하기 때문에 프라이버시 문제가 더 커질 수 있다고 말했다. 인공지능으로 인해 개인식별 가능한 데이터가 대량으로 수집되기 때문에 해당 데이터를 마스킹하는데 주의를 기울일 필요가 있다고 그는 지적했다.

비즈니스 어플리케이션과 디바이스는 여러 가지 방법으로 머신 러닝의 이점을 이용할 수 있다. 예를 들어 모바일 판매 앱은 장소 혹은 IP 주소 데이터를 수집할 수 있고, 이를 통해 소비자의 위치나 거주 지역을 파악할 수 있다. 만일 고용주가 직장에서 일할 때 사용하는 개인용 디바이스에 설치된 앱에 접근한다면 종업원이 직장에 있지 않을 때도 고용주는 해당 데이터를 볼 수 있다. 또는 이용자의 개인 앱을 통해 인사부서에서 해당 개인의 동의나 허락을 구하지 않고 정보를 수집할 수 있다.

인공지능의 이점을 이용한 건강 관련 디바이스는 심각한 위협이 될 수 있다. 모바일 전문가인 브라이언 카츠(Brian Katz)는 많은 수의 기업들이 웨어러블 단말기인 핏빗(Fitbits)을 종업원들에게 나누어주는데, 이를 통해 고용주는 종업원의 건강정보를 수집할 수 있다고 말했다. 이러한 유형의 단말기를 통해 수집된 인공지능 데이터는 고용주가 모르던 건강상태 정보를 알려주게 되어 실질적인 딜레마에 봉착하도록 한다.

인공지능 데이터에 대한 관리

머신 러닝과 관련된 데이터 프라이버시 이슈를 해결하기 위한 IT 부서의 대안은 수집하는 데이터를 “마스크(mask)”하거나 또는 익명화하여 특정인에 대한 특정 정보를 알 수 없도록 하는 것이다. 일부 기업들은 의무적인 컴플라이언스 규제로 이와 유사한 접근방법을 취하고 있다.

디바이스 제조업체들은 이러한 방법으로 이용자들을 보호하고 있다. 예를 들어 애플 iOS 10은 새로운 프라이버시 정책을 도입함으로써 앱과 데이터 이용 패턴을 통한 개인의 신원을 식별하지 못하도록 하고 있다.

카츠는 몇 가지 상호 연결할 수 있는 사항을 알게 된다면 개인을 식별할 수 있다고 말했다. 그는 인공지능을 통해 데이터 연결이 용이해지면서 프라이버시가 사라지고 있다고 지적했다. 사람들은 더 나은 이용경험을 원하고, 이를 위해 이용자에 대해 더 많은 사항을 알아야 하기 때문에 익명화하는 방법은 매우 어렵다고 주장했다.

암호화와 같은 도구가 데이터 프라이버시와 보안을 유지하는데 중요하다고 시어는 말했다. IT 부서는 어떠한 정보의 수집이 허용되고, 허용되지 않는지, 그리고 해당 정보로 어떠한 일을 할 수 있는지 명확히 이용자들에게 밝혀야 한다고 그는 지적했다. 아울러 이용자들은 해당 정보가 어떠한 것인지 이해하는 것이 중요하다고 그는 덧붙였다.

또 다른 모범사례는 일명 컨테이너화(containerization) 기술을 이용하여 기업과 개인의 앱을 분리하는 것이라고 그는 말했다. 기업의 모바일 관리 도구를 이용하여 기업의 앱만 설치되도록 구성될 수 있으며, 화이트리스트와 블랙리스트 관리를 통해 말웨어 감염을 막을 수 있다. 이러한 방법으로 개인의 앱에 대한 프라이버시를 해치지 않을 수 있다.

아직 진화하고 있는 데이터 프라이버시와 보안관련 법제

전 세계 프라이버시 규제는 매우 다양하고, 많은 기업과 국가들이 새롭게 부상하는 기술에 따라 해당 가이드라인을 업데이트하고 있다.

예를 들어 유럽연합은 종업원의 개인 프라이버시 보호를 위해 매우 강력한 규제정책을 입안하여 시행하고 있다. 개인은 그들 자신에 대한 정보 수집 시 반드시 고지 받아야 하며, 정보처리 역시 범죄행위에 대한 수사와 같은 “합법적인(legitimate)” 목적에서만 허용된다. 수집되는 정보 또한 안전하게 관리되어야 한다. 유럽연합 외부에 수집된 정보를 공유하는 조직에 대해서도 규제가 적용된다.

민주주의기술센터(Center for Democracy & Technology, CDT)의 프라이버시 및 데이터 프로젝트 정책관인 조세프 제롬(Joseph Jerome)은 미국의 법제는 다소 느슨하다고 말했다.

기본적으로 고용주는 일정한 동의 고지 등의 조건을 갖추면 어떠한 정보든 수집하여 이용할 수 있다고 그는 설명했다.

카츠는 이 때문에 기업들이 개인 단말기를 직장에서도 사용하는 BYOD(Bring Your Own Device) 보다 기업이 소유한 디바이스를 종업원들에게 제공하는 것을 선호한다고 말했다.

그는 이러한 환경에서 프라이버시 권리에 대한 기대수준이 낮고, 이것이 기업 고용주가 기업의 디바이스를 사용하도록 하는 이유라고 말했다. 기업의 디바이스에서는 매우 제한된 프라이버시 권리가 허용된다는 것이다.

시어는 인공지능과 프라이버시 문제를 연결할 때 몇 가지 흥미로운 질문이 있을 수 있다고 설명했다. 즉, 알게 된 정보에 대한 책임은 누가 질 것인가의 질문에 고용주, 머신 러닝 어플리케이션, 알고리즘 개발자 등의 의문이 있을 수 있다. 이러한 질문에 대한 해답은 아직 모호하다.

그는 법적 프레임워크는 이러한 종류의 정보를 다루기에는 아직 부족하다고 말하고, 여러 가지 사례를 기반으로 해답을 구해야 할 것이라고 설명했다.

머신 러닝이 도움이 될 것인지, 아님 해가 될 것인지?

인공지능에 의해 부상하는 데이터 프라이버시 이슈가 전적으로 새로운 것은 아니다. 사물인터넷과 빅 데이터는 수년간 개인정보와 다량의 정보를 수집해왔다.

제롬은 이러한 트렌드가 기본적으로 지속되고 있다고 말했다. 매우 다양한 정보원으로부터 다량의 데이터가 수집되고 있으며, 이는 다른 새로운 이슈로 이어질 것이라고 지적했다. 그는 러신 러닝이 이용자로 하여금 그들의 데이터 프라이버시를 관리하는데 도움을 줄수도 있을 것이라고 말했다. 프라이버시 지원 앱은 이용자로 하여금 자신의 데이터가 어떻게 수집되고 이용되는지 사전에 결정할 수 있도록 도움을 줄 수도 있다는 것이다. 그는 인공지능이 프라이버시 관리를 위한 훌륭한 도구가 될 수도 있다고 주장했다.

역자의견: 인공지능의 발전은 기본적으로 대량의 정보를 기반으로 한다. 이를 위해 축적되는 데이터와 이로 인해 불거지는 개인 프라이버시 침해문제를 해결하기 위한 노력이 필요하다. 인공지능의 부정적 영향을 최소화하기 위해 오히려 인공지능을 활용한 개인 프라이버시 관리 도구를 이용자 편의에 맞게 개발하여 피해를 최소화 하는 노력도 중요하다고 할 수 있다.