지난 3월 29일 미국의 비영리 단체인 ’미래의 삶 연구소(FLI)’는 인공지능(AI) 시스템 개발 속도를 줄이자는 공개서한을 냈다. 독립적인 외부 전문가가 감독하는 안전한 프로토콜을 개발할 때까지 모든 AI 연구소에서 GPT-4보다 강력한 AI 개발을 최소 6개월간 중단하자는 내용이었다. 이 서한에 일론 머스크 테슬라 최고경영자(CEO)를 비롯해 튜링상 수상자인 조슈아 벤지오 캐나다 몬트리올대 교수, 「사피엔스」의 저자 유발 하라리, 스티브 워즈니악 애플 공동창업자 등 유명인들의 서명이 잇따랐다. 최근의 AI 개발 속도가 인간에게 위협될 수 있다는 우려에 의견을 모은 것이다.
인공지능 개발이 과학문화에는 어떤 영향을 미칠까. 한국과학창의재단(이하 재단)은 28일 대전 도룡동 기초과학연구원(IBS) 과학문화센터 2층 대강당에서 ‘제13회 과학문화 혁신 포럼’을 개최하고 ChatGPT 등 초거대·생성형 AI의 확산이 과학 소통 분야에 어떤 변화가 예상될지를 논의하는 자리를 가졌다. 과학문화 혁신 포럼은 과학문화 생태계 구축 및 과학과 사회의 소통 활성화를 위해 재단이 2020년부터 진행해온 행사다.
조율래 재단 이사장은 인사말을 통해 “생성형 인공지능의 발달과 함께 부정확한 ‘가짜뉴스’가 더 그럴듯하게 포장되어 확산하고 있는 상황을 우려하며 교육 현장에서는 ‘과학 문해력’, ‘디지털 문해력’ 등의 키워드를 강조하고 있다”며 “오늘 행사가 새로 등장한 혁신적 기술을 인간 중심으로 활용할 수 있도록 의견을 나누는 뜻깊은 자리가 되길 바란다”고 말했다.

컴퓨터는 0과 1로 세상을 읽는다. 0과 1밖에 모르는 단순한 기계가 세상을 읽기 위해서는 함수가 필요하다. 데이터를 함수를 만드는 과정을 ‘기계학습’, 그 함수를 읽고 풀어내는 시스템이 인공지능이다. 컴퓨터가 인간이 가진 정보를 이해하게 만들려면 인간이 인지하는 복잡한 정보를 숫자로 변환해야 하는데, 이게 인공지능 기술의 핵심이다.
하지만 방대한 데이터를 일일이 변환하여 학습시키는 데는 돈과 시간이 많이 든다. 이러한 점에서 과학자들은 컴퓨터를 다른 식으로 학습시켰다. ‘그건 □□□ 안돼’라는 문장에서 빈칸에 들어갈 말을 맞추는 것과 같은 빈칸 채우기 방식으로 컴퓨터를 계속 학습시켰다. 학습이 축적되니 놀라운 일이 벌어졌다. 컴퓨터가 단어의 의미와 문장의 맥락을 이해하고, 뒤에 나올 문장을 예측하기 시작한 것이다. 앞의 문장을 가지고 뒤에 나올 단어들을 예측하는 기술, 이것이 GPT 시스템의 핵심이다. 오픈AI는 자사가 개발한 GPT 시스템을 대화를 주고받을 수 있는 ‘챗봇’ 형태로 제작한 뒤, ChatGPT라는 이름으로 세상에 공개했다.
‘다가오는 특이점, ChatGPT’를 주제로 발표에 나선 유용균 AI 프렌즈 학회 대표이사(한국원자력연구원 인공지능응용전략실장)는 “GPT는 기본적으로 예측하는 기술이기 때문에 잘 모르는 내용이라도 이야기를 지어내 그럴듯하게 설명한다”며 “이런 점에서 ‘확률적 앵무새’라고 평가되기도 한다”고 말했다.
오픈AI는 2020년 1,750억 개의 매개변수로 구성된 GPT-3를 출시했다. 2021년 구글은 매개변수가 1조6000억 개에 이르는 인공지능 모델을 개발하기도 했다. 그렇다면 매개변수가 인간 시냅스 수만큼 많아지게 된다면 정말로 인간의 지능을 능가하는 초지능이 나올까.
유 대표이사는 “거대한 모델을 채울 데이터가 부족하기 때문에 매개변수가 증가할수록 오히려 인공지능의 성능은 떨어진다고 본다”며 “다양한 영향력을 펼치고 있는 ChatGPT를 보며 어쩌면 고차원이라고 평가해왔던 인류의 지식, 판단, 감정 자체가 생각했던 것만큼 복잡하지 않은 것은 아닐까 생각이 든다”고 말했다.

이어 진행된 주제발표에서 전창배 IAAE 국제인공지능&윤리협회 이사장은 ‘인공지능과 공존하는 삶을 위한 AI 바로보기’를 주제로 발표를 진행했다. 전 이사장은 “인공지능은 다른 기술보다 인간에게 미치는 영향이 크고, 그만큼 부작용과 역기능, 위험성도 크다”며 “인공지능을 개발하고 사용하는 과정에서 지켜야 할 윤리, 즉 ‘인공지능 윤리’가 그만큼 더 중요한 기술”이라고 말했다.
전 이사장은 ChatGPT로 인해 발생한 부작용을 조사하고 5가지로 분류했다. ▲AI 편향성 문제, ▲AI 오류와 안정성 문제, ▲AI 악용·오용 문제, ▲개인정보·저작권 침해 문제, ▲킬러 로봇 문제 등이다. 그중 가장 많이 일어나는 문제는 편향성 문제와 악·오용 문제로 나타났다.
가령, AI에게 ‘커피를 들고 선글라스 낀 여성 그림을 그려줘’라고 요청하면 대부분 백인 여성의 그림이 나온다. 반면, ‘가판대에서 음식을 파는 여성의 모습을 그려줘’라고 요청하면 인도계 여성의 그림이 나온다. AI가 편향적인 이유는 학습한 데이터 자체가 편향되고, 오류가 있었기 때문이다. 해외에서는 챗봇 사용자가 스스로 목숨을 끊은 사고도 있었다. 챗봇이 사용자에게 계속 이상한 말을 건넸고, 챗봇을 의인화하고 감정이입 해온 사용자가 끝내 안타까운 선택을 하게 된 것이다.
전 이사장은 “‘선하고 안전한 인공지능’을 만들어내기 위해서는 개발하는 사람이 올바르고 안전하게 개발해야 한다”며 “많은 국가에서 발표하고 있는 법적 규제가 포함된 인공지능 윤리 가이드라인이 문제를 해결하는 데 도움될 것”이라고 말했다.