초록 ▼

□ 연구개요
본 연구는 인공지능 및 빅데이터 연구에 사용되는 기반 데이터의 편향성을 분석하여 편향된 인공지능의 도입 시 예상되는 다양한 사회적 문제를 예측하고 기여하는 것을 목적으로 한다. 본 과제 수행 기간인 2020년~2022년 기간까지 인공지능 연구는 대규모 데이터가 필수적이나, 일반적으로 불특정 다수가 생성한 텍스트, 사진, 영상 등을 활용하여 왔다. 이러한 데이터는 작성자의 특정이 불가하고, 다양한 편향성이 나타날 수 있다. 단일반적으로 순한 데이터 자체의 빈도 차이 (imbalanaced data) 뿐 아니라, 다양

□ 연구개요
본 연구는 인공지능 및 빅데이터 연구에 사용되는 기반 데이터의 편향성을 분석하여 편향된 인공지능의 도입 시 예상되는 다양한 사회적 문제를 예측하고 기여하는 것을 목적으로 한다. 본 과제 수행 기간인 2020년~2022년 기간까지 인공지능 연구는 대규모 데이터가 필수적이나, 일반적으로 불특정 다수가 생성한 텍스트, 사진, 영상 등을 활용하여 왔다. 이러한 데이터는 작성자의 특정이 불가하고, 다양한 편향성이 나타날 수 있다. 단일반적으로 순한 데이터 자체의 빈도 차이 (imbalanaced data) 뿐 아니라, 다양한 혐오성 자료(hate speech data), 또한 집단에 대한 편향적인 기술을 담고 있는 데이터(bised data)등으로 인하여 데이터의 편향성이 그대로 모델에 학습되어 다양한 문제가 발생한다. 본 연구는 크게 (1) 다양한 오픈 데이터의 수집 및 전처리, (2) 수집된 오픈 데이터의 편향성 분석 기법 개발 (3) 편향성 분석을 통한 오픈 데이터의 잠재적 위험성 진단의 3가지 부분으로 구성된다. 본 연구진의 전문 분야와 연구의 효율성을 위해 이번 연구에서는 딥러닝에서 현재 가장 많이 활용되고 있는 텍스트 데이터와 그에 해당하는 시계열 빈도 데이터 위주로 연구를 수행할 예정이다.

□ 연구 목표대비 연구결과
본 연구진은 이러한 데이터에 나타나는 편향성을 빅데이터를 통해 분석하고, 데이터의 특성에 따라 나타나는 다양한 편향성의 정도를 통계기법, 빅데이터 연구방법, 복잡계 네트워크, 기계학습 등의 다양한 방법론을 사용하여 분석하고 진단하였다. 이 과정에서 그래프 구조를 이용하여 기존의 복잡도가 높은 그래프 구축 및 클러스터링 방법론을 개선하고, 복잡도가 낮고 정확도가 높은 지식그래프 클러스터링 기법을 개발했으며 (논문 발표) 방법론을 다시 개선하여 속도의 저하를 최소화하하며 메타데이터를 추가해도 정확도를 더 높일 수 있는 방법론을 설계하였다 (논문 작성중, 투고 예정). 또한 위 방법을 종합하여 두 노드 사이의 유사도를 매우 정확하게 측정할 수 있는 방법 또한 개발하였다 (논문심사중). 집단지성을 통해 사회에서 받아들여지는 과학기술 구조가 논문과 특허의 구조와 많이 다른 것을 확인하였으며, 이를 통하여 실제 사회의 과학기술 영향력과 구조는 논문, 특허 등을 통한 과학 기술 교류보다는 Facebook, Twitter 같은 사회 연결망이 더 큰 영향을 주는 것을 확인할 수 있었고, 사회의 편향성과 불평등을 해소하기 위해서는 이러한 새로운 정보 소통 창구에 대한 분석이 필수적이라는 것을 확인할 수 있었다 (심사중). 떠불어 코로나 시기 생성되는 논문 데이터의 성별, 국가별 편향성을 분석하여 경제 사회적 취약 국가의 여성이 다른 집단에 비해 큰 피해를 입었다는 것을 확인할 수 있었다 (심사중). 마지막으로 협업에 따른 편향성 분석을 통하여 단순한 다양성 등을 토대로 편향성을 해소하려는 시도가 큰 역할을 하지 못하는 것을 파악할 수 있었다 (심사중).

□ 연구개발성과의 활용 계획 및 기대효과(연구개발결과의 중요성)
본 연구는 데이터의 수집 및 전처리 (1단계 연구), 분석 모델의 개발 (2단계 연구), 실제 데이터에 대한 분석 모델의 적용 (3단계 연구)라는 전주기 분석기법을 개발함을 통해, 앞으로 등장하는 다양한 인공지능과 그 기반 데이터에 대한 분석에도 적용이 가능하다. 과학기술 뿐 아니라 전 영화, 음악, 문학등 다양한 분야에서 AI를 도입하려는 시도는 다양하게 등장하고, 이러한 영역에서 AI의 사회 파급력은 훨씬 클 것으로 예상된다. 이 연구에서 구축한 일반적 방법론을 통해 각 분야에 내재되어있는 사회적 편향을 객관적으로 측정 가능하며, 사회 불평등 해소에 대한 국가적 투자 효율화에 도움을 줄 수 있을 것이라 생각한다.

(출처 : 연구결과 요약문 2p)

목차 Contents

• 표지 ... 1
• 연구결과 요약문 ... 2
• 목차 ... 3
• 1. 연구개발과제의 개요 ... 4
• 2. 연구개발과제의 수행 과정 및 수행 내용 ... 4
• (1) 과학기술 편향성 분석을 위한 분석 기법 개발 ... 5
• (2) 과학기술 성 편향성 분석 ... 6
• (3) 국가의 상호 영향에 따른 오픈 데이터 과학기술 구조의 차이와 편향성 ... 6
• (4) 임베딩을 통한 과학기술의 발전 양상 분석 ... 7
• (5) 집단지성 임베딩을 통한 과학기술 데이터의 편향성 분석 ... 8
• (6) 이분 그래프 구축을 통한 과학기술 편향성 분석 연구 ... 8
• (7) 약탈적 논문 분석을 통한 과학기술 데이터의 인용 기반 지표 편향성 평가 ... 10
• 3. 연구개발과제의 수행 결과 및 목표 달성 수준 ... 11
• 1) 정성적 연구개발성과(연구개발결과) ... 11
• 2) 세부 정량적 연구개발성과 ... 11
• 3) 목표 달성 수준 ... 12
• 4) 목표 미달 시 원인 분석 ... 12
• 4. 연구개발성과의 관련 분야에 대한 기여 정도(연구개발결과의 중요성) ... 13
• 5. 연구개발성과의 관리 및 활용 계획 ... 14
• 6. 참고문헌 ... 14
• [붙임1] 세부 정량적 연구개발성과 ... 15
• [붙임2] 연구책임자 대표적 연구실적 및 증빙(요약문 및 사본) ... 17
• 끝페이지 ... 20