선택한 단어 수는 입니다.
최소 단어 이상 선택하여야 합니다.
최소 단어 이상 선택하여야 합니다.
선택한 단어 수는 30입니다.
최대 10 단어까지만 선택 가능합니다.
최대 10 단어까지만 선택 가능합니다.
문제 정의
- 본 논문에서는 특허문서를 기계 학습에 의해 국제 특허 분류(IPC) 기준에 맞게 자동으로 분류하고 유사한 특허를 검색하는 시스템에 관한 것으로 베이지안(Baysian) 확률론을 이용한 기술 주제 분류와 잠재 의미 분석 기법을 이용하여 유사 특허 검색의 효율성을 높일 수 있는 방법을 제안한다. 종래 기계 학습을 이용한 유사 특허문서 검색은 용어 빈도를 고려한 자질 선택 기법에 의존해서 특허를 분류하고 메타 키워드의 가중치를 이용한 검색 방법이었으나, 현대 기술 용어의 발생 속도와 표현의 다양성을 고려할 때 특허 문서들 간의 관련성을 분석하는데 있어서는 용어 자체의 빈도 보다는 용어의 개념에 의한 접근이 보다 효과적일 것이라 판단하였다.
제안 방법
- 이는 국가과학기술정보센터(NDSL)에서 학술용으로 제공하는 기능으로 국내/국외 특허 검색서비스를 제공하고 있다. Open API를 사용하여 효과적으로 데이터를 가져오기 위해 검색 쿼리 작성기를 별도로 구현하였다.
- 이는 그림 3과 같다. 내부 모듈 구성으로 기본적인 화면 입출력 UI 서비스 이외에 내부적으로 Naive bayesian classification 모듈, Text Rank 키워드 추출 모듈, LDA 잠재의미분석 모듈 등 3가지로 구성하며 외부 기능으로 키워드 파싱, 번역, 언어 탐지API 기능을 사용한다. 또한 특허 검색 API로 NOS Open API 모듈을 사용한다.
- 제한된 학습데이터를 가지고 IPC 분류과정의 효율성을 높이기 위하여 지도학습 방법 중 Naive 베이지안 기계학습 알고리즘 기반의 IPC 자동 분류를 사용한다. 데이터 소스는 특허문서의 초록 필드를 사용하여 동시에다수의 IPC 분류코드를 가지는 다중 레이블 분류(multi-label classification) 모델을 구축한다.
- 기존의 분류 알고리즘인 Naive 베이지안 알고리즘의 자질 선택기법으로 카이제곱 테스트(Chi-Square Test)를 이용하였고 문서에서 키워드 추출은 Text Rank 기법을 사용하였다. 마지막으로 잠재 의미 추론 기법으로 LDA 알고리즘을 사용하여 특허 의미 유사도를 측정하였다. 서비스범위는 국제, 미국, 유럽, 일본, 중국으로 확대하기 위해서 모든 문서는 영어로 번역해서 사용한다.
- 언어 확인 API 요청을 할 경우 다음과 같이 0과 1사이의 값을 반환한다. 마지막으로 형태소 분석을 통해 필요한 단어만 추출하는 과정으로 Stop word 필터를 적용하여 불필요한 단어들을 제외하도록 하였다.
- 이에 종래 방법과 잠재된 의미 유사도를 비교하는 방법을 결합하여 사용하는 방법을 제안하였다. 기존의 분류 알고리즘인 Naive 베이지안 알고리즘의 자질 선택기법으로 카이제곱 테스트(Chi-Square Test)를 이용하였고 문서에서 키워드 추출은 Text Rank 기법을 사용하였다.
- 유사 문서 검색에 대한 정확한 분류 측정의 객관적인기준을 위하여 실험 과정은 두 단계로 구분해서 진행한다. 첫 번째로는 IPC분류 정확도를 측정하고 두 번째로는 LDA 문서 유사도 검증 테스트를 진행하도록 한다. Naive 베이지안 분류 정확도 테스트를 위하여 WIPO에서 제공하는 분류 학습용 데이터 이외에 테스트 셋을 사용하였다.
- 학습된 분류 모델을 통해 분석 대상을 적용하여 분류한다. 분류된 결과는 3레벨 128개의 클래스로 분류된다.
- 키워드 추출은 앞 장에서 설명했듯이 분석 대상 텍스트에서 동시 출현 빈도가 가장 높은 어절을 추출한다. 학습용 분류 데이터를 이용하여 분류 모델을 구성한다. WIPO에서 제공하는 75000개의 영어 기준 학습데이터를 사용하여 모델을 구성하였다.
대상 데이터
- 불용어(Stopword)는 전치사 대명사 등을 포함 총420개를 사용하였다. 75000개의 학습용 특허 데이터를 사용하였고 i5-1.8Gz 2 core에서 학습 시간은 10분 소요됐다. 테스트 데이터는 A그룹 5160개의 특허를 사용했다.
- 첫 번째로는 IPC분류 정확도를 측정하고 두 번째로는 LDA 문서 유사도 검증 테스트를 진행하도록 한다. Naive 베이지안 분류 정확도 테스트를 위하여 WIPO에서 제공하는 분류 학습용 데이터 이외에 테스트 셋을 사용하였다. 사용한 테스트 모듈은 Naive 베이지안 알고리즘을 사용하였다.
- 학습용 분류 데이터를 이용하여 분류 모델을 구성한다. WIPO에서 제공하는 75000개의 영어 기준 학습데이터를 사용하여 모델을 구성하였다. 이는 그림 5와 같다.
- 두 번째로 LDA 문서 유사도 검출 테스트를 위하여 테스트 데이터는 임의로 50개의 특허 데이터의 이름, 요약, 청구항을 사용 하였다. 문서 잠재 유사도 측정 방법으로 정규 상호정보(NMI, Normalized Mutual Information)를 측정하였다.
- 05를 사용하고 영문을 제외한 숫자와 기호, 외국어는 제외했다. 불용어(Stopword)는 전치사 대명사 등을 포함 총420개를 사용하였다. 75000개의 학습용 특허 데이터를 사용하였고 i5-1.
- 8Gz 2 core에서 학습 시간은 10분 소요됐다. 테스트 데이터는 A그룹 5160개의 특허를 사용했다. 총 분석 시간은 3분 걸렸다.
데이터처리
- Naive bayesian 알고리즘으로 SVM하고 동일한 결과를 얻을 수 있다는 것을 확인하였고, LDA 알고리즘을사용하여 다중 의미 분석까지 하였다.
- 총 분석 시간은 3분 걸렸다. 측정 방법은 테스트 특허의 분류 결과값 0-1 사이 값의 전체 평균으로 계산하였다. 실험에서 평균 특허 분류 정확도는 88.
이론/모형
- LDA 알고리즘을 사용하여 특허 문서들의 Topic을 분석한다. 분석된 결과에 따라 분석 대상과의 Topic 유사도 결과값을 도출한다.
- 이에 종래 방법과 잠재된 의미 유사도를 비교하는 방법을 결합하여 사용하는 방법을 제안하였다. 기존의 분류 알고리즘인 Naive 베이지안 알고리즘의 자질 선택기법으로 카이제곱 테스트(Chi-Square Test)를 이용하였고 문서에서 키워드 추출은 Text Rank 기법을 사용하였다. 마지막으로 잠재 의미 추론 기법으로 LDA 알고리즘을 사용하여 특허 의미 유사도를 측정하였다.
- 두 번째로 LDA 문서 유사도 검출 테스트를 위하여 테스트 데이터는 임의로 50개의 특허 데이터의 이름, 요약, 청구항을 사용 하였다. 문서 잠재 유사도 측정 방법으로 정규 상호정보(NMI, Normalized Mutual Information)를 측정하였다. 이는 Clustering이 얼마나 잘되었는지에 대한 평가 지표로 아래의 식에 따른다[6].
- 문서의 잠재 의미 분석을 위한 방법으로 토픽 모델링(Topic Modeling) 기법 중 LDA 알고리즘을 사용하였다. 기계 학습 및 자연언어 처리 분야에서 토픽 모델이란 문서 집합의 추상적인 "주제"를 발견하기 위한 통계적 모델 중 하나로, 텍스트 본문의 숨겨진 의미구조를 발견하기 위해 사용되는 텍스트 마이닝 기법 중 하나이다.
- 분류 알고리즘을 적용하기 위한 전처리 과정으로 특징을 추출하는 과정에서 다양한 방법들이 고안되었고, 여기서는 자질 선택 방법으로 기존 사용하던 N-gram 방식보다 개선된 방법으로 카이제곱 분포 통계 기법을 사용하였다[1].
- 분석 대상 특허를 검색하기 위한 용도로 사용할 키워드 추출 방법으로 Text Rank 알고리즘을 사용하여 분석대상이 되는 문서에서 중요도가 높은 키워드를 추출한다[2]. TextRank는 텍스트에 관한 graph-based ranking model로, Google의 PageRank를 활용한 알고리즘이다[3].
- Naive 베이지안 분류 정확도 테스트를 위하여 WIPO에서 제공하는 분류 학습용 데이터 이외에 테스트 셋을 사용하였다. 사용한 테스트 모듈은 Naive 베이지안 알고리즘을 사용하였다.
- 제한된 학습데이터를 가지고 IPC 분류과정의 효율성을 높이기 위하여 지도학습 방법 중 Naive 베이지안 기계학습 알고리즘 기반의 IPC 자동 분류를 사용한다. 데이터 소스는 특허문서의 초록 필드를 사용하여 동시에다수의 IPC 분류코드를 가지는 다중 레이블 분류(multi-label classification) 모델을 구축한다.
성능/효과
- K-mean Naive 베이지안을 사용한 Single Match 정확도는 87.2%로 나왔다. Multi Match 정확도는 이보다5% 낮다[4].
- 본 논문에서 사용한 두 가지 알고리즘을 활용하여 저사양 컴퓨터에서 효과적으로 유사 특허 검색 시스템을 구현할 수 있었다. 또한 기존 LDA를 보완한 LDAK-mean 알고리즘 사용으로 기존 NMI = 0.74에서 평균 NMI = 0.85 까지 높이고 AU-ROC 정확도 테스트에서60% 에서 73% 까지 높일 수 있었다.
- 본 논문에서 사용한 두 가지 알고리즘을 활용하여 저사양 컴퓨터에서 효과적으로 유사 특허 검색 시스템을 구현할 수 있었다. 또한 기존 LDA를 보완한 LDAK-mean 알고리즘 사용으로 기존 NMI = 0.
- 측정 방법은 테스트 특허의 분류 결과값 0-1 사이 값의 전체 평균으로 계산하였다. 실험에서 평균 특허 분류 정확도는 88.54%로 나왔다.
- 위의 샘플 데이터와 50개의 데이터셋을 가지고 테스트시 평균 NMI = 0.7468의 값을 얻었다. 분석 대상에 대한 Purity Accuracy = 0.
- 7% 나왔다[5]. 위의 실험 결과 CHI를 사용한 Naive 베이지안은 SVM와 동일한 결과를 보인다.
후속연구
- 향후연구로는 두 가지 알고리즘을 하나로 만드는 것으로 LDA 방식에 Naive bayesian의 특징을 Topic으로 사용할 수 있는가에 대한 추가 연구가 필요하다.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.