[논문]특허 문서로부터 키워드 추출을 위한 위한 텍스트 마이닝 기반 그래프 모델

이순근; 임영문; 엄완섭

doi:10.12812/ksms.2015.17.4.335

특허 문서로부터 키워드 추출을 위한 위한 텍스트 마이닝 기반 그래프 모델
Text-mining Based Graph Model for Keyword Extraction from Patent Documents 원문보기

대한안전경영과학회지 = Journal of the Korea safety management & science, v.17 no.4, 2015년, pp.335 - 342

이순근 (강릉대학교 산업경영공학과) , 임영문 (강릉대학교 산업경영공학과) , 엄완섭 (강릉대학교 산업경영공학과)

Abstract ▼ AI-Helper

The increasing interests on patents have led many individuals and companies to apply for many patents in various areas. Applied patents are stored in the forms of electronic documents. The search and categorization for these documents are issues of major fields in data mining. Especially, the keyword extraction by which we retrieve the representative keywords is important. Most of techniques for it is based on vector space model. But this model is simply based on frequency of terms in documents, gives them weights based on their frequency and selects the keywords according to the order of weights. However, this model has the limit that it cannot reflect the relations between keywords. This paper proposes the advanced way to extract the more representative keywords by overcoming this limit. In this way, the proposed model firstly prepares the candidate set using the vector model, then makes the graph which represents the relation in the pair of candidate keywords in the set and selects the keywords based on this relationship graph.

주제어

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본 논문에서는 단일의 반구조적인 특허 문서로부터 그 문서를 대표할 수 있는 키워드들을 추출하기 위해 관계성 그래프 모델을 제시하였다. 실험의 결과처럼 본 논문에서 제시한 관계성 그래프 모델은 그래프를 구성하는 노드의 수를 줄임으로서 기존 그래프 모델의 복잡성을 줄일 수 있었다.
본 논문에서는 단일의 특허 문서로부터 그 문서를 대표할 수 있는 키워드들을 추출하기 위해 관계성 그래프 모델을 제시하였다. 이를 평가하기 위해 미국 특허상표청(USPTO)으로부터 임의로 한 개의 특허문서를 선택하였다.
본 논문에서는 벡터공간모델을 이용하여 그래프모델의 복잡성을 감소시키고, 또한 반구조적인 특허문서의 특징과 특허문서 내에 존재하는 키워드들 간의 관계성을 반영하여 효율적으로 키워드를 추출하는 관계성 그래프 모델을 제시하고자 한다.

제안 방법

본 논문에서 제시한 관계성 그래프 모델은 반구조적인 특허문서의 특징을 이용하기 위해 특허문서를 구성하는 각 섹션의 중요도에 따라 섹션별 가중치를 정한다. 다음으로 기존의 벡터공간 모델을 통해 후보 키워드군을 얻고 이 후보 키워드들 간의 관계성을 찾는다. 후보 키워드들 간의 관계성은 후보 키워드들이 동일한 문장 내에 나타나는지에 여부에 따라 결정된다.
하지만 위에 나열한 단어들 다음에도 공백이 나타나는 것이 일반적이기 때문에 이것만으로는 위에 나열한 도트와 구별할 수 없다. 따라서 벡터 모델 방식에서와 같이 특허문서에서 나타날 수 있는 위와 같은 단어구들을 저장해 놓고 문서 내에 나타나는 경우에 이들을 예외적으로 처리함으로써 마침표와 구별하였다. 분리된 문장 들은 [Fig.
실험의 결과처럼 본 논문에서 제시한 관계성 그래프 모델은 그래프를 구성하는 노드의 수를 줄임으로서 기존 그래프 모델의 복잡성을 줄일 수 있었다. 또한 특허의 내용과의 관련성 측면에서 단일 문서로부터 키워드를 추출하기 위한 기존의 벡터 모델보다 더 좋거나 비슷한 정도의 관련성이 있는 키워드들을 추출하였다. 더욱이, 특허 문서를 대표하는 키워드 리스트의 크기에 있어서 기존의 벡터 모델보다 본 논문에서 제시한 관계성 그래프 모델이 그 크기를 많이 줄였음을 보였다.
본 논문에서 제시한 관계성 그래프 모델은 반구조적인 특허문서의 특징을 이용하기 위해 특허문서를 구성하는 각 섹션의 중요도에 따라 섹션별 가중치를 정한다. 다음으로 기존의 벡터공간 모델을 통해 후보 키워드군을 얻고 이 후보 키워드들 간의 관계성을 찾는다.
기존의 알고리즘들은 문서로부터 불용어들을 제거한 후 남은 단어(term) 혹은 구(phrase) 전체에 대해 통계적인 방법이나 빈도수에 기반하여 그 중요도를 측정하고 이를 순서화한다. 본 논문에서는 이들 순서화된 목록으로부터 중요도가 높은 일정 수의 키워드들을 후보키워드 군으로 설정한다. 일정 수의 키워드를 후보군으로 설정하는 이유는 중요도가 낮은 키워드들은 관계성 그래프 모델에 의해 제거될 것이기 때문이다.
본 논문에서는 일반적으로 마침표 다음에는 빈 공간이 나타나는 것을 이용하여 마침표를 구분한다. 하지만 위에 나열한 단어들 다음에도 공백이 나타나는 것이 일반적이기 때문에 이것만으로는 위에 나열한 도트와 구별할 수 없다.
더불어, 동일한 키워드들을 포함한 문장이 중요 섹션에 나타나는 경우 그렇지 않은 경우보다 해당 문서를 대표하는데 더 적절한 후보 키워드들이라고 생각할 수 있다. 이러한 휴리스틱에 기반하여 본 논문에서는 이전에 처리했던 정보들을 활용하여 각 후보 키워드간의 관계성을 그래프로 표현한다. 후보 키워드간의 관계성 그래프는 [Fig.
한 문장에 나타나는 키워드들은 직관적으로 관계성이 있다고 생각할 수 있다. 후보 키워드들이 한 문장에 나타나는지를 확인하기 위해서 해당 문서를 섹션에 따라 문장 단위로 구별하여 저장한다. 한 문장은 마침표(.

대상 데이터

후보 키워드군을 선택하기 위해 빈도수에 의해 추출된 키워드로부터 그 빈도수가 30개 이상인 키워드를 후보키워드 군으로 선정하였으며 후보 키워드군의 크기는 21개이다. 또한 통계적 방법에 의해 추출된 키워드에 대해서는 X²의 값이 20,000 이상인 값을 가진 키워드들을 후보 키워드군으로 선정하였으며 그 크기는 37개이다. 특허문서를 구성하는 각 섹션에 대한 가중치 값은 [Table 3]과 같다.
이 문서로부터 후보 키워드군을 선택하기 위해 사용한 기존의 벡터 모델은 단일 문서로부터 단어와 구 (phrase)의 출현 빈도수만을 사용하여 키워드들을 구하는 TF(Term-Frequency) 방법과 통계적 방법을 이용한 키워드 추출 방법을 이용하였다. 빈도수에 기반한 방법으로 얻어진 키워드는 총 354개 였으며 통계적 방법으로 얻어진 키워드는 1663개 이다. [Table 1]은 단순 빈도수에 의해 추출된 키워드의 일부이며 [Table 2]는 통계적 방법을 통해 구해진 키워드일부이다.
본 논문에서는 단일의 특허 문서로부터 그 문서를 대표할 수 있는 키워드들을 추출하기 위해 관계성 그래프 모델을 제시하였다. 이를 평가하기 위해 미국 특허상표청(USPTO)으로부터 임의로 한 개의 특허문서를 선택하였다. 선택된 특허문서의 발명의 명칭은 “은은한 조명의 임계값을 조절하기 위한 메소드 및 장치” 관한 것이다.
후보 키워드군을 선택하기 위해 빈도수에 의해 추출된 키워드로부터 그 빈도수가 30개 이상인 키워드를 후보키워드 군으로 선정하였으며 후보 키워드군의 크기는 21개이다. 또한 통계적 방법에 의해 추출된 키워드에 대해서는 X²의 값이 20,000 이상인 값을 가진 키워드들을 후보 키워드군으로 선정하였으며 그 크기는 37개이다.

이론/모형

선택된 특허문서의 발명의 명칭은 “은은한 조명의 임계값을 조절하기 위한 메소드 및 장치” 관한 것이다. 이 문서로부터 후보 키워드군을 선택하기 위해 사용한 기존의 벡터 모델은 단일 문서로부터 단어와 구 (phrase)의 출현 빈도수만을 사용하여 키워드들을 구하는 TF(Term-Frequency) 방법과 통계적 방법을 이용한 키워드 추출 방법을 이용하였다. 빈도수에 기반한 방법으로 얻어진 키워드는 총 354개 였으며 통계적 방법으로 얻어진 키워드는 1663개 이다.
특허문서로부터 키워드 후보군을 얻는데 기존의 벡터 기반 모델을 이용하여 키워드 후보군을 추출한다. 기존의 알고리즘들은 문서로부터 불용어들을 제거한 후 남은 단어(term) 혹은 구(phrase) 전체에 대해 통계적인 방법이나 빈도수에 기반하여 그 중요도를 측정하고 이를 순서화한다.

성능/효과

더욱이, 특허 문서를 대표하는 키워드 리스트의 크기에 있어서 기존의 벡터 모델보다 본 논문에서 제시한 관계성 그래프 모델이 그 크기를 많이 줄였음을 보였다. 결론적으로 본 논문에서 제시한 관계성 그래프 모델이 반구조적 특성을 갖는 단일의 특허 문서로부터 키워드들을 추출하는데 기존의 벡터 모델과 그래프모델에 의한 키워드 추출보다 더 효율적임을 알 수 있다.
기존의 빈도수 기반 벡터 모델의 키워드 리스트인 [Table 3]과 비교해봤을 때 “ambient light”와 “level”은 동일하게 높은 순위를 갖지만 “ambient light level” 키워드는 본 논문에서 제시한 관계성 그래프 방법으로 키워드를 추출하였을 때 높은 순위를 가짐을 알 수 있다.
또한 특허의 내용과의 관련성 측면에서 단일 문서로부터 키워드를 추출하기 위한 기존의 벡터 모델보다 더 좋거나 비슷한 정도의 관련성이 있는 키워드들을 추출하였다. 더욱이, 특허 문서를 대표하는 키워드 리스트의 크기에 있어서 기존의 벡터 모델보다 본 논문에서 제시한 관계성 그래프 모델이 그 크기를 많이 줄였음을 보였다. 결론적으로 본 논문에서 제시한 관계성 그래프 모델이 반구조적 특성을 갖는 단일의 특허 문서로부터 키워드들을 추출하는데 기존의 벡터 모델과 그래프모델에 의한 키워드 추출보다 더 효율적임을 알 수 있다.
본 논문에서는 단일의 반구조적인 특허 문서로부터 그 문서를 대표할 수 있는 키워드들을 추출하기 위해 관계성 그래프 모델을 제시하였다. 실험의 결과처럼 본 논문에서 제시한 관계성 그래프 모델은 그래프를 구성하는 노드의 수를 줄임으로서 기존 그래프 모델의 복잡성을 줄일 수 있었다. 또한 특허의 내용과의 관련성 측면에서 단일 문서로부터 키워드를 추출하기 위한 기존의 벡터 모델보다 더 좋거나 비슷한 정도의 관련성이 있는 키워드들을 추출하였다.
[Table 2]와 [Table 5]를 비교하였을 때 통계적 방법을 이용한 벡터 모델에 대해 후보 키워드 군의 경우 상위 6개의 키워드에 대해서는 차이가 없었으나 벡터 모델에서는 낮은 순위였던 “switch”, “electronic switch” 키워드가 높은 순위를 가짐을 알 수 있다. 특허 주제와의 관련성에서는 통계적 방법을 이용한 벡터 모델에 의해 추출된 키워드들이나 본 논문에서 제시한 관계성 그래프 모델에 의해 추출된 키워드들이나 비슷한 것을 알 수 있었다. 하지만 키워드 군의 크기에 있어서는 통계적 방법을 이용한 벡터 모델의 경우 37개 이지만 본 논문에서 제시한 관계성 그래프 모델의 경우 15개로 큰 폭으로 줄었음을 알 수 있다.

질의응답

핵심어	질문	논문에서 추출한 답변
	특허권 이란?	특허권은 다양한 분야에서 특허기술을 가진 개인이나 기업과 같은 단체 및 기관만이 그 기술을 배타적으로 사용할 수 있는 권리이다. 현재와 같이 고도로 발단된 기술사회에서 그 필요성 및 중요성이 더욱 증대되고 있는 상황이다.
	특허에 대한 검색을 효율적으로 하기 위해 키워드들을 효율적으로 추출하는 것이 중요한 이유는?	우리나라에서는 키프리스 웹사이트를 통해 전세계의 특허를 검색할 수 있으며 미국의 경우 미국 특허상표청 (USPTO)을 통해 검색할 수 있다. 특허문서에 대한 검색이 이루어지기 위해서는 일반적인 문서에서와 같이 저장된 특허문서로부터 키워드를 추출하여 이에 대한 색인(indexing)을 수행하여야 한다[6]. 따라서 특허에 대한 검색을 효율적으로 수행하기 위해서는 해당 특허문서로부터 그 문서를 대표할 수 있는 키워드들을 효율적으로 추출하는 것이 중요하다.
	출원된 특허문서는 어떻게 사용되고 있는가?	이에 세계적으로 많은 개인과 기업과 같은 단체 및 기관들이 특허를 출원하고 있으며, 그양 또한 방대하다. 이렇게 출원된 특허문서는 그 편의성 및 효율성으로 인해 전자문서의 형식으로 저장되고 분류되며, 이에 대한 분석을 통해 해당 기술의 강점 및 약점을 평가하는데 사용되고 있다[4][10]. 이러한 평가를 통해 얻어진 특허정보는 인력, 기술적 능력 및 성능을 측정하기 위한 중요한 자원으로 여겨진다[1].

참고문헌 (14)

Coombs, J. E. & Bierly, P. E.(2006), "Measuring technological capability and performance" R&D Management, 36(4):421-438

상세보기
Feldman. R., and J. Sanger(2007), "The Text Mining Handbook: Advanced Approaches in Analyzing Unstructured Data" New York, NY Cambridge University Press.
G. Salton, A. Wong and C. S. Yang(1975), "A vector space model for automatic indexing" Communications of the ACM, 18:613-620

상세보기
I.V. Wartburg, T. Teichert, K. Rost(2005), "Inventive progress measured by multistage patent citation analysis" Research Policy 34 (10), 1591-1607.

상세보기
Jae Young, Chang(2013), "A study on research trends of graph-based text representations for text mining" The Journal of The Institute of Internet, Broadcasting and Communication 13: No. 5
Jens-Erik Mai(2005), "Analysis in indexing: document and domain centered approaches" Information Processing and Management 41:599-611

상세보기
Jiawei Han, Micheline Kamber(2011), "Data mining concepts and techniques" 2nd-edition Morgan Kaufmann press, 614-628
Jo, Taeho, Lee, Malrey, and Gatton, T. M.(2006), "Keyword extraction from documents using a neural network model," ICHIT'06, 2:194-197.
Kao. A. and S. R. Poteet.(2007), "Natural Language Processing and Text Mining" London Springer-Verlag, 1-7
Li, Y.R, Wang, L.H., & Hong, C. F.(2009), "Extracting the significant-rare keywords for patent analysis" Expert System with Applications, 36(6):5200-5204

상세보기
Matsuo, Y., and Ishizuka, M.(2004), "Keyword extraction from a single document using word co-occurrence statistical information," International Journal on Artificial Intelligence Tools, 13:157-169.

상세보기
Roberston, S.(2004), "Understanding inverse document frequency: On theoretical argument for IDF" Journal of Documentation, 60(5):503-520.

상세보기
Yu, J. X., Kitsuregawa, M., and Leong, H. V.(2006), "Keyword Extraction using Support Vector Machine," Lecture notes in computer science, 4016:85-96.
Wang, J., Liu, J., Wang, and Cong(2007), "Keyword extraction based on PageRank," Lecture notes in computer science, 857-864.

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증