선택한 단어 수는 입니다.
최소 단어 이상 선택하여야 합니다.
최소 단어 이상 선택하여야 합니다.
선택한 단어 수는 30입니다.
최대 10 단어까지만 선택 가능합니다.
최대 10 단어까지만 선택 가능합니다.
문제 정의
- 본 논문에서는 기존의 문장 클러스터링에 의한 요약방법이 가지고 있는 문제점을 줄이고 문서의 개념을 요약문에 최대한 반영하고자 한다. 이를 위해 그래프 분할 기법에 의한 하위 주제별 문장 클러스터링을 수행한 후 중요 문장을 추출하는 문서요약을 제안한다.
- 공기정보란 두 단어가 동일문서, 문장, 구 등에 같이 발생하는 현상을 말하며 더 자주 발생 할수록 두 단어가 밀접한 관계를 가지고 있다는 전제에 기반하고 있다[12]. 본 논문에서는 단어의 공기정보를 기반으로 단어의 연관성 분석을 통해 문서의 대표어를 추출한다.
- 즉, 주제와 무관한 단어들의 중복만으로도 문장간의 유사도 값이 높아지게 된다. 본 논문에서는 문장 클러스터링 개념은 이용하되, 문장의 유사도 계산에 의한 방법 대신 그래프 분할이라는 개념을 이용하여 클러스터링을 수행한 후 중요 문장을 주줄하고자 한다.
제안 방법
- ROUGE-n grame 문자열의 선두에서부터 한 문자씩 옮기면서 n문자 단위(n=l, 2, 3, 4)로 일치 여부를 측정하는 방법이다. ROUGE-Le 두문장에서 공통으로 나타나는 단어 개수를 순서에 상관없이 측정하며, ROUGE-W는 두 문장에서 공통으로 나타나는 단어 개수에 대해 연속적인 일치여부를 고려하여 측정한다.
- 따라서 이러한 연결점을 찾아서 하위 주제별로 구분되는 부분 그래프로 나누는 작업이 매우 중요하다. 그래프 분할은 결과적으로 유사한 내용을 표현하고 있는 문장들이 클러스터 단위로 분류가 되 게 하며, 최종적으로 각 부분 그래프의 중요 문장을 추출함으로써 요약문을 작성하고자 한다. 본 논문의 구성은 다음과 같다.
- 또한 대표어를 이용하여 문서를 그래프로 표현하기 때문에 대표어를 추출하는 기법도 문서요약시스템을 구현하기 위한 전 단계로서 중요한 과정이다. 대표어를 추출하기 위해 단어의 공기정보를 기반으로 연관성 분석을 실시하였다. 실험결과 제안시스템이 유사도 계산에 의한 문장 클러스터별 요약에 비해 성능이 향상됨을 볼 수 있었다.
- 따라서 이러한 articulation point를 이용하여 그래프분할을 한다면, 보다 효율적인 클러스터링 결과를 기대할 수 있게 된다. 본 논문에서는 그래프를 분할하기 위해 그래프내의 모든 articulation point를 찾아낸 후, 이 노드를 기준으로 인접노드들이 서로 다른 부분 그래프에 속하게 하는 방법으로 그래프를 분할한다. articulation point를 찾는 방법은 깊이 우선 탐색 (depth-first search) 알고리즘을 이용한다.
- 이러한 동시출현 단어의 연관도는 공기 빈도를 직접 사용할 수도 있고, 코사인유사도(Cosine Similarity)나 자카드계수(Jaccard Coefficient) 등을 이용하여 정규화 할 수도 있다. 본 논문에서는 지지도(Support), 신뢰도(Confidence), 향상도(Lift/Improvement)를 이용하여 의미 관계의 성립여부를 정의한다.
- 본 논문은 그래프 분할을 이용하여 하위 주제별로 중요 문장을 추출하는 요약시스템을 제안하였다 중요 문장 추출에 의한 문서요약에서는 정보의 중복 없이 문서의 하위 주제 내용을 표현하는 것이 매우 중요하다. 이를 위해 그래프 분할을 이용하여 유사문장들을 클러스터링 함으로써 주제 분리를 하였다.
- 이 문서 집합은 ACL (Association for Computational Linguistics)의 183건 과학논문으로 이루어져 있으며, 요약문과 본문으로 구성되어 있다. 본문에 대해 제안시스템을 적용하여 자동으로 생성된 요약문과 문서 집합의 요약문을 비교하였다. 평가 방법은 ISI/USC의 Chin-Yew이 요약 성능을 평가하기 위해 개발한 ROUGE (RecaU Oriented Understudy for Gisting Evaluation)[19]를 이용하였다.
- 문서의 단어들은 문서가 작성된 의도에 따라 서로 의미적으로 연관된 형태로 형성된다는 점에서, 단어의 공기정보를 이용한다면 문서의 의미를 나타내는 핵심 단어들을 대표어로서 선정할 수 있다. 선정된 대표어를 기반으로 문장 벡터를 구성하며, 문장 벡터 사이의 공통 대표어를 이용하여 문장들의 연결성을 측정한 후 문장들을 노드(node)로 하는 그래프를 형성한다. 즉, 문장 간 단어의 연결정보에 의해 모든 문장들은 상호 독립적인 성분에 의해 하위주제별의 단절 그래프(Disconnected Graph) 형태로 구성된다.
- 따라서 빈발하지 않은 단어 집합들은 연관성 분석에서 제외된다. 이 경우 고정된 문장수를 이용하게 되면 최소 지지도의 적용의미가 문서의 길이에 따라 달라질 수 있기 때문에 본 논문에서는 동시출현 비율을 사용한다. 식 (1)과 같이 전체 문장 수 대비 두 단어의 동시출현문장수의 비율을 0.
- 따라서 클러스터에는 유사한 내용의 문장들이 속하게 되고, 각 클러스터로부터 대표 문장을 선정하여 나열하면 전체 문서의 내용을 축약적으로 표현하는 요약문이 된다. 이때 문장의 중복성을 배제하기 위해 각 클러스터별로 가장 중요도가 높은 1개의 문장을 클러스터 대표 문장으로 추출한다. n 개의 대표어 w1, w2, …, Wn으로 구성된 k번째 문장 Sentencek의 스코어 Scoresentence 는 식 (8)과 같으며, 이 계산 값에 의해 클러스터 1개당 k개의 구성문장 중에서 중요도가 가장 높은 1 문장을 선택한다.
- 그러나 문서의 내용에 따라서는 그래프 분할에도 불구하고 여러 개의 부분 그래프로 분리되지 않고 서로 강하게 연결된, 단지 1-2개의 부분 그래프 형태로 남는 경우도 발생한다. 이러한 문서는 단지 1-2개의 하위 주제들만 포함하고 있다고 판단하며, 이 경우 1-2개의 문장에 의해 지나치게 짧은 요약문이 구성되는 것을 막기 위해 1개의 부분 그래프에서 여러 개의 문장을 중요도순으로 추출하였다.
- 한다. 이를 위해 그래프 분할 기법에 의한 하위 주제별 문장 클러스터링을 수행한 후 중요 문장을 추출하는 문서요약을 제안한다. 우선 문서의 개념을 표현하는 대표어를 선정하기 위해 문장별로 동시에 출현한 단어의 공기정보를 이용한다.
- 매우 중요하다. 이를 위해 그래프 분할을 이용하여 유사문장들을 클러스터링 함으로써 주제 분리를 하였다. 또한 대표어를 이용하여 문서를 그래프로 표현하기 때문에 대표어를 추출하는 기법도 문서요약시스템을 구현하기 위한 전 단계로서 중요한 과정이다.
- 하위 주제별로 문장들을 클러스터링 하기위해 중요한 점은 각 하위 주제의 특징을 표현하는 주제 범주들을 어떻게 구분할 것이냐 하는 점이다. 이를 위해 본 논문에서는 그래프 분할을 이용하여 주제 범주를 구분한다. 문서를 그래프로 표현하는 방법은 문서의 구조를 단어와 단어들이 연결되는 그래프 구조로 문서를 파악한다는 점이다[14], 예를 들면, [표 1]의 문장 S1과 S2는 공통 단어인 'Cambodian'에 의해 연결되고, 문장 S1과 S3는 'HunSen'에 의해서로 연결된다.
- 최종 요약문 완성을 위해 대표 문장들은 클러스터내의 문장 개수를 기준으로 한 클러스터 중요도에 의해 순위화 된다. 크기가 큰 클러스터의 주제가 그렇지 않은 클러스터에 비해 반드시 더 중요하다고 보기가 어려운 점도 있지만 많은 수의 문장들이 어떤 주제에 대해 관련이 있다는 것은 그만큼 중요하다고 판단되기 때문에 크기에 의해 클러스터의 중요도를 결정하였다.
대상 데이터
- 제공하는 문서 집합을 이용 하였다. 이 문서 집합은 ACL (Association for Computational Linguistics)의 183건 과학논문으로 이루어져 있으며, 요약문과 본문으로 구성되어 있다. 본문에 대해 제안시스템을 적용하여 자동으로 생성된 요약문과 문서 집합의 요약문을 비교하였다.
- 제안시스템의 성능을 실험하기 위한 데이터는 SUMMAC(TIPSTER Text Summarization Evaluation Conference) [18]에서 제공하는 문서 집합을 이용 하였다. 이 문서 집합은 ACL (Association for Computational Linguistics)의 183건 과학논문으로 이루어져 있으며, 요약문과 본문으로 구성되어 있다.
- 않다. 즉, 요약문은 문서별 부분 그래프의 개수에 따라 유동적이지만 일정 크기에 의한 최종 요약문 완성을 위해 클러스터 중요도에 의해 전체 문서 길이의 20%에 해당하는 대표 문장을 선정한다. 이것은 일반적인 요약문서의 크기는 원문서의 1%에서 30%에 달하지만[16], 추출요약의 경우에는 약 20% 정도는 되어야 원 문서의 의미를 전달할 수 있다[1 기는 데에 기반 한 것이다.
데이터처리
- 제안시스템의 문서요약 성능개선의 평가를 위해 기존의 유사도 계산에 의한 문장 클러스터별 대표 문장 선정과 문장 가중치에 따른 단순 중요 문장 추출에 의한 요약결과와 비교하였다. 기존의 문장간 유사도 계산에 있어서는 코사인 유사도를 이용하였으며 클러스터 링 방법은 계층적 방법을 이용하였다.
이론/모형
- 본 논문에서는 그래프를 분할하기 위해 그래프내의 모든 articulation point를 찾아낸 후, 이 노드를 기준으로 인접노드들이 서로 다른 부분 그래프에 속하게 하는 방법으로 그래프를 분할한다. articulation point를 찾는 방법은 깊이 우선 탐색 (depth-first search) 알고리즘을 이용한다.
- 기존의 문장간 유사도 계산에 있어서는 코사인 유사도를 이용하였으며 클러스터 링 방법은 계층적 방법을 이용하였다. [표 4]는 제안시스템에 대한 비교 실험 결과이다.
- 본문에 대해 제안시스템을 적용하여 자동으로 생성된 요약문과 문서 집합의 요약문을 비교하였다. 평가 방법은 ISI/USC의 Chin-Yew이 요약 성능을 평가하기 위해 개발한 ROUGE (RecaU Oriented Understudy for Gisting Evaluation)[19]를 이용하였다. 이 방법은 단어의 재현율(Recall)에 기반 한 평가 시스템으로서 ROUGE-n gram과 ROUGE-L, ROUGE-W 가 있다.
성능/효과
- ROUGE-n gram에 의한 실험결과를 보면, RougeT과 Rouge-2가 Rouge-3와 Rouge-4에 비해 상대적으로 더 좋은 성능향상을 보이고 있다. 즉 연속단어의 일치 여부에서 단어의 길이가 길어질수록 저조한 성능향상을 보이고 있다.
- 따라서 요약의 성능을 향상시키기 위해서는 이 문제점을 반드시 해결해야 하는 데, 본 논문에서는 그래프 분할을 이용하여 서로 다른 클러스터를 연결하는 부분을 찾아낸 후 하위 주제별로 분리하여 결과적으로 전체 요약 성능이 향상된 실험결과를 보였다. 즉, 그래프 분할이 하위 주제별 문장 클러스터의 분리가 정확하여기존의 클러스터 링 방법이 가지고 있는 유사도 계산의 오류에 따른 중요 문장 탈락의 방지와 문장의 중복성 제거에 효율적임을 의미한다.
- 즉, 그래프 분할이 하위 주제별 문장 클러스터의 분리가 정확하여기존의 클러스터 링 방법이 가지고 있는 유사도 계산의 오류에 따른 중요 문장 탈락의 방지와 문장의 중복성 제거에 효율적임을 의미한다. 따라서 전체 문서의 중요의미를 충분히 반영할 수 있어 대표 문장 추출에 의한 문서 요약에서 좋은 결과를 보인 것으로 평가된다. 그러나 문서의 내용에 따라서는 그래프 분할에도 불구하고 여러 개의 부분 그래프로 분리되지 않고 서로 강하게 연결된, 단지 1-2개의 부분 그래프 형태로 남는 경우도 발생한다.
- [표 4]는 제안시스템에 대한 비교 실험 결과이다. 실험 결과 그래프 분할에 의한 중요 문장 추출방법이 유사도 계산에 기반한 문장 클러스터별 대표 문장 추출방법보다 좋은 결과를 보이고 있다. 전체 요약시스템에서 문서의 내용을 의미하는 대표어를 선정하는 과정은 매우 중요하다.
- 대표어를 추출하기 위해 단어의 공기정보를 기반으로 연관성 분석을 실시하였다. 실험결과 제안시스템이 유사도 계산에 의한 문장 클러스터별 요약에 비해 성능이 향상됨을 볼 수 있었다. 이는 기존의 문장 클러스터링에서 사용하는 문장간 유사도 계산방법에 의한, 즉 어떠한 수식을 사용하든 가지고 있는 근본적인 문제점을 어느 정도 해결했다고 할 수 있다.
- 따라서 요약의 성능을 향상시키기 위해서는 이 문제점을 반드시 해결해야 하는 데, 본 논문에서는 그래프 분할을 이용하여 서로 다른 클러스터를 연결하는 부분을 찾아낸 후 하위 주제별로 분리하여 결과적으로 전체 요약 성능이 향상된 실험결과를 보였다. 즉, 그래프 분할이 하위 주제별 문장 클러스터의 분리가 정확하여기존의 클러스터 링 방법이 가지고 있는 유사도 계산의 오류에 따른 중요 문장 탈락의 방지와 문장의 중복성 제거에 효율적임을 의미한다. 따라서 전체 문서의 중요의미를 충분히 반영할 수 있어 대표 문장 추출에 의한 문서 요약에서 좋은 결과를 보인 것으로 평가된다.
- 전체 요약시스템에서 문서의 내용을 의미하는 대표어를 선정하는 과정은 매우 중요하다. 특히 본 논문에서는 대표어를 이용하여 문서를 그래프로 표현하기 때문에 어떻게 대표어를 추출 할 것인가 하는 문제는 그래프 분할을 하기 위한 전 단계로서 요약 성능에 많은 영향을 미친다. 단순한 단어의 통계정보를 이용하는 것이 아니라 단어의 공기정보를 이용하여 대표어를 선정함에 따라 보다 정확한 그래프 표현이 가능하게 되었다.
- 향상도는 단어 Ti에 상관없는 단어 Tj의 확률 대비, 단어 Ti가 주어졌을 때 단어 Tj의 확률의 증가 비율로 이 값이 클수록 단어 Ti의 출현여부가 단어 Tj의 출현여부에 큰 영향을 미친다. 단어 Ti와단어 Tj의 출현여부가 상호 관련이 없다면 P(Tj| Ti) 와 P(Tj)가 같게 되어 향상도가 1이 된다.
후속연구
- 향후 이 문제를 보완하여 요약시스템에 적용하면 더 정확한 결과가 나올 것으로 기대된다. 또한 본 논문에서는 요약시스템의 성능평가를 위해 재현율에 기반한 ROUGE 평가 방법을 사용 했지만 요약문의 의미측정과 같은 새로운 평가 방법과 정확한 성능측정을 위한 보다 객관적인 평가 방법에 대한 연구가 요구된다.
- 앞으로 반드시 개선해야 할 연구과제는 이형동의어와 동형이의어 같은 단어 의미의 다양성에 관한 것과 추출 문장들을 대상으로 문서 흐름에 맞도록 문장을 다시 정렬 (sentence ordering) 하는 방법이다. 향후 이 문제를 보완하여 요약시스템에 적용하면 더 정확한 결과가 나올 것으로 기대된다.
- 이는 기존의 문장 클러스터링에서 사용하는 문장간 유사도 계산방법에 의한, 즉 어떠한 수식을 사용하든 가지고 있는 근본적인 문제점을 어느 정도 해결했다고 할 수 있다. 하지만 본 논문에서 제안한 방법 외에, 문서요약을 하기 위한 주제 분리에 사용할 수 있는 그래프 분할 방법들에 대한 비교 연구가 더 필요하다.
- 향후 이 문제를 보완하여 요약시스템에 적용하면 더 정확한 결과가 나올 것으로 기대된다. 또한 본 논문에서는 요약시스템의 성능평가를 위해 재현율에 기반한 ROUGE 평가 방법을 사용 했지만 요약문의 의미측정과 같은 새로운 평가 방법과 정확한 성능측정을 위한 보다 객관적인 평가 방법에 대한 연구가 요구된다.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.