선택한 단어 수는 입니다.
최소 단어 이상 선택하여야 합니다.
최소 단어 이상 선택하여야 합니다.
선택한 단어 수는 30입니다.
최대 10 단어까지만 선택 가능합니다.
최대 10 단어까지만 선택 가능합니다.
문제 정의
- 본 논문에서는 기능어로 새로이 추가되는 단어에 대해서 그 단어의 발음열에 해당하는 새로운 음소를 부여한다. 서강대 PLUsel 은 대문자 표기를 원칙으로 한다.
- 이들은 대체적으로 강세를 약하게 받고 생략이 빈번하며 주위 문맥(context)에 의해 심하게 왜곡되는 현상을 보안 다. 본 논문에서는 인식 오류의 상당 부분을 차지하는 이러한 단어들을 한국어에서의 기능어(function word)로 정의하고 기능어의 인식률 향상을 위해 새로운 기능어용 음 소 1 모델을 새로이 적용한 접근을 제안한다. 같은 phone이라도 기능어와 기능어가 아닌 일반 표제어(content word)에서 발화될 때 음성학적인 특성이 다르게 나타난다.
제안 방법
- 본 논문에서는 한국어 연속 음성 인식에서 빈번한 인식 오 류를 발생시키는 조사", 어미 및 짧은 용언의 어간등을 한국어 기능어라 지칭하고 이러한 기눙어용 음소를 독립적으로 적용 하는 방법을 제안하였다 실제 인식 실험을 통해 기능어 집합 을 정의하고 각각의 단어에 대한 기능어 음소를 적용한 실험을 수행하여 결과를 비교 분석하였다. 기본실험을 통하여 발생한 문제를 해결하기 위해 Gaussian Mixture 를 중가시키고 언어모델 penalty 를 부여한 새로운 실험환경을 적용하몄다.
- Gaussian mixture > 증가 시 키고 언어 모 델 penalty를 부여한 수정된 환경에서 기능어 음소를 추가하여 실험을 수행하였다. 수정된 환경하에서 기능어 음소1을 적용하여 실험을 하였을 때 적용하지 않은 경우보다 문장 및 단어 인식률이 향상되었고 기능어 음소2을 적용하였을 때는 기능어 음소1을 적용하였을 때보다도 더 향상된 결과를 얻었다 인식 결과는 다음 [ 표3] 에 나타나 있다.
- 의사형태소를 디코딩 단위로 한 인식 실험을 수행하여 실제 발생하는 인식 오류의 패턴과 종류를 분석했다. 각 단어의 인식 오류의 횟수를 구하고 조사, 어미, 접사 및 짧은 용언의 어간 등에 대해 15회 이상의 오류를 보인 14개의 단어들을 기능어 집합1로, 큰 오류 횟수를 보이지는 않지만 대용량으로 확장되고 자연스러운 문장으로 발화된다면 충분히 오류를 발생시킬 수 있는 단어들까지 확장한 28 개의 단어로 구성된 집합을 기능어 집합2로 정의하였다. 다음 [ 표 1]은 기능어 집합 2이고 표의 왼쪽 부분의 14개의 단어가 기능어 집헙1이다.
- 문자 기반의 형태소에는 단 음소, 단음절로 구성되어 있는 단위들이 많고 발화 지속 시간이 짧은 단 위일수록 그 안에서 인식에 필요한 충분한 정보를 추출해 내 기가 어려워진다. 그래서 이를 위해 제안된 방법이 새로운 디코딩 단위인 의사-형 태소(Pseudo-Morpheme)|3] 를 이용하는 것이다, 그런데 적절한 결합정보를 이용하여 의사형태소 단위로 결합을 하더라도 조사 및 짧은 어미 중 몇몇은 결합 되지 않은 채 남아 있게 된다. 실제 실험에서 발생되는 인식 오류를 살펴보면 상당수의 오류가 이러한 단어에 의한 것이다.
- 학습용 발화의 전사된 문장을 형태소 분석을 하고 의사형태소 결합규칙에 의해 의사형태소 태그를 붙인 후에 [6] 의 시스템을 수정하여 해당 문장에 맞는 한국어 발음열을 생성하였다. 그리고 각 단어의 태그 정보를 이용하여 기능어 여부를 판단한 뒤 기능어는 해당하는 기능어 음소로 변환하여 새로운 발음열을 생성하여 학습에 이용한다.
- 전체 맞은 단어의 수도 줄었고 대체 오류와 삭제 오류는 감소하였으나 삽입오류가 급격히 증가하여 단어 correctness만이 증가하였다. 기능 어용 음소가 분리되어 독립적으로 학습이 이루어졌기 때문에 발생한 음향학적인 문제를 해결하기 위해 Gaussian mixture 수를 증가 시켜 견고한 학습을 수행했고, 증가한 삽입오류를 제어하기 위하여 언어 모델에 penalty를 부여하였다.
- 본 논문에서는 한국어 연속 음성 인식에서 빈번한 인식 오 류를 발생시키는 조사", 어미 및 짧은 용언의 어간등을 한국어 기능어라 지칭하고 이러한 기눙어용 음소를 독립적으로 적용 하는 방법을 제안하였다 실제 인식 실험을 통해 기능어 집합 을 정의하고 각각의 단어에 대한 기능어 음소를 적용한 실험을 수행하여 결과를 비교 분석하였다. 기본실험을 통하여 발생한 문제를 해결하기 위해 Gaussian Mixture 를 중가시키고 언어모델 penalty 를 부여한 새로운 실험환경을 적용하몄다. 새로운 실험 환경하에서 기능어 집합1에 대해 기능어 음소를 적용하면 전체 문장 인식률은 0, 8%, word correctness 는 1.
- 문장 단위로 입력되는 음성은 모두 16kHz로 샘플링하였으며, 매 10ms마다 25ms의 크기를 갖는 해밍 윈도우를 프레 임을 만들고 이어서 preemphasis 과정을 거 친 후 FFT를 수행하여 13차 MFCC 를 구하고 얻어 낸 MFCC 의 1차 및 2차 차분 계수를 구하여 총39 차의 특징 벡터를 생성한다 기본적인 인식 단위로 좌우 문맥을 고려한 음소 단위인 트라이폰 을 사용한다. 다중발음열을 허용하였고 생성된 다중 발음 사전 을 이용하여 사전 표제어 내부에서 생성되는 트라이폰들만 사용을 하였다. 각 HMM 은5 개의 상태를 가지는 left-to-rightHMM 으로 구성하였다.
- 같은 phone이라도 기능어와 기능어가 아닌 일반 표제어(content word)에서 발화될 때 음성학적인 특성이 다르게 나타난다. 따라서 기능어에 사용되는 음소들은 일반 표제어와 분리시켜 학습을 하여 기능어만의 음향학적 특성을 반영할 수 있는 파라미터를 얻어 내고 이를 적용하여 인식 실험을 수행한다.
- 문장 단위로 입력되는 음성은 모두 16kHz로 샘플링하였으며, 매 10ms마다 25ms의 크기를 갖는 해밍 윈도우를 프레 임을 만들고 이어서 preemphasis 과정을 거 친 후 FFT를 수행하여 13차 MFCC 를 구하고 얻어 낸 MFCC 의 1차 및 2차 차분 계수를 구하여 총39 차의 특징 벡터를 생성한다 기본적인 인식 단위로 좌우 문맥을 고려한 음소 단위인 트라이폰 을 사용한다. 다중발음열을 허용하였고 생성된 다중 발음 사전 을 이용하여 사전 표제어 내부에서 생성되는 트라이폰들만 사용을 하였다.
- 의사형태소를 디코딩 단위로 한 인식 실험을 수행하여 실제 발생하는 인식 오류의 패턴과 종류를 분석했다. 각 단어의 인식 오류의 횟수를 구하고 조사, 어미, 접사 및 짧은 용언의 어간 등에 대해 15회 이상의 오류를 보인 14개의 단어들을 기능어 집합1로, 큰 오류 횟수를 보이지는 않지만 대용량으로 확장되고 자연스러운 문장으로 발화된다면 충분히 오류를 발생시킬 수 있는 단어들까지 확장한 28 개의 단어로 구성된 집합을 기능어 집합2로 정의하였다.
- 정의된 기능어 집합을 통해서 기능어에만 사용되는 새로운 음소를 전체 음 소집 합에 추가하고 이를 발음 사전에 적용하여야 한다. 학습용 발화의 전사된 문장을 형태소 분석을 하고 의사형태소 결합규칙에 의해 의사형태소 태그를 붙인 후에 [6] 의 시스템을 수정하여 해당 문장에 맞는 한국어 발음열을 생성하였다. 그리고 각 단어의 태그 정보를 이용하여 기능어 여부를 판단한 뒤 기능어는 해당하는 기능어 음소로 변환하여 새로운 발음열을 생성하여 학습에 이용한다.
대상 데이터
- 본 논문의 실험을 위한 베이스라인 연속 음성 인식기로 Entropic사의 HTKtHMM Tool Kit) 을 사용하였다(1). 베이스라인 시스템의 구조는 [ 그림 1] 과 같다.
- 본 논문의 실험을 위해서 사용한 음성 데이터베이스는 한국 과학 기술원 통신 연구실에서 제작한 3, 000단어급의 무역 상담용 연속 음성 데이터베이스이다 이 중 HMM 모델 학습을 위해 남성 화자50 명 이 발화한 4910 개의 문장을 사용하였고, 인식 실험용으로는 남성화자 11명이 발화한 1000 개의 문장을 사용하였다.
- 기본실험에서는 각 상태마다 Gaussian Mixture를 1개만 사용하였고 실험을 진행하며 보다 견고한 학습이 필요하여 수정된 실험환경에서는 각 상태당 2개의 Gaussian Mixture를 이용하였다. 본 실험에서 사용된 기본적인 인식단위의 음소 표기는 서강대 PLU2를 이용하였다. 또한 인식 성능을 높이기 위해 적절한 길이의 발성 시간을 가지고 언어학적으로도 안정적인 의사형태소[4]를 디 코딩 단위로 사용한다.
이론/모형
- 서강대 PLUsel 은 대문자 표기를 원칙으로 한다. 그러므로 여기에서 새롭게 추가되는 음소는 같은 발음을 갖는 서강대PLU 의 소문자 표기를 사용한다. 기능어 집합1에 의해 추가되는 음소는 19 개이고 기능어 집합 2에 의해 주가 되는 음소는 17개로 다음 [ 표2] 에 나타나 있다.
- 각 HMM 은5 개의 상태를 가지는 left-to-rightHMM 으로 구성하였다. 기본실험에서는 각 상태마다 Gaussian Mixture를 1개만 사용하였고 실험을 진행하며 보다 견고한 학습이 필요하여 수정된 실험환경에서는 각 상태당 2개의 Gaussian Mixture를 이용하였다. 본 실험에서 사용된 기본적인 인식단위의 음소 표기는 서강대 PLU2를 이용하였다.
성능/효과
- 기본 실험에서는 기능어 음소1을 적용한 실험에서 기능어 음소를 추가하지 않은 경우보다 문장 correctness와 단어 accuracy는 떨어지는 결과를 보였다. 전체 맞은 단어의 수도 줄었고 대체 오류와 삭제 오류는 감소하였으나 삽입오류가 급격히 증가하여 단어 correctness만이 증가하였다.
- 17% 중가하였고, 기능어 집합2의 전체 오류 횟수는826 에서 772 로 감소하였다 위의 실험결과를 통해 빈번한 안식오 류를 발생시키는 한국어 기능어에 대해 새로운 음소를 적용하여 독립적으로 학습하여 인식을 수행하는 것이 효과적이었 음을 확인하였다. 또한 기능어 집합1과 기능어 집합2로 구분 하여 실험해 본 결과 모두 인식률이 향상되므로 기능어 집합 의 정의가 효과적이었음을 확인하였다.
- 79% 향상되 었고, 기능어 집합] 의 전체 오류 횟수는708 에서 649 로 감소하였다. 또한 기능어 집합2에 대한 기능어 음소를 적응하였을 때 전체 문장 인식 률은 1.4%, word correctness 는 1.48%, wor d accuracy 는 1.17% 중가하였고, 기능어 집합2의 전체 오류 횟수는826 에서 772 로 감소하였다 위의 실험결과를 통해 빈번한 안식오 류를 발생시키는 한국어 기능어에 대해 새로운 음소를 적용하여 독립적으로 학습하여 인식을 수행하는 것이 효과적이었 음을 확인하였다. 또한 기능어 집합1과 기능어 집합2로 구분 하여 실험해 본 결과 모두 인식률이 향상되므로 기능어 집합 의 정의가 효과적이었음을 확인하였다.
- 기본실험을 통하여 발생한 문제를 해결하기 위해 Gaussian Mixture 를 중가시키고 언어모델 penalty 를 부여한 새로운 실험환경을 적용하몄다. 새로운 실험 환경하에서 기능어 집합1에 대해 기능어 음소를 적용하면 전체 문장 인식률은 0, 8%, word correctness 는 1.29%, word accuracy는 0.79% 향상되 었고, 기능어 집합] 의 전체 오류 횟수는708 에서 649 로 감소하였다. 또한 기능어 집합2에 대한 기능어 음소를 적응하였을 때 전체 문장 인식 률은 1.
- Gaussian mixture > 증가 시 키고 언어 모 델 penalty를 부여한 수정된 환경에서 기능어 음소를 추가하여 실험을 수행하였다. 수정된 환경하에서 기능어 음소1을 적용하여 실험을 하였을 때 적용하지 않은 경우보다 문장 및 단어 인식률이 향상되었고 기능어 음소2을 적용하였을 때는 기능어 음소1을 적용하였을 때보다도 더 향상된 결과를 얻었다 인식 결과는 다음 [ 표3] 에 나타나 있다.
- 기본 실험에서는 기능어 음소1을 적용한 실험에서 기능어 음소를 추가하지 않은 경우보다 문장 correctness와 단어 accuracy는 떨어지는 결과를 보였다. 전체 맞은 단어의 수도 줄었고 대체 오류와 삭제 오류는 감소하였으나 삽입오류가 급격히 증가하여 단어 correctness만이 증가하였다. 기능 어용 음소가 분리되어 독립적으로 학습이 이루어졌기 때문에 발생한 음향학적인 문제를 해결하기 위해 Gaussian mixture 수를 증가 시켜 견고한 학습을 수행했고, 증가한 삽입오류를 제어하기 위하여 언어 모델에 penalty를 부여하였다.
후속연구
- 현재 사용되는 단어 bigram 의 경우 코퍼스 내에서 디코딩 단위가 되는 단어들의 결합 패턴에 의해 그 확률값이 결정되므로 기능어에 대해 보다 정확한 처 리를 하기 위해서는 태그 정보를 이용한 언어모델이 적용되 어야 한다. class -based bigram 등의 언어모델을 통해 태그 정보를 이용하면 현 시스템의 성능을 개선시킬 수 있을 것으로 보인다. 또한 언어모델에 penalty 를 부여하여 증가된 삭제 오류를 줄이기 위한 접근이 필요하고 더 다양한 실험을 통하여 보다 정확한 기능어 집합의 정의가 요구된다
- class -based bigram 등의 언어모델을 통해 태그 정보를 이용하면 현 시스템의 성능을 개선시킬 수 있을 것으로 보인다. 또한 언어모델에 penalty 를 부여하여 증가된 삭제 오류를 줄이기 위한 접근이 필요하고 더 다양한 실험을 통하여 보다 정확한 기능어 집합의 정의가 요구된다
※ AI-Helper는 부적절한 답변을 할 수 있습니다.