선택한 단어 수는 입니다.
최소 단어 이상 선택하여야 합니다.
최소 단어 이상 선택하여야 합니다.
선택한 단어 수는 30입니다.
최대 10 단어까지만 선택 가능합니다.
최대 10 단어까지만 선택 가능합니다.
문제 정의
- 따라서 본 논문에서는 쇼핑 키워드에 대한 가치평가의 시간과 비용을 단축시키기 위해, 인터넷 포털 사이트 검색어 중 쇼핑의도를 포함하고 있을 가능성이 높은 후보 키워드를 자동으로 식별해 낼 수 있는 방안을 제시하고자 한다. 구체적으로는 전체 검색어 중 검색 결과 페이지에서 쇼핑과 관련된 페이지로 이동한 검색어만을 추출하여 순위를 집계하고, 이 순위를 전체 검색 키워드의 순위와 비교하고자 한다.
- 하지만 검색어로 자주 입력되는 모든 단어가 쇼핑과 관련이 있는 것은 아니며, 이들 키워드 중에는 빈도수는 높지만 쇼핑몰 관점에서는 별로 수익과 관련이 없는 키워드도 다수 존재한다. 따라서 본 연구에서는 포털 사이트의 빈발 검색어 중 쇼핑 의도를 포함하고 있을 가능성이 높을 것으로 추정되는 키워드를 자동으로 추출하는 방안을 제시하였다.
- 본 절에서는 인터넷 검색기록 분석을 통해 쇼핑의도를 포함하고 있는 키워드의 후보를 자동으로 추출하는 방안을 제시한다. 전체 과정은 크게 두 가지 모듈로 구성되며, 유효성 분석을 위한 한 가지 모듈을 추가로 갖는다.
제안 방법
- ‘N’사의 검색 키워드를 추출하기 위해 현재 URL이 ‘N’사의 검색 페이지와 일치하는 레코드 3,896,340건을 추출하여 별도의 데이터 셋으로 저장하였다(Figure 7).
- 따라서 본 논문에서는 쇼핑 키워드에 대한 가치평가의 시간과 비용을 단축시키기 위해, 인터넷 포털 사이트 검색어 중 쇼핑의도를 포함하고 있을 가능성이 높은 후보 키워드를 자동으로 식별해 낼 수 있는 방안을 제시하고자 한다. 구체적으로는 전체 검색어 중 검색 결과 페이지에서 쇼핑과 관련된 페이지로 이동한 검색어만을 추출하여 순위를 집계하고, 이 순위를 전체 검색 키워드의 순위와 비교하고자 한다.
- 동시에 포털 사이트 ‘N’의 전체 키워드 목록과 쇼핑의도 포함 키워드 목록 각각에 대해 빈도수 기준 상위 4,000개를 추출하여 쇼핑 키워드와의 일치 여부를 비교하였다.
- 또한 [Figure 6]에 나타난 웹 방문 기록 중 본 실험에서는 현재 URL 정보, 직전 URL 정보, 이후 URL 정보를 활용하였으며, URL은 SITE, DIR, PAGE, QRYSTR의 네 개 항목의 조합으로 구성된다.
- 동시에 포털 사이트 ‘N’의 전체 키워드 목록과 쇼핑의도 포함 키워드 목록 각각에 대해 빈도수 기준 상위 4,000개를 추출하여 쇼핑 키워드와의 일치 여부를 비교하였다. 또한 순위별로 일치도가 다르게 나타나는 양상을 파악하기 위해 정답 키워드, 즉 쇼핑 키워드의 수는 1,000개로 고정한 상태에서 예측 키워드, 즉 전체 키워드와 쇼핑의도 포함 키워드의 수는 상위 200개에서 상위 4,000개까지 변화시켜가며 실험을 수행하였다.
- 즉 예측 키워드 중 실제 쇼핑 키워드 적중 비율을 나타내는 정확도(Precision)를 계산하고, 전체 실제 쇼핑 키워드 중 예측을 통해 검출된 비율을 나타내는 재현율(Recall)을 계산한 뒤, 정확도와 재현율의 조화 평균(Harmonic Mean)을 구하여 F-Score로 사용하고자 한다. 마지막으로 전체 키워드 목록과 쇼핑의도 포함 키워드 목록의 F-Score 값의 비교가 (10) 유효성 비교 단계에서 수행된다.
- 본 단계는 제안하는 방법론의 핵심 단계로, 포털 사이트 ‘N’사의 전체 검색 키워드 중 쇼핑 사이트 방문으로 연결된 키워드만을 추출하여 순위를 산정하는 단계이다.
- 본 실험에서는 중분류(BACT_NM)의 값이 “쇼핑”으로 나타난 사이트를 쇼핑 관련 사이트로 정의하였다.
- 이들 키워드 중 일정 빈도수 이상 사용된 키워드를 실제 쇼핑 키워드로 규정한다. 분석은 전체 키워드와 쇼핑의도 포함 키워드의 두 집합 각각에 대해 실제 쇼핑 키워드와의 F-Score를 계산하는 방식으로 수행한다. 즉 예측 키워드 중 실제 쇼핑 키워드 적중 비율을 나타내는 정확도(Precision)를 계산하고, 전체 실제 쇼핑 키워드 중 예측을 통해 검출된 비율을 나타내는 재현율(Recall)을 계산한 뒤, 정확도와 재현율의 조화 평균(Harmonic Mean)을 구하여 F-Score로 사용하고자 한다.
- 분석은 전체 키워드와 쇼핑의도 포함 키워드의 두 집합 각각에 대해 실제 쇼핑 키워드와의 F-Score를 계산하는 방식으로 수행한다. 즉 예측 키워드 중 실제 쇼핑 키워드 적중 비율을 나타내는 정확도(Precision)를 계산하고, 전체 실제 쇼핑 키워드 중 예측을 통해 검출된 비율을 나타내는 재현율(Recall)을 계산한 뒤, 정확도와 재현율의 조화 평균(Harmonic Mean)을 구하여 F-Score로 사용하고자 한다. 마지막으로 전체 키워드 목록과 쇼핑의도 포함 키워드 목록의 F-Score 값의 비교가 (10) 유효성 비교 단계에서 수행된다.
- 정확한 분석을 위해서는 정답지에 해당하는 쇼핑 키워드 목록이 정의되어 있어야 한다. 하지만 이러한 정답지가 존재할 것을 기대하기란 매우 어려울 뿐 아니라 본 분석의 목적은 전체 키워드 목록과 제안 방법론을 통해 도출한 키워드 목록의 유효성에 대한 상대적 비교이므로, 비교적 간단한 방법을 통해 쇼핑 키워드 목록을 구축하여 분석에 사용한다.
대상 데이터
- 4절에서 소개한 방식에 의해 실제 쇼핑 키워드 목록을 구축하였다. 구체적으로는 4대 쇼핑몰 내에서 이루어진 검색 총 80,298 건으로부터 빈도수 기준 상위 1,000개의 쇼핑 키워드를 목록화하였다. 동시에 포털 사이트 ‘N’의 전체 키워드 목록과 쇼핑의도 포함 키워드 목록 각각에 대해 빈도수 기준 상위 4,000개를 추출하여 쇼핑 키워드와의 일치 여부를 비교하였다.
- 다음으로 전체 웹 방문 기록 중 NEXT_ SITE가 쇼핑 사이트의 주소와 일치하고, 동시에 PREV_SITE가 ‘N’사의 검색 주소와 일치하는 트랜잭션 총 11,829 건을 추출하였다.
- 두 가지 데이터 모두 국내 인터넷 사이트 순위 분석 전문 업체인 ‘R’사로부터 패널 5000명의 2012년 7월 1일부터 2013년 6월 30일까지 1년간 웹 사용 기록이 담긴 데이터를 제공 받아 실험에 사용하였다.
- ‘N’사의 검색 키워드를 추출하기 위해 현재 URL이 ‘N’사의 검색 페이지와 일치하는 레코드 3,896,340건을 추출하여 별도의 데이터 셋으로 저장하였다(Figure 7). 또한 [Figure 7]의 질의 열을 분석하여 검색 키워드 총 344,822개를 추출하였다. [Figure 8]은 검색 키워드 추출 과정을 보이며, [Figure 9]는 이렇게 추출된 키워드들의 검색 순위를 나타낸다.
- 본 실험에서는 포털 내 검색 키워드 집계를 위해 국내 최대 포털 사이트인 ‘N’사의 트랜잭션 정보를 추출하였다.
- 우선 사이트 등록정보로부터 중분류가 “쇼핑”으로 분류된 사이트 중 4대 쇼핑몰(11번가, 인터파크, G마켓, 옥션)을 선정하였으며, 이들 사이트의 주소 31개를 추출하였다.
- 두 가지 데이터 모두 국내 인터넷 사이트 순위 분석 전문 업체인 ‘R’사로부터 패널 5000명의 2012년 7월 1일부터 2013년 6월 30일까지 1년간 웹 사용 기록이 담긴 데이터를 제공 받아 실험에 사용하였다. 제공 받은 데이터의 구체적 항목은 (1) 패널 5,000명의 인구통계학 정보 21개, (2) 접속 사이트 85,783개의 분류정보 3개, (3) 해당 패널의 해당 기간 웹 방문 기록 143,293,502건에 대한 상세 항목 18개로, 모든 데이터는 Oracle 12c에 구조화하여 저장하였다. 사이트 등록 정보는 사이트 명, 도메인, 사이트 대분류, 중분류, 소분류의 항목을 포함하고 있다(Figure 5).
데이터처리
- [Figure 2]의 (6) ~ (9)는 위의 과정을 통해 추출한 포털 사이트 전체 키워드 목록과 쇼핑의도 포함 키워드 목록의 유효성을 비교하는 단계이다. 즉 제안 방법론을 통해 도출한 쇼핑의도 포함 키워드 목록과 실제 쇼핑 키워드간의 일치도를 분석하여 제안 방법론의 성능을 평가할 수 있다. 정확한 분석을 위해서는 정답지에 해당하는 쇼핑 키워드 목록이 정의되어 있어야 한다.
성능/효과
- F-Score 분석 결과 제안 방법론에 의해 도출된 쇼핑의도 포함 키워드가 전체 키워드에 비해 정확도, 재현율, F-Score 모든 측면에서 좋은 특성을 보임을 확인할 수 있었다. 따라서 제안 방법론의 상대적 우수성은 확인할 수 있었으나, 절대 적인 정확도 및 재현율이 비교적 낮게 나타남을 알 수 있었다.
- 국내 최대의 검색 포털인 ‘N’사에서 이루어진 검색 약 390만 건에 대한 실험 결과, 제안 방법론에 의해 추천된 쇼핑의도 포함 키워드가 단순 빈도수 기반의 키워드에 비해 정확도, 재현율, F-Score의 모든 측면에서 상대적으로 우수한 성능을 보이는 것으로 나타남을 확인할 수 있었다.
- 재현율 역시 제안 방법론에 의해 도출된 키워드가 전체 키워드에 비해 모든 구간에서 높게 나타났으며, 당연히 많은 수의 키워드를 예측에 포함시킬수록 재현율도 높게 나타났다. 다만 예측 키워드의 수가 어느 정도 이상이 되면 재현율이 더 이상 증가하지 않을 것으로 예상했으나, 예상과 달리 예측 키워드 수의 증가에 따라 재현율이 꾸준히 증가하는 현상을 확인할 수 있었다. 이는 정답 키워드 수에 비해 예측 키워드의 수를 충분히 확보하지 못했기 때문에 나타나는 현상인 것으로 파악할 수 있다.
- F-Score 분석 결과 제안 방법론에 의해 도출된 쇼핑의도 포함 키워드가 전체 키워드에 비해 정확도, 재현율, F-Score 모든 측면에서 좋은 특성을 보임을 확인할 수 있었다. 따라서 제안 방법론의 상대적 우수성은 확인할 수 있었으나, 절대 적인 정확도 및 재현율이 비교적 낮게 나타남을 알 수 있었다. 이는 정답 키워드 및 예측 키워드의 수 부족, 키워드 추출 과정에서의 정교한 전처리 부족 등의 사유에 기반한 것으로 판단된다.
- 마지막으로 [Figure 14]는 두 키워드 목록의 F-Score를 보여준다. 마찬가지로 모든 구간에서 제안 방법론에 의해 도출된 키워드가 전체 키워드에 비해 모든 구간에서 높은 F-Score를 나타냈다. 특히 전체 키워드의 경우 정답 키워드 수의 약 2.
- 다음으로 재현율을 분석한 결과는 [Figure 13]에 나타나있다. 재현율 역시 제안 방법론에 의해 도출된 키워드가 전체 키워드에 비해 모든 구간에서 높게 나타났으며, 당연히 많은 수의 키워드를 예측에 포함시킬수록 재현율도 높게 나타났다. 다만 예측 키워드의 수가 어느 정도 이상이 되면 재현율이 더 이상 증가하지 않을 것으로 예상했으나, 예상과 달리 예측 키워드 수의 증가에 따라 재현율이 꾸준히 증가하는 현상을 확인할 수 있었다.
- 정확도 분석의 경우 제안 방법론에 의해 도출된 쇼핑의도 포함 키워드의 정확도가 전체 키워드의 정확도에 비해 모든 구간에서 높게 나타났다. 또한 빈도수 상위 키워드의 정확도가 하위 키워드에 비해 정확도가 높게 나타났다.
- 마찬가지로 모든 구간에서 제안 방법론에 의해 도출된 키워드가 전체 키워드에 비해 모든 구간에서 높은 F-Score를 나타냈다. 특히 전체 키워드의 경우 정답 키워드 수의 약 2.5배인 2,500개 구간에서 F-Score가 가장 높게 나타난 반면, 쇼핑의도 포함 키워드의 경우 정답 키워드 수의 0.4배인 400개 구간에서 가장 높은 F-Score를 기록했다.
후속연구
- 본 논문은 쇼핑의도 포함 키워드 집합을 비교적 간단한 방법으로 도출할 수 있는 방안을 제시했다는 점에서 그 기여를 인정받을 수 있을 것으로 기대한다. 또한 쇼핑뿐 아니라 다른 특정 분야에 관련된 키워드 집합도 이와 유사한 방식으로 도출할 수 있다는 점에서 연구 성과의 활용도도 매우 높을 것으로 기대한다.
- 국내 최대의 검색 포털인 ‘N’사에서 이루어진 검색 약 390만 건에 대한 실험 결과, 제안 방법론에 의해 추천된 쇼핑의도 포함 키워드가 단순 빈도수 기반의 키워드에 비해 정확도, 재현율, F-Score의 모든 측면에서 상대적으로 우수한 성능을 보이는 것으로 나타남을 확인할 수 있었다. 본 논문은 쇼핑의도 포함 키워드 집합을 비교적 간단한 방법으로 도출할 수 있는 방안을 제시했다는 점에서 그 기여를 인정받을 수 있을 것으로 기대한다. 또한 쇼핑뿐 아니라 다른 특정 분야에 관련된 키워드 집합도 이와 유사한 방식으로 도출할 수 있다는 점에서 연구 성과의 활용도도 매우 높을 것으로 기대한다.
- 하지만 본 연구의 성과를 극대화하고 공신력을 향상시키기 위해서는, 방법론 구현의 여러 세부 단계에서 보다 엄밀한 고찰이 필요하다. 특히 질의열 중 정확한 파싱을 통해 검색 키워드를 명확히 식별하기 위한 추가 노력이 필요하다.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.