[논문]Q-learning을 이용한 신뢰성 있는 패킷 스케줄링

김동현; 유승언; 김경태; 윤희용

Q-learning을 이용한 신뢰성 있는 패킷 스케줄링
Reliable packet scheduling using Q-learning 원문보기

김동현 (성균관대학교 정보통신대학 전자전기컴퓨터공학과) , 유승언 (성균관대학교 정보통신대학 전자전기컴퓨터공학과) , 김경태 (성균관대학교 정보통신대학 전자전기컴퓨터공학과) , 윤희용 (성균관대학교 정보통신대학 전자전기컴퓨터공학과)

본 논문에서는 무선 센서 네트워크 환경에서 신뢰성 있는 데이터 패킷 전송을 위한 효율적인 스케줄링 기법을 제안한다. 무선 네트워크는 수천 개의 센서노드, 게이트웨이, 그리고 소프트웨어로 구성된다. 큐러닝(Q-learning)을 기반으로 한 스케줄링 기법은 동적인 무선센서 네트워크 환경의 실시간 및 비실시간적인 데이터에 대한 사전 지식을 필요로 하지 않는다. 따라서 최종 결과 값을 도출하기 전에 스케줄링 정책을 구할 수 있다. 제안하는 기법은 데이터 패킷의 종류, 처리시간, 그리고 대기시간을 고려한 기법으로 신뢰성 있는 데이터 패킷의 전송을 보장하고, 전체 데이터 패킷에 공정성을 부여한다. 본 논문에서는 시뮬레이션을 통해 기존의 FIFO 알고리즘과 비교하여 제안하는 스케줄링 기법이 전체 데이터 패킷에 대한 공정성 및 신뢰성 측면에서 우수함을 증명하였다.

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

가설 설정

N은 일반적인 데이터 패킷으로 우선순위가 가장 낮다. 도착시간은 센서 노드에서 데이터 패킷이 감지되어 싱크 노드로 전송 이후의 시간으로 5초마다 3개의 데이터 패킷이 감지된다고 가정하였다. 처리시간은 데이터 패킷을 처리하는데 걸리는 시간으로 1에서 15의 값을 설정하였다.

제안 방법

따라서 이러한 알고리즘은 부적절하게 데이터 패킷을 Queue에 할당하기 때문에 높은 오버 헤드와 긴 End-to-End delay를 갖는다. 따라서 싱크노드에서 수집 된 데이터는 데이터의 손실 및 기아 상태를 방지하기 위해 신뢰성 있고 공평하게 스케줄링 되어야 하며, 이를 위한 방법으로 큐러닝을 이용하였다.
제안하는 기법의 모든 실험은 Java로 실행되었다. 또한 실제 WSN환경을 고려하기 위해 데이터 패킷의 종류는 Emergency data(E),Real time data(R), Non Real time data(N) 로 나누고 각 10%,30%, 60%로 패킷의 숫자를 입력하여 생성되게 하였다.
본 논문에서는 실시간으로 변화하는 동적인 WSN 환경에서 센서 노드에서 감지된 전체 데이터 패킷에 공정성을 부여하고 신뢰성 있는 데이터 패킷의 전송을 위한 방법으로 큐러닝을 이용하였다. 연구의 효용성을 검증하기 위해 기존의 FIFO 알고리즘과 비교 실험하였고, 실험결과 제안된 스케줄링 기법은 기존의 FIFO 알고리즘을 이용한 스케줄링 기법에 비해 평균 대기시간이 조금 증가하였지만,데이터 패킷의 종류, 처리시간, 그리고 대기시간을 고려한다는 점에서 효율적으로 데이터 패킷을 스케줄링 할 수 있음을 보인다.
제안된 기법은 기존의 FIFO와 다르게 데이터 패킷의 종류, 처리시간, 그리고 도착시간을 고려하여 Queue에 할당하였다.
제안하는 기법은 데이터 패킷의 대기시간 및 처리시간이 짧은 패킷으로 인해 처리 시간이 오래 걸리는 데이터 패킷이 기아 상태에 빠지는 것을 방지하기 위해 처리시간과 대기시간을 합하여 큐러닝의 r값으로 부여 하였다. 따라서 처리시간이 짧고 대기시간이 길수록 r값이 증가하여 Q(s,a)값이 증가하게 된다.
비교 결과 제안된 기법이 기존의 FIFO 알고리즘에 비해 평균 대기시간이 증가한 결과를 보였다. 하지만 제안된 기법은 기존의 기법과 달리 데이터의 종류를 고려하여 우선순위에 따라 처리하였다.

데이터처리

본 연구의 정확성을 검증하기 위해 같은 패킷의 수를 입력하여 10번의 반복 및 기존의 FIFO 알고리즘을 이용한 스케줄링 결과와 비교하였다. 아래 Fig.

성능/효과

비교 결과 제안된 기법이 기존의 FIFO 알고리즘에 비해 평균 대기시간이 증가한 결과를 보였다. 하지만 제안된 기법은 기존의 기법과 달리 데이터의 종류를 고려하여 우선순위에 따라 처리하였다.
본 논문에서는 실시간으로 변화하는 동적인 WSN 환경에서 센서 노드에서 감지된 전체 데이터 패킷에 공정성을 부여하고 신뢰성 있는 데이터 패킷의 전송을 위한 방법으로 큐러닝을 이용하였다. 연구의 효용성을 검증하기 위해 기존의 FIFO 알고리즘과 비교 실험하였고, 실험결과 제안된 스케줄링 기법은 기존의 FIFO 알고리즘을 이용한 스케줄링 기법에 비해 평균 대기시간이 조금 증가하였지만,데이터 패킷의 종류, 처리시간, 그리고 대기시간을 고려한다는 점에서 효율적으로 데이터 패킷을 스케줄링 할 수 있음을 보인다. 앞으로의 연구 계획으로 데이터의 처리시간 및 대기시간에 따른 reward 값을 부여하여 평균대기시간을 더욱 줄이는 방법에 대해 연구할 예정이다.
위 결과에서 볼 수 있듯이 기존 FIFO 알고리즘은 데이터의 종류,처리시간, 그리고 대기시간을 고려하지 않기 때문에 효율적이지 못하다.

후속연구

연구의 효용성을 검증하기 위해 기존의 FIFO 알고리즘과 비교 실험하였고, 실험결과 제안된 스케줄링 기법은 기존의 FIFO 알고리즘을 이용한 스케줄링 기법에 비해 평균 대기시간이 조금 증가하였지만,데이터 패킷의 종류, 처리시간, 그리고 대기시간을 고려한다는 점에서 효율적으로 데이터 패킷을 스케줄링 할 수 있음을 보인다. 앞으로의 연구 계획으로 데이터의 처리시간 및 대기시간에 따른 reward 값을 부여하여 평균대기시간을 더욱 줄이는 방법에 대해 연구할 예정이다.

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증

Q-learning을 이용한 신뢰성 있는 패킷 스케줄링
Reliable packet scheduling using Q-learning 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper

가설 설정

제안 방법

데이터처리

성능/효과

후속연구

이 논문을 인용한 문헌

연구과제 타임라인

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

연합인증

Q-learning을 이용한 신뢰성 있는 패킷 스케줄링 Reliable packet scheduling using Q-learning 원문보기

초록 용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

AI 본문요약 엑셀 다운로드 AI-Helper

가설 설정

제안 방법

데이터처리

성능/효과

후속연구

이 논문을 인용한 문헌

연구과제 타임라인

전체(0) 논문(0) 특허(0) 보고서(0)

전체(0) 논문(0) 특허(0) 보고서(0)

관련 콘텐츠

원문 보기

이 논문과 함께 이용한 콘텐츠

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

선택된 텍스트

Q-learning을 이용한 신뢰성 있는 패킷 스케줄링
Reliable packet scheduling using Q-learning 원문보기

초록
AI-Helper

AI 본문요약
AI-Helper