[논문]FlappyBird Competition System: 인공지능 수업의 경쟁 기반 평가 시스템의 구현

손의성; 김재경

doi:10.9717/kmms.2020.24.4.593

FlappyBird Competition System: 인공지능 수업의 경쟁 기반 평가 시스템의 구현
FlappyBird Competition System: A Competition-Based Assessment System for AI Course 원문보기

멀티미디어학회논문지 = Journal of Korea Multimedia Society, v.24 no.4, 2021년, pp.593 - 600

손의성 (University College, Yonsei University) , 김재경 (University College, Yonsei University)

Abstract ▼ AI-Helper

In this paper, we present the FlappyBird Competition System (FCS) implementation, a competition-based automated assessment system used in an entry-level artificial intelligence (AI) course at a university. The proposed system provides an evaluation method suitable for AI courses while taking advantage of automated assessment methods. Students are to design a neural network structure, train the weights, and tune hyperparameters using the given reinforcement learning code to improve the overall performance of game AI. Students participate using the resulting trained model during the competition, and the system automatically calculates the final score based on the ranking. The user evaluation conducted after the semester ends shows that our competition-based automated assessment system promotes active participation and inspires students to be interested and motivated to learn AI. Using FCS, the instructor significantly reduces the amount of time required for assessment.

주제어

표/그림 (11)

그림 Fig. 1. Overview of the system.
그림 Fig. 2. Screenshot of the competition webpage.
그림 Fig. 3. Screenshot of the FlappyBird game.
그림 Fig. 4. Screenshot of the main menu.
그림 Fig. 5. Parallel coordinate view of TensorBoard.
그림 Fig. 6. Graphs generated during hyperparameter tuning.
표 Table 1. List of hyperparameters.
표 Table 2. List of competition rounds.
표 Table 3. Points by tier.
표 Table 4. Student survey results.
그림 Fig. 7. Chart of the student survey results.

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

본 논문에서는 인공지능 수업을 위한 경쟁 기반의 평가 시스템인 FlappyBird Competition System을 구현하고 이를 기반으로 학기말 프로젝트를 진행한 결과를 제시하였다.
본 논문은 기초 인공지능 수업에 적용하기 위한 경쟁 기반 자동평가 시스템인 FlappyBirdCompetition System(FCS)을 제안하고 이를 비전공생을 대상으로 하는 대학의 교양 인공지능 수업에서 활용한 결과를 고찰한다.
수업은 1주일에 2시간의 이론 수업과 1시간의 실습 수업으로 편성되며 이론 수업 중간 중간 코드를 실행하거나 문제를 푸는 등의 코딩 실습이 병행되는 실습 위주의 내용으로 진행된다.제안 시스템이 적용된 학기말 프로젝트는 두 종류의 프로젝트 중 강화학습을 사용한 게임 AI 를 제작하는 주제로 진행되며 PyGame으로 구현된 FlappyBird게임 환경에서 인공지능 에이전트를 훈련하여 높은 점수를 획득하기 위한 시행착오의 과정에서 신경망의 특성을 학습하는 것을 목표로 한다. 최종 학점의 평가는 출석(10%), 실습과제(45%), Kag- gle과제(15%), 프로젝트1(30%), 프로젝트 2(20%)로 이루어져 있는데 이 중 제안 시스템은 프로젝트 1항목에 적용되었다.

제안 방법

정해진 순위를 기준으로 점수를 평가하기 위해서 제안 시스템은 K-meansClustering알고리즘을 사용하여 5개의 점수군으로 나누게 된다.게임의 최대스코어가 지나치게 높을 경우 에피소드에 걸리는 시행시간이 지나치게 길어지는 문제가 있기 때문에 현재 모든 라운드는 300점을 최고 스코어로 하여 에피소드를 중단하도록 하였다. 이 때문에 K-means clustering알고리즘을 사용하기 전 최고점인 300점을 따로 분리하여 가장 높은 배점을 할당하고 나머지 점수 군에 대해서 높은 순서대로 점수를 할당하는데 각 점수군별 배점은 Table 3과 같다.
기존의 경쟁 기반 평가 시스템이 주로 실행 결과의 일치나 실행 속도, 알고리즘의 효율성 등 일반적인 컴퓨터 프로그래밍 언어 교육과정에 적합한 방식인 반면 제안 시스템은 어떤 정답이나 정해진 방법을 활용하는지의 여부 보다는 신경망 구조의 설계와 가중치 훈련, 하이퍼파라미터 튜닝을 통해 반복적인 시행착오의 과정을 통해 성능을 향상시키는 인공지능프로그래밍의 핵심 요소들을 평가하는데 보다 초점을 두어 설계되었다[13].자체적으로 성능을 점검하는 평가모드와 실시간으로 공개되는 순위와 그래프가 공개되는 Sandbox컴피티션 모드를 통해 학생들이 장기간의 시행착오 과정 동안 계속해서 흥미와 도전 의식을 가지고 참여하도록 유도하였으며 직접적인 경쟁으로 인한 부정적인 감정을 완화하기 위해서는 자유롭게 원하는 별명 등을 등록하여 참여할 수 있도록 배려하였다.
두어 설계되었다[13].자체적으로 성능을 점검하는 평가모드와 실시간으로 공개되는 순위와 그래프가 공개되는 Sandbox컴피티션 모드를 통해 학생들이 장기간의 시행착오 과정 동안 계속해서 흥미와 도전 의식을 가지고 참여하도록 유도하였으며 직접적인 경쟁으로 인한 부정적인 감정을 완화하기 위해서는 자유롭게 원하는 별명 등을 등록하여 참여할 수 있도록 배려하였다.
제안 시스템은 OnlineJudge로 대표되는 자동화된 평가방식의 장점을 가져오면서 인공지능 수업의 학습과 평가 항목에 적합한 기능들을 제공한다. 강화학습을 이용하여 게임 AI를 고도로 훈련하는 것을 주제로 주어진 시간동안 신경망 구조의 설계와 가중치 학습, 그리고 하이퍼파라미터 튜닝의 과정에서 겪게 되는 시행착오의 과정을 학생들이 흥미와 동기력을 가지고 주도적으로 참여하도록 유도하는 방식이다.
강화학습을 이용하여 게임 AI를 고도로 훈련하는 것을 주제로 주어진 시간동안 신경망 구조의 설계와 가중치 학습, 그리고 하이퍼파라미터 튜닝의 과정에서 겪게 되는 시행착오의 과정을 학생들이 흥미와 동기력을 가지고 주도적으로 참여하도록 유도하는 방식이다. 제안 시스템은 실시간 컴피티션에서 결정된 순위를 토대로 자동으로 점수군을 나누고 모든 라운드에서 획득한 점수들을 합산하는 방식으로 평가 결과를 제공한다.학생들이 이 시행착오의 과정을 통해 축척된 데이터와 제출된 코드에 대한 간결한 정성 평가를 기본 점수로 하여 제안 시스템에서 얻은 정량 평가 결과를 주로 활용하여 평가를 수행하였다.
제안 시스템이 적용된 학기말 프로젝트는 두 종류의 프로젝트 중 강화학습을 사용한 게임 AI 를 제작하는 주제로 진행되며 PyGame으로 구현된 FlappyBird게임 환경에서 인공지능 에이전트를 훈련하여 높은 점수를 획득하기 위한 시행착오의 과정에서 신경망의 특성을 학습하는 것을 목표로 한다. 최종 학점의 평가는 출석(10%), 실습과제(45%), Kag- gle과제(15%), 프로젝트1(30%), 프로젝트 2(20%)로 이루어져 있는데 이 중 제안 시스템은 프로젝트 1항목에 적용되었다.
서버는 AWS Lambda를 이용하여 구현되었으며 RESTAPI를 제공하여 학생들의 코드와 연동되도록 하였다.컴피티션 페이지와 관리자 페이지는 AWS S3의 static web 방식으로 운영되며 내부적으로 Ajax를 활용하여 RESTAPI를 호출하는 방식으로 구현되었다.컴피티션 페이지는 Fig.
1과 같다. 학생들에게 배포되는 기본 코드는 크게 네 가지 모듈로 나뉘는데 하나는 PyGame을 사용하여 Python으로 구현된, OpenAIGym과 연동되는 FlappyBird게임 환경 모듈, 강화학습 알고리즘 DQL(DeepQ-Learn- ing)이 구현되어 있는 에이전트 모듈, 신경망의 구조와 하이퍼파라미터를 수정하고 전체 프로그램을 실행하기 위한 메인 모듈, 그리고 훈련된 모델들을 관리하고 서버와 통신하는 헬퍼 모듈로 구성되어있다. 서버는 AWS Lambda를 이용하여 구현되었으며 RESTAPI를 제공하여 학생들의 코드와 연동되도록 하였다.
제안 시스템은 실시간 컴피티션에서 결정된 순위를 토대로 자동으로 점수군을 나누고 모든 라운드에서 획득한 점수들을 합산하는 방식으로 평가 결과를 제공한다.학생들이 이 시행착오의 과정을 통해 축척된 데이터와 제출된 코드에 대한 간결한 정성 평가를 기본 점수로 하여 제안 시스템에서 얻은 정량 평가 결과를 주로 활용하여 평가를 수행하였다.

대상 데이터

제안 시스템은 2020년 1학기와 2학기 동안 코로나 -19로 인한 비대면 온라인 수업으로 진행되는 환경에서 활용되었다.학기 종료 후 진행된 설문을 통해 제안 시스템을 사용한 평가방식의 만족도와 효용성, 공정성에 대한 학생들의 반응을 조사하였으며 총 58 명이 학생들이 설문에 응답한 결과가 Table4와 Fig.

이론/모형

이루어진다. 라운드 별로 결정된 순위는 K-means clustering 알고리즘을 활용하여 5개의 점수군으로 나누어지며 모든 컴피티션 라운드들에서 획득한 점수들을 합산하여 자동화된 평가 점수가 도출된다.여기에 더하여 학생들이 제출한 코드와 축척된 데이터에 대한 간결한 정성 평가 점수를 더하여 최종 점수를 평가하는 방식이다.
각 라운드마다 100개의 에피소드를 실행하여 평균 점수를 서버에업로드하게 되며 이를 바탕으로 순위가 산정된다. 정해진 순위를 기준으로 점수를 평가하기 위해서 제안 시스템은 K-meansClustering알고리즘을 사용하여 5개의 점수군으로 나누게 된다.게임의 최대스코어가 지나치게 높을 경우 에피소드에 걸리는 시행시간이 지나치게 길어지는 문제가 있기 때문에 현재 모든 라운드는 300점을 최고 스코어로 하여 에피소드를 중단하도록 하였다.

성능/효과

7에 제시되어 있다.문항별 응답의 평균분포는 4.4에서 4.6909로 대체적으로 높게 나타났으며 크론바흐알파(CronbachAlpha)신뢰도는 0.84로 양호한 신뢰도 범위에 있음을 알 수 있다.학생들은 제안 시스템을 통하여 시행되었던 프로젝트1항목의 진행에 대해 전반적으로 높은 만족도를 나타내었으며, 제안 시스템을 통해 AI의 개념을 학습하는데 도움이 되었고 경쟁을 통해서 동기 부여가 되었으며 또한 제안 시스템이 공정하고 합리적인 평가 방식이라는 인식을 나타내었다.
학기가 종료된 후 수행된 학습자 만족도 평가를 통해서는 제안 시스템의 진행과 평가과정 전반의 만족도에 대해 응답자의 다수가 제안 시스템의 방식이 인공지능에 대한 흥미와 참여도를 높이는데 유익하였다는 긍정적인 반응을 나타내었으며 제안 시스템이 인공지능 수업에서 교수자의 시간을 절약함과 동시에 기초 인공지능 수업에서 활용될 수 있는 다양한 평가 도구 중의 하나로써 활용되기에 유용하다는 것을 확인할 수 있었다.
84로 양호한 신뢰도 범위에 있음을 알 수 있다.학생들은 제안 시스템을 통하여 시행되었던 프로젝트1항목의 진행에 대해 전반적으로 높은 만족도를 나타내었으며, 제안 시스템을 통해 AI의 개념을 학습하는데 도움이 되었고 경쟁을 통해서 동기 부여가 되었으며 또한 제안 시스템이 공정하고 합리적인 평가 방식이라는 인식을 나타내었다. 주관식으로 제시된 기타 의견으로는 학생들 간의 학습배경에 대한 편차를 고려하여 상대평가가 아닌 절대평가를 도입하는 것에 대한 의견과 현재보다 라운드의 구성을 보다 다양하게 하는 것, 그리고 저장된 모델을 이어서 훈련하는 과정에서 좋은 모델을 선별하기 어려운 점등에 대한 개선 의견들이 제시되었다.
학습자 평가를 통해서는 제안된 시스템을 사용한 평가방식이 프로젝트 준비기간동안 실시간 경쟁을 통해 학생들에게 학습에 대한 흥미와 의욕을 고취시키는 면에서, 인공지능의 개념을 이해하도록 돕는 면에 있어서 유용한 방식임을 확인할 수 있었다. 또한제안 시스템에서 제공하는 자동화된 평가 방식은 수업에서 평가에 할애되는 교수자의 시간적 부담을 덜고 수업 내용의 전달과 학생들과의 상호작용에 보다 많은 시간을 할애하는 측면에 도움이 될 것으로 기대된다.

후속연구

있었다. 또한제안 시스템에서 제공하는 자동화된 평가 방식은 수업에서 평가에 할애되는 교수자의 시간적 부담을 덜고 수업 내용의 전달과 학생들과의 상호작용에 보다 많은 시간을 할애하는 측면에 도움이 될 것으로 기대된다.
향후 보다 넓은 범위의 난이도를 가진 게임 환경들을 도입하여 컴피티션을 다양화하는 것과 현재 정성적인 평가에 의존하는 요소들, 예를들어 신경망 구조의 설계와 하이퍼파라미터 튜닝의 분석과정에 투입하는 노력에 대한 자동화된 평가 기능들을 추가하는 것, 그리고 강화학습 이외의 주제에 대한 학습과 경쟁의 환경을 제공하는 측면에서 제안 시스템을 확장해 나갈 필요가 있다.

참고문헌 (13)

A. Kurnia, A. Lim, and B. Cheang, "Online Judge," Computers & Education, Vol. 36, No. 4, pp. 299-315. 2001.

상세보기
Y. Luo, X. Wang, and Z. Zhang, "Programming grid: A Computer-aided Education System for Programming Courses based on Online Judge," Proceedings of the 1st ACM Summit on Computing Education in China on First ACM Summit on Computing Education in China, pp. 1-4. 2001.
M. Kim, "Design and Implementation of an Automatic Grading System for Programming Assignments," Journal of Internet Computing and Services, Vol. 8, No. 6, pp. 75-85, 2007.
J. Jeong, Design and Construct of Programming Assessment System based on Online Judge for a Science High School student, Master's thesis of Korea National University of Education, 2010.
W. Chang and S. Kim, "Development and Application of Algorithm Judging System: Analysis of Effects on Programming Learning," The Journal of Korean Association of Computer Education, Vol. 17, No.4, pp. 45-57, 2014.
E. Cagiltay, E. Ozcelik, and S. Ozcelik, "The Effect of Competition on Learning in Games," Computers & Education, Vol. 87, No. 1, pp. 35-41, 2015.

상세보기
M. Ibanez, A. Di-Serio, and C. Delgado-Kloos, "Gamification for Engaging Computer Science Students in Learning Activities: A Case Study," IEEE Transactions on Learning Technologies, Vol. 7, No. 3, pp. 291-301, 2014.

상세보기
A. Souza, F. Constantino, F. Veado, and L. Figueiredo, "Gamification in Software Engineering Education: An Empirical Study," 2017 IEEE 30th Conference on Software Engineering Education and Training, pp. 276-284, 2017.
D. Coore and D. Fokum, "Facilitating Course Assessment with a Competitive Programming Platform," Proceedings of the 50th ACM Technical Symposium on Computer Science Education, pp. 449-455, 2019.
P. Vorderer, T. Hartmann and C. Klimmt, "Explaining the enjoyment of playing video games: The role of competition," Proceedings of the Second International Conference on Entertainment Computing, pp. 1-9, 2003.
M. Vansteenkiste and L. Deci, "Competitively Contingent Rewards and Intrinsic Motivation: Can Losers Remain Motivated?," Motivation and Emotion, Vol. 27, No. 4, pp. 273-299, 2003.

상세보기
H. Chen and Y. Chen, "A Surrogate Competition Approach to Enhancing Game-based Learning," ACM Transactions on Computer-Human Interaction, Vol. 20, 2013.

상세보기
H. Rim, "A Study on Teaching using Website Code.org in Programming Education based on Computational Thinking," Journal of Korea Multimedia Society, Vol. 20, No. 2, pp. 382-395, 2017.

원문보기 상세보기

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증