[논문]컨볼루션 신경망 모델에 의한 악성 댓글 모자이크처리 방안

김유민; 강효빈; 한수현; 정희용

doi:10.9723/jksiis.2022.27.2.025

컨볼루션 신경망 모델에 의한 악성 댓글 모자이크처리 방안
Blurring of Swear Words in Negative Comments through Convolutional Neural Network 원문보기

한국산업정보학회논문지 = Journal of the Korea Industrial Information Systems Research, v.27 no.2, 2022년, pp.25 - 34

김유민 (전남대학교 공과대학 소프트웨어공학과) , 강효빈 (전남대학교 공과대학 소프트웨어공학과) , 한수현 (전남대학교 공과대학 소프트웨어공학과) , 정희용 (전남대학교 공과대학 소프트웨어공학과)

초록
AI-Helper

온라인 서비스의 발달로 악성 댓글의 파급력이 커져 사이버 폭력 피해가 극심해지고 있다. 이를 방지하기 위해 금칙어 기반 필터링, 신고제도 등 다양한 방법이 사용되고 있지만 악성 댓글을 완벽하게 근절하기는 어렵다. 본 연구는 딥러닝을 사용하여 악성 댓글의 분류의 정확도를 높이고 욕설에 해당하는 부분을 모자이크처리 처리하는 것을 목적으로 진행되었다. 정확도를 높이기 위해 컨볼루션의 층수, 필터 수를 다르게 설정하여 두 가지 모델링을 진행하여 비교하였고, 데이터 세트의 90%를 훈련 데이터로, 10%를 테스트 데이터로 사용한 결과 최종 88%의 정확도를 도출해 낼 수 있었다. 또한 Grad-CAM을 사용하여 모델이 댓글의 어느 부분을 결과에 반영하였는지 표시하여 욕설 위치 정보를 출력하였다. 단순 금칙어 기반으로 댓글을 분류한 정확도는 56%이지만, 컨볼루션 신경망에 의한 분류 정확도가 88%인 것과 비교하면 딥러닝 모델로 악성 댓글의 욕설을 처리하는 것이 더 효과적인 것을 확인할 수 있었다.

Abstract ▼ AI-Helper

With the development of online services, the ripple effect of negative comments is increasing, and the damage of cyber violence is rising. Various methods such as filtering based on forbidden words and reporting systems prevent this, but it is challenging to eradicate negative comments. Therefore, this study aimed to increase the accuracy of the classification of negative comments using deep learning and blur the parts corresponding to profanity. Two different conditional training helped decide the number of deep learning layers and filters. The accuracy of 88% confirmed with 90% of the dataset for training and 10% for tests. In addition, Grad-CAM enabled us to find and blur the location of swear words in negative comments. Although the accuracy of classifying comments based on simple forbidden words was 56%, it was found that blurring negative comments through the deep learning model was more effective.

주제어

표/그림 (15)

그림 Fig. 1 Dataset for labelling.
그림 Fig. 2 Distribution of words in all comments.
그림 Fig. 3 Results of sentence vector after word embedding.
그림 Fig. 4 One-dimensional convolutional neural network.
그림 Fig. 5 Results of Korean morphological analyzer of OKT.
그림 Fig. 6 Word dictionary displaying words associated with the sequence index.
그림 Fig. 7 The first sequential model.
그림 Fig. 8 The plot of the training for the first sequential model.
그림 Fig. 9 The second sequential model.
그림 Fig. 10 The plot of the training for the second sequential model.
그림 Fig. 11 The classification result.
그림 Fig. 12 The heat map results through Grad-CAM.
그림 Fig. 13 An example for the failed results.
그림 Fig. 14 The part of the slang dictionary.
그림 Fig. 15 The classification results based on forbidden words.

참고문헌 (14)

Chen, Y., Shou, Y., Zhu, S. and Xu, H. (2012). Detecting Offensive Language in Social Media to Protect Adolescent Online Safety. In Privacy, Security, Risk and Trust, IEEE, pp. 71-80.
Cho. Y. (2018). Detecting swear words through deep learning in NDC2018 (http://ndc.vod.nexoncdn.co.kr/NDC2018/slides/NDC2018_0033/inde x.html).
Jeong, H., Ko, J. and Shin, C. (2021). Abnormal Detection with Microscope through Deep Learning. Journal of the Korean Industrial Information Systems Research, 26(2), pp. 1-10.
Kim, J., Jo, H. and Kim, B. (2018). Game Recommendation System Based on User Ratings. Journal of the Korean Industrial Information Systems Research, 23(6), pp. 9-19.
Kim, Y. (2014). Convolutional Neural Networks for Sentence Classification. In Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp. 1746-1751.
Kim, Y., Kang, H., Han, S. and Jeong, H. (2021). Swear Word Detection through Convolutional Neural Network, Proceedings of the Korea Information Processing Society Conference, pp. 685-686.
Korea Game Industry Agency. (2008). Study on game language guidelines (https://www.korean.go.kr/attachFile/viewer/202202/3cc1548a-ef43-4043-9c5c-af95e3d39559. pdf.htm),(https://www.korean.go.kr/front/etcData/etcDataView.do?mn_id208&etc_seq121).
Nguyen, T.P.H., Shin, C. and Jeong, H. (2021). Finding the Difference in Capillaries of Taste Buds between Smokers and Non-Smokers Using the Convolutional Neural Networks. Applied Sciences, 11(8). 3460 (https://doi.org/10.3390/app11083460).

상세보기
Nobata, C., Tetreault, J., Thomas, A., Mehdad, Y. and Chang, Y. (2016). Abusive Language Detection in Online User Content. In WWW, pp. 145-153.
Park, S., Kim, H. and Woo, J. (2019). Abusive Setence Detection using Deep Learning in Online Game. Proceedings of the Korean Society of Computer Information Conference, 27(2), pp. 13-14.
Ryu, M. and Cho, H. (2020). An Analysis of IoT Service using Sentiment Analysis on Online Reviews: Focusing on the Characteristics of Service Providers. Journal of the Korean Industrial Information Systems Research, 25(5), pp. 91-102.
Selvaraju, R.R., Cogswell, M., Das, A., Vedantam, R., Parikh, D. and Batra, D. (2019). Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization. International Journal of Computer Vision, 128, pp. 336-359.

상세보기
Seo, S. and Cho, S. (2017). Transfer Learning Method for Solving Imbalance Data of Abusive Sentence Classification. Journal of KIISE, 44(12), pp. 1275-1281.

원문보기 상세보기
Hong, Jinju. (2015). A malicious comments detection technique on the internet. Master Thesis, Soongsil University.

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증