[논문]딥러닝을 이용한 법률 분야 한국어 의미 유사판단에 관한 연구

김성원; 박광렬

doi:10.3745/ktsde.2022.11.2.93

딥러닝을 이용한 법률 분야 한국어 의미 유사판단에 관한 연구
Deep Learning Based Semantic Similarity for Korean Legal Field 원문보기

정보처리학회논문지. KIPS transactions on software and data engineering. 소프트웨어 및 데이터 공학, v.11 no.2, 2022년, pp.93 - 100

김성원 (한국과학기술원 지식서비스공학대학원) , 박광렬 (인하대학교 법학전문대학원)

초록
AI-Helper

기존의 데이터 검색 방법으로는 키워드 중심의 검색 방법이 주로 사용되나, 이는 전문적인 용어가 많이 쓰이는 법률 분야의 검색 방법으로는 적합하지 않다. 이에 대해 본 논문에서는 법률 분야의 효과적인 데이터 검색 방안을 제안한다. 법률 도메인의 자연어처리 분야에서 문장 간의 유사성을 판단하는 데 최적화된 임베딩 방법에 관하여 서술한다. 법률문장을 TF-IDF를 이용하여 키워드 기반으로 임베딩하거나 Universal Sentence Encoder를 이용하여 의미 기반으로 임베딩을 한 후, BERT모델을 결합하여 법률 분야에서 문장 간 유사성을 검사하여 데이터를 검색하는 최적의 방안을 제안한다.

Abstract ▼ AI-Helper

Keyword-oriented search methods are mainly used as data search methods, but this is not suitable as a search method in the legal field where professional terms are widely used. In response, this paper proposes an effective data search method in the legal field. We describe embedding methods optimized for determining similarities between sentences in the field of natural language processing of legal domains. After embedding legal sentences based on keywords using TF-IDF or semantic embedding using Universal Sentence Encoder, we propose an optimal way to search for data by combining BERT models to check similarities between sentences in the legal field.

주제어

표/그림 (14)

표 Table 1. Example of Training Data Set
표 Table 2. Statistics of Dataset Category
그림 Fig. 1. Pseudo Code of TF-IDF Algorithm
그림 Fig. 2. Pseudo Code of USE Algorithm
표 Table 3. Example of Preprocessed data for TF-IDF
그림 Fig. 3. Pseudo Code of BERT Algorithm
표 Table 4. Time Comparison between Models
표 Table 5. Scores of Model for Legal Fields(Top n)
표 Table 6. Top 10 High Similarity Sentence with TF-IDF sent1 : '무단퇴사를 했는데, 손해배상 청구할 수 있나요?'
표 Table 7. Top 10 High Similarity Sentence with USE sent1 : '무단퇴사를 했는데, 손해배상 청구할 수 있나요?'
표 Table 8. Top 10 High Similarity Sentence with TF-IDF sent1 : '월셋집 곰팡이 수선에 대한 책임'
표 Table 9. Top 10 High Similarity Sentence with TF-IDF + BERT sent1 : '월세집 곰팡이 수선에 대한 책임'
표 Table 10. Top 10 High Similarity Sentence with USE sent1 : '부당해고를 당한 근로자가 회사에 손해배상을 청구할 수 있는가요?'
표 Table 11. Top 10 High Similarity Sentence with USE+BERT sent1 : '부당해고를 당한 근로자가 회사에 손해배상을 청구할 수 있는가요?'

참고문헌 (23)

J. Devlin, M. W. Chang, K. Lee, and K. Toutanova, "Bert: Pre-training of deep bidirectional transformers for language understanding," arXiv preprint arXiv:1810.04805, 2018.
J. Ramos, "Using tf-idf to determine word relevance in document queries," In Proceedings of the First Instructional Conference on Machine Learning, Vol.242, No.1, pp.29-48, 2003.
Cer, D. et al., "Universal sentence encoder," arXiv preprint arXiv:1803.11175, 2018.
A. Radford, K. Narasimhan, T. Salimans, and I. Sutskever, "Improving language understanding by generative pretraining," 2018.
A. Radford, J. Wu, R. Child, D. Luan, D. Amodei, and I. Sutskever, "Language models are unsupervised multitask learners," OpenAI Blog, Vol.1, No.8, pp.9, 2019.
T. B. Brown, et al., "Language models are few-shot learners," arXiv preprint arXiv:2005.14165, 2020.
M. E. Peters, et al., "Deep contextualized word representations," arXiv preprint arXiv:1802.05365, 2018
T. M. Mitchell, "Bayesian Learning," Machine Learning, McGraw-Hill, pp.154-200, 1997.
H. Zhong, C. Xiao, C. Tu, T. Zhang, Z. Liu, and M. Sun, "How Does NLP benefit legal system: A summary of legal artificial intelligence," arXiv: 2004.12158, 2020.
A. Joulin, E. Grave, P. Bojanowski, M. Douze, H. Jegou, and T. Mikolov, "Fasttext. zip: Compressing text classification models," arXiv preprint arXiv:1612.03651, 2016.
M. E. Peters, M. Neumann, M. Iyyer, M. Gardner, C. Clark, K. Lee, and L. Zettlemoyer, "Deep contextualized word representations," arXiv preprint arXiv:1802.05365, 2018.
J. Pennington, R. Socher, and C. D. Manning. "Glove: Global vectors for word representation," In Proceedings of Empirical Methods in Natural Language Processing, pp.1532-1543, 2014.
J. Devlin, M. W. Chang, K. Lee, and K. Toutanova, "BERT: Pre-training of deep bidirectional transformers for language understanding," In Proceedings of Northern American Chapter of the Association for Computational Linguistics, 2019.
A. Akbik, T. Bergmann, and R. Vollgraf, "Pooled contextualized embeddings for namedentity recognition," In Proceedings of Northern American Chapter of the Association for Computational Linguistics, 2019.
"판결문 공개 과감히 확대하라," 법률신문, 2019.10.28. [Internet], https://m.lawtimes.co.kr/Content/Article?serial156740
"법률 지식 베이스 소개" AI허브, 2018.01.02. [Internet], https://aihub.or.kr/aidata/29
"법제처 보도자료," pp.4-5, 2021.12.29.
J. Pennington, R. Socher, and C. D. Manning, "Glove: Global vectors for word representation," In Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing(EMNLP), pp.1532-1543, 2014.
A. Vaswani, et al., "Attention is all you need," In Proceedings of Neural Information Processing Systems, 2017.
M. Iyyer, V. Manjunatha, J. Boyd-Graber, and H. Daume III. "Deep unordered composition rivals syntactic methods for text classification," In Proceedings of Association for Computational Linguistics and the International Joint Conference on Natural Language Processing, 2015.
Y. Yang, et al., "Multilingual universal sentence encoder for semantic retrieval," arXiv preprint arXiv:1907.04307, 2019.
"universal-sentence-encoder-multilingual," TensorFlow hub. last modified Jan 05, 2022. accessed Oct. 21, 2021. [Internet], https://tfhub.dev/google/universal-sentence-encoder-multilingual/3
"mecab-ko-dic," bitbucket. last modified Jul. 20, 2018. accessed Oct. 21, 2021. [Internet], https://bitbucket.org/eunjeon/mecab-ko-dic/src/master/

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증