[논문]인공지능과 위험관리에 대한 사례 연구 - RAI Toolkit을 중심으로

신선영

doi:10.7236/jiibc.2024.24.1.115

인공지능과 위험관리에 대한 사례 연구 - RAI Toolkit을 중심으로
Case Study on Artificial Intelligence and Risk Management - Focusing on RAI Toolkit 원문보기

The journal of the institute of internet, broadcasting and communication : JIIBC, v.24 no.1, 2024년, pp.115 - 123

신선영 (한국지능정보사회진흥원 AI데이터 활용팀)

초록
AI-Helper

본 연구의 목적은 인공지능과 위험관리라는 2가지 키워드를 통해 어떻게 인공지능 서비스의 장점 활용과 한계요인을 동시에 극복하는데 기여 하고자 한다. 이를 위해 2가지 사례인 (1) 인공지능을 활용한 위험 모니터링 프로세스 제시와 (2) 인공지능 서비스의 개발 및 운영에서 등장하는 한계요인을 최소화하기 위한 운영 툴킷에 대해 소개 하였다. 이 사례 분석을 통해 다음과 같은 시사점이 제안하고자 한다. 첫째, 인공지능 서비스는 우리 삶에 깊숙이 관여하고 있으며 이로 인해 등장하는 한계 요인을 최소화하는 장치가 필요하다. 둘째, 인공지능을 활용한 위험관리 모니터링은 적합하고 신뢰성이 있는 데이터 확보가 우선적으로 고려되어야 한다. 셋째, 인공지능 서비스의 개발과 운영시 등장하는 한계를 극복하기 위해서는 업무 단계별로 위험관리 프로세스를 적용하여 상시 모니터링이 요구된다 라는 것이다. 본 연구는 발전하고 있는 인공지능이 제공하고 한계요인을 최소화 할 수 있는 방안에 대한 연구이며 향후 관련 시장의 성장과 발달에서 위험관리에 대한 연구에 기여 할 수 있다.

Abstract ▼ AI-Helper

The purpose of this study is to contribute to how the advantages of artificial intelligence (AI) services and the associated limitations can be simultaneously overcome, using the keywords AI and risk management. To achieve this, two cases were introduced: (1) presenting a risk monitoring process utilizing AI and (2) introducing an operational toolkit to minimize the emerging limitations in the development and operation of AI services. Through case analysis, the following implications are proposed. First, as AI services deeply influence our lives, the process are needed to minimize the emerging limitations. Second, for effective risk management monitoring using AI, priority should be given to obtaining suitable and reliable data. Third, to overcome the limitations arising in the development and operation of AI services, the application of a risk management process at each stage of the workflow, requiring continuous monitoring, is essential. This study is a research effort on approaches to minimize limitations provided by advancing artificial intelligence (AI). It can contribute to research on risk management in the future growth and development of the related market, examining ways to mitigate limitations posed by evolving AI technologies.

주제어

표/그림 (7)

그림 그림 1. 인공지능과 위험관리 Fig. 1. Artificial Intelligence and Risk Management
표 표 1. 인공지능 서비스 위험관리 방향 Table 1. Artificial intelligence service risk management direction
표 표 2. 정보 투명성 공개를 위해 검토 사항 요소 Table 2. Considers for disclosure of information transparency
그림 그림 2. AIM 기반 자료 제공 프로세스 Fig. 2. AIM-based data provision process
그림 그림 3. RAI 작업 순서도 Fig. 3. RAI operation flow chart
표 표 3. RAI 툴킷의 5원칙 Table 3. Five Principles of the RAI Toolkit
표 표 4. 인공지능과 위험관리 사례 Table 4. Artificial intelligence and risk management cases

AI 본문요약
AI-Helper

문제 정의

국방부(DoD)내 RAI 구현의 일환으로 이 툴킷/평가는 사용자에게 DoD AI 기능을 책임감 있게 개발, 배포 및 사용하는 데 도움이 되는 다양한 고려 사항을 제공하는 것을 목표로 한다. 이 툴킷 기반 평가는 AI 지원 시스템의 전체 수명주기(설계, 개발, 배포 및 사용 포함)가 DoD의 AI 윤리 원칙과 일치하는지 확인하기 위한 내용을 제공한다.
미국 국방부내 RAI 구현의 일환으로 이 툴킷은 사용자에게 미국국방부의 AI 기능을 책임감 있게 개발, 배포 및 사용하는 데 도움이 되는 다양한 고려 사항을 제공하는 것을 목표로 한다.
본 연구는 발전하고 있는 인공지능이 제공하고 한계요인을 최소화 할 수 있는 방안에 대한 연구로서 향후 이와 관련 시장의 성장과 발달에서 위험관리 측면에 대한 연구에 기여한다. 아울러 인공지능과 위험관리에 대한 2가지 사례 측면에서 논의한 것이 한계이며 향후 연구는 다양한 측면에서 보다 더 구체적으로 논의 및 연구가 이루어져야 한다.
본 연구를 통해 등장하고 인공지능을 활용하여 위험관리를 탐색하는 것과 인공지능 서비스의 위험관리를 하는 방안에 대해 사례 분석을 통해 우리가 인공지능과 위험관리를 어떻게 접근해야 할지에 대한 시사점을 제공한다. 이를 통해 인공지능 서비스의 위험관리를 어떻게 바라보고 접근할 수 있는 것에 대한 정책 수립에 기여하고 있다.
본 연구의 목적은 인공지능과 위험관리라는 2가지 키워드를 통해 어떻게 인공지능 서비스의 장점 활용과 위험요인을 동시에 극복하는데 기여 하고자 한다. 이를 위해 2가지 사례인 (1) 인공지능을 활용한 위험 모니터링 프로세스 제시와 (2) 인공지능 서비스의 개발 및 운영에서 등장하는 한계 요인을 최소화하기 위한 운영 툴킷에 대해 소개하였다.

가설 설정

셋째, 데이터 셋트의 확정이다. AI 사건을 탐지하는 문제는 지도형 기계 학습 작업으로 공식화된다.
일곱째, 확정된 모델 확정이다. 이 과정을 통해 수립된 정보와 결과를 기반으로 인공지능 기반 사고 모델에 대한 사례로 확정하여 향후에 비슷한 모델의 경우 이 방법으로 분석할 수 있는 체계가 수립된다.
첫째, 사고 감지 이다. AI 사고를 지도 학습 작업, 특히 텍스트 분류 문제로 탐지하는 문제를 프레임화할 수 있다.

제안 방법

둘째, 관련 법적, 윤리적, 위험 및 정책 프레임워크를 식별하고 해당 프레임워크의 적용 가능성을 평가한다. 관련 법률, 규정, 정책 및 프레임워크(법적, 윤리적, 위험 등) 중 어느 것이 프로젝트에 적용되는지 결정하고 이러한 적용 가능성 결정을 뒷받침하는 근거를 문서화한다.
뉴스 기사의 AI 사건 정보를 보완하기 위해 공개 제출 프로세스가 활성화될 수도 있다. 보고의 일관성을 보장하기 위해 기존 분류 알고리즘을 활용하여 텍스트 제출을 처리하고 특정 사고 보고서에 대한 사전 선택 태그를 제공하고자 한다. 또한, 뉴스 기사의 사건 정보는 법원판결 및 공공 감독 기관의 결정에 의해 보완될 수 있다.
본 연구의 목적은 인공지능과 위험관리라는 2가지 키워드를 통해 어떻게 인공지능 서비스의 장점 활용과 위험요인을 동시에 극복하는데 기여 하고자 한다. 이를 위해 2가지 사례인 (1) 인공지능을 활용한 위험 모니터링 프로세스 제시와 (2) 인공지능 서비스의 개발 및 운영에서 등장하는 한계 요인을 최소화하기 위한 운영 툴킷에 대해 소개하였다.
이전 자료추적에서 현재 프로젝트에 적용할 수 있는 RAI 관련 "교훈"을 식별하기 위해 사고 저장소를 포함하도록 사용 사례와 비교하여 유사한 프로젝트를 검토한다
넷째, 평가과정이다. 진행 상황 벤치마크를 평가하고 기반이 어느 정도 충족되고 있는지, SOC가 해결되고 있는지, 모든 혁신이 기준선에서 개선되고 있는지 평가한다.
본 연구는 인공지능과 위험관리라는 키워드를 중심으로 2가지 사례를 분석하고 있다. 첫 번째 사례는 인공지능을 활용하여 시장에 등장하는 위험 요인을 추적하는 방법에 대한 사례를 분석하고 있다. 그리고 또 다른 사례는 제공되는 인공지능 서비스의 한계 요인을 추적하고 개발과 운영 단계에서 이를 제거하여 위험 요인을 최소화하는 방안에 대한 사례이다.
첫째, 웹사이트에서 등장하는 내용을 기반으로 위험내용을 구체적으로 추적하는 절차로서 인공지능을 활용한 위험 모니터링에 대해 살펴보았다.

이론/모형

기본적으로 등장하는 위험을 파악하기 위해 능동 학습 기술이 적용된 딥러닝 모델을 사용한다. 또한 AIM을 위한 데이터 수집 및 분석은 AI 사고에 대한 정보의 신뢰성, 객관성 및 품질을 최대한 보장하기 위해 수행된다.

성능/효과

두번째 제공된 사례인 인공지능 서비스 위험관리 RAI 평가 도구는 AI 수명주기의 복잡한 단계를 통해 개인을 위한 리소스 역할을 하여 프로젝트 내에서 RAI가 핵심적인 차원을 탐색할 수 있도록 지원한다. 이는 유사한 노력에서 얻은 모범적인 결과물 및 통찰력과 함께 해당 부서가 지원하는 다양한 도구를 제공함으로써 업무 효율성을 지원한다.
본 연구 결과는 인공지능을 활용한 정책 수립시 등장하는 한계요인을 제거하고 인공지능 기반 정책 수립 관련 등장하는 위험 요소를 제거하는 사례로서 정책적 시사점을 제공하는 것에 의의를 두고 있다. 따라서 관련 분야에 대한 다양한 연구가 지속적으로 이루어져야 한다.

후속연구

본 연구는 인공지능과 위험관리라는 키워드를 중심으로 2가지 사례를 분석한 것으로 관련 분야에 대한 다양한 연구가 지속적으로 이루어져야 한다. 이는 등장하는 서비스에서 인공지능 기술의 장점을 획득하고 이로 인해 등장하는 단점 요소를 최소화 하는게 현재의 우리의 남겨진 숙제이다.
본 연구는 발전하고 있는 인공지능이 제공하고 한계요인을 최소화 할 수 있는 방안에 대한 연구로서 향후 이와 관련 시장의 성장과 발달에서 위험관리 측면에 대한 연구에 기여한다. 아울러 인공지능과 위험관리에 대한 2가지 사례 측면에서 논의한 것이 한계이며 향후 연구는 다양한 측면에서 보다 더 구체적으로 논의 및 연구가 이루어져야 한다.

참고문헌 (16)

SAS Website, https://www.sas.com/en_us/insights/analytics/what-is-artificial-intelligence.html？
Ryu, Young-ho. "Artificial Intelligence and Changes in the Publishing Industry "https://nzine.kpipa.or.kr/sub/zoomin.php?ptypeview&idx423&page&codezoomin&total_searchkey%EC%B2%B4%ED%97%9？
Yoo, Soonduck. "Research on the evaluation model for the impact of AI services." International Journal of Internet, Broadcasting, and Communication 15, no. 3, pp 191-202, 2023. DOI http://10.7236/IJIBC.2023.15.3.191？

원문보기 상세보기
Microsoft OneNote Privacy Policy for Android - Microsoft Support？
National Intelligence Informationization White Paper 2022, 2022？
https://spacy.io/
https://wikifier.org/
Shin, Sungpil. "Concept and Standardization Trends of Foundation Models for Ultra-Large AI." Journal of the Korean Institute of Communication Sciences (Information and Communication) Vol 40, No. 6, pp 12-21, 2023.？
Kenton, Jacob Devlin, Ming-Wei Chang, and Lee Kristina Toutanova. "Bert: Pre-training of deep bidirectional transformers for language understanding." In Proceedings of NAACL-HLT, Vol. 1, PP 2-10. 2019.？
Liu, Yinhan, Myle Ott, Naman Goyal, Jingfei Du, Mandar Joshi, Danqi Chen, Omer Levy, Mike Lewis, Luke Zettlemoyer, and Veselin Stoyanov. "Roberta: A robustly optimized BERT pretraining approach." arXiv preprint arXiv:1907.11692, 2019.？
Li, Bangzheng, Wenpeng Yin, and Muhao Chen. "Ultra-fine entity typing with indirect supervision from natural language inference." Transactions of the Association for Computational Linguistics Vol 10, pp 607-622, 2022.？

상세보기
Soares, Livio Baldini, Nicholas FitzGerald, Jeffrey Ling, and Tom Kwiatkowski. "Matching the blanks: Distributional similarity for relation learning." arXiv preprint arXiv:1906.03158, 2019.？
Lee, Deok-hee. "Establishing the Infrastructure of a Leading Innovative Country in the Fourth Industrial Revolution."？
Artificial Intelligence in Society PDF, Korea Artificial Intelligence Society for Promotion, 2019？
Choi, Nak-Hun, et al. "A development of defeat prediction model using machine learning in polyurethane foaming process for automotive seat." Journal of the Korea Academia-Industrial cooperation Society, Vol 22. NO. 6, pp 36-42, 2021 DOI : http://10.5762/KAIS.2021.22.6.36？

원문보기 상세보기
Sohee Par, et. al. ""Risk Assessment of Actuators Uncertainty using STPA and SMC" Journal of KIIT. Vol. 21, No. 8, pp. 39-49, 2023 DOI http://dx.doi.org/10.14801/jkiit.2023.21.8.39

상세보기

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증