$\require{mediawiki-texvc}$

연합인증

연합인증 가입 기관의 연구자들은 소속기관의 인증정보(ID와 암호)를 이용해 다른 대학, 연구기관, 서비스 공급자의 다양한 온라인 자원과 연구 데이터를 이용할 수 있습니다.

이는 여행자가 자국에서 발행 받은 여권으로 세계 각국을 자유롭게 여행할 수 있는 것과 같습니다.

연합인증으로 이용이 가능한 서비스는 NTIS, DataON, Edison, Kafe, Webinar 등이 있습니다.

한번의 인증절차만으로 연합인증 가입 서비스에 추가 로그인 없이 이용이 가능합니다.

다만, 연합인증을 위해서는 최초 1회만 인증 절차가 필요합니다. (회원이 아닐 경우 회원 가입이 필요합니다.)

연합인증 절차는 다음과 같습니다.

최초이용시에는
ScienceON에 로그인 → 연합인증 서비스 접속 → 로그인 (본인 확인 또는 회원가입) → 서비스 이용

그 이후에는
ScienceON 로그인 → 연합인증 서비스 접속 → 서비스 이용

연합인증을 활용하시면 KISTI가 제공하는 다양한 서비스를 편리하게 이용하실 수 있습니다.

[국내논문] 기업 내 생성형 AI 시스템의 보안 위협과 대응 방안
Security Threats to Enterprise Generative AI Systems and Countermeasures 원문보기

융합보안논문지 = Convergence security journal, v.24 no.2, 2024년, pp.9 - 17  

최정완 (원광대학교 기초자연과학 연구소)

초록
AI-Helper 아이콘AI-Helper

본 논문은 기업 내 생성형 AI(Generative Artificial Intelligence) 시스템의 보안 위협과 대응 방안을 제시한다. AI 시스템이 방대한 데이터를 다루면서 기업의 핵심 경쟁력을 확보하는 한편, AI 시스템을 표적으로 하는 보안 위협에 대비해야 한다. AI 보안 위협은 기존 사람을 타겟으로 하는 사이버 보안 위협과 차별화된 특징을 가지므로, AI에 특화된 대응 체계 구축이 시급하다. 본 연구는 AI 시스템 보안의 중요성과 주요 위협 요인을 분석하고, 기술적/관리적 대응 방안을 제시한다. 먼저 AI 시스템이 구동되는 IT 인프라 보안을 강화하고, AI 모델 자체의 견고성을 높이기 위해 적대적 학습 (adversarial learning), 모델 경량화(model quantization) 등 방어 기술을 활용할 것을 제안한다. 아울러 내부자 위협을 감지하기 위해, AI 질의응답 과정에서 발생하는 이상 징후를 탐지할 수 있는 AI 보안 체계 설계 방안을 제시한다. 또한 사이버 킬 체인 개념을 도입하여 AI 모델 유출을 방지하기 위한 변경 통제와 감사 체계 확립을 강조한다. AI 기술이 빠르게 발전하는 만큼 AI 모델 및 데이터 보안, 내부 위협 탐지, 전문 인력 육성 등에 역량을 집중함으로써 기업은 안전하고 신뢰할 수 있는 AI 활용을 통해 디지털 경쟁력을 제고할 수 있을 것이다.

Abstract AI-Helper 아이콘AI-Helper

This paper examines the security threats to enterprise Generative Artificial Intelligence systems and proposes countermeasures. As AI systems handle vast amounts of data to gain a competitive edge, security threats targeting AI systems are rapidly increasing. Since AI security threats have distinct ...

Keyword

표/그림 (3)

AI 본문요약
AI-Helper 아이콘 AI-Helper

문제 정의

  • 본 연구는 기업 내 AI 시스템의 보안 위험을 분석하고, 현재 적용되고 있는 접근 통제 방식의 적절성을 검토하고자 한다. 특히, 사회공학적 기법이나 피싱 공격으로 내부 네트워크가 침해되는 상황을 가정하고, 이에 대한 효과적인 대응 방안을 모색하는 것을 목적으로 한다.
  • 본 연구는 기업 내 AI 시스템의 보안 위험을 분석하고, 현재 적용되고 있는 접근 통제 방식의 적절성을 검토하고자 한다. 특히, 사회공학적 기법이나 피싱 공격으로 내부 네트워크가 침해되는 상황을 가정하고, 이에 대한 효과적인 대응 방안을 모색하는 것을 목적으로 한다. 이를 위해 AI 시스템 보안의 중요성과 주요 위협 요인을 살펴보고, 보안 강화를 위한 기술적, 관리적 접근 방안을 체계적으로 정리하고자 한다.
  • 질의 입력부와 응답 출력부를 명확히 분리하고, 각 단계에서 질문과 답변을 분석하여 내부자 위협을 탐지하고 차단하는 구조를 취하고 있다. 동시에 AI 모델에 대한 접근과 반출 행위를 면밀히 모니터링하고 통제함으로써 모델 유출 자체를 원천 방지하고자 한다. 이를 통해 악의적인 내부자가 AI 시스템을 악용하려는 시도를 조기에 인지하고 선제적으로 대응할 수 있을 것으로 기대된다.
  • 본 연구에서는 이러한 사이버 킬 체인의 기본 개념을 유지하면서도, AI 모델 탈취 과정에 맞게 각 단계를 재정의하고 AI 고유의 보안 이슈를 반영한 대응 전략을 제시하고자 한다. 특히, 기존의 침입 탐지 시스템(Intrusion Detection System, IDS)에서 한 단계 더 나아가, AI 모델 변경에 대한 승인 절차를 도입한 점이 본 연구의 차별점이다.
  • 이는 AI 모델의 무결성을 보호하고 무단 변경을 방지하는 데 효과적인 방안이 될 것으로 기대된다. 이러한 관점에서 AI 모델을 표적으로 하는 공격 시나리오를 분석하고 선제적 대응 방안을 마련하고자 한다. 구체적으로, AI 모델 탈취 과정을 정찰, 무기화, 전달, 악용, 설치, 명령 및 제어, 목표 달성 등의 단계로 구분하고, 각 단계에서의 공격 징후를 포착하여 맞춤형 방어 전략을 수립함으로써 AI 모델 유출 위험을 체계적으로 관리할 수 있을 것이다.
본문요약 정보가 도움이 되었나요?

참고문헌 (17)

  1. 백승익, 임규건, 여등승, "인공지능과 사회의 변화",?한국지능정보사회진흥원, 제23권, 제4호, pp. 3-23, 2016. 

  2. S. Wamba-Taguimdje, S. F. Wamba, J. R. K.?Kamdjoug, C. E. T. Wanko. "Influence of artificial?intelligence (AI) on firm performance: the?business value of AI-based transformation?projects", Business process management journal,?Vol 26, Issue 7, 1893-1924, 2020. 

  3. S. Pattanayak, V. K. Shukla. "Review of recommender system for OTT platform through?artificial intelligence", International Conference?on Artificial Intelligence and Smart Systems?(ICAIS), IEEE, 1-5, 2021. 

  4. Y. Han, J. Chen, M. Dou, J. Wang, K. Feng.?"The Impact of Artificial Intelligence on the?Financial Services Industry", Academic Journal?of Management and Social Sciences, Vol. 2,?No. 3, pp. 83-85, 2023. 

  5. N. Nebelung, M. D. de Oliveira Santos, S. T.?Helena, A. F. de Moura Leite, M. B. Canciglieri,?A. L. Szejka. "Towards Real-Time Machining?Tool Failure Forecast Approach for Smart Manufacturing Systems", IFAC-PapersOnLine,?Vol. 55, No. 2, pp. 548-553, 2022. 

  6. 이유환. "디지털 전환 핵심기술 (ICBM+AI) 도입이 제조기업의 혁신성과에 미치는 영향 연구: 혁신전략의 조절효과를 중심으로" 기업경영연구, 제30권, 제5호, pp. 53-74, 2023. 

  7. N. Gudigantala, S. Madhavaram, P. Bicen. "An?AI decision-making framework for business?value maximization", Wiley Online Library,?Vol. 44, No. 1, pp. 67-84, 2023. 

  8. 보안뉴스, "MS의 인공지능 개발자들, 실수로 38TB의 데이터 노출시켜", https://boannews.com/media/view.asp?idx122106&page59&mkind1&kind1, 2023. 

  9. CNN, "Google employee charged with stealing AI trade secrets", https://edition.cnn.com/2024/03/06/tech/google-employee-chargedstealing-ai-trade-secrets/index.html, 2024. 

  10. AI타임스, "삼성, chatGPT 데이터 유출 후 임직원?AI 사용금지", https://www.aitimes.com/news/articleView.html?idxno150837, 2023. 

  11. Y. Kishore. "Optimizing Enterprise Conversational AI: Accelerating Response Accuracy with Custom Dataset Fine-Tuning", Intell. Inf. Manag., Vol. 16, No. 2, pp. 65-76,?2024. 

  12. 박재경, 장준서. "AI 모델의 적대적 공격 대응?방안에 대한 연구", 한국컴퓨터정보학회 학술발표논문집, 제31권, 제2호, 619-620, 2023. 

  13. CNN, "Finance worker pays out $25 million?after video call with deepfake 'chief financial officer'", https://edition.cnn.com/2024/02/04/asia/deepfake-cfo-scam-hong-kong-intl-hnk/index.html, 2024. 

  14. N. Thalpage. "Unlocking the Black Box: Explainable Artificial Intelligence (XAI) for?Trust and Transparency in AI Systems", J.?Digit. Art Humanit., Vol. 4, No. 1, pp. 31-36,?2023. 

  15. J. D. Connor. "The Sony hack: Data and decision in the contemporary studio, Michigan Publishing", University of Michigan Library, Vol. 2, No. 2, 2015. 

  16. V. A. Stafford. "Zero trust architecture", NIST special publication, Vol. 800, pp. 207,?2020. 

  17. L. Martin, "Cyber kill chain", Lockheed Martin, URL: http://cyber.lockheedmartin.com/hubfs/GainingtheAdvantageCyberKillChain.pdf, 2014. 

활용도 분석정보

상세보기
다운로드
내보내기

활용도 Top5 논문

해당 논문의 주제분야에서 활용도가 높은 상위 5개 콘텐츠를 보여줍니다.
더보기 버튼을 클릭하시면 더 많은 관련자료를 살펴볼 수 있습니다.

관련 콘텐츠

저작권 관리 안내
섹션별 컨텐츠 바로가기

AI-Helper ※ AI-Helper는 오픈소스 모델을 사용합니다.

AI-Helper 아이콘
AI-Helper
안녕하세요, AI-Helper입니다. 좌측 "선택된 텍스트"에서 텍스트를 선택하여 요약, 번역, 용어설명을 실행하세요.
※ AI-Helper는 부적절한 답변을 할 수 있습니다.

선택된 텍스트

맨위로