[논문]자율 운항 선박의 인공지능: 잠재적 사이버 위협과 보안

유지운; 조용현; 차영균

doi:10.13089/jkiisc.2022.32.2.447

자율 운항 선박의 인공지능: 잠재적 사이버 위협과 보안
Artificial Intelligence for Autonomous Ship: Potential Cyber Threats and Security 원문보기

情報保護學會論文誌 = Journal of the Korea Institute of Information Security and Cryptology, v.32 no.2, 2022년, pp.447 - 463

유지운 ((주)디에스랩컴퍼니) , 조용현 ((주)디에스랩컴퍼니) , 차영균 (고려대학교)

초록
AI-Helper

인공 지능(AI) 기술은 해양 산업에서 스마트 선박을 자율 운항 선박으로 발전시키는 주요 기술이다. 자율 운항 선박은 사람의 의사 판단 없이 수집된 정보로 상황을 인식하며 스스로 판단하여 운항한다. 기존의 선박 시스템은 육상에서의 제어 시스템과 마찬가지로 사이버 공격에 대한 보안성을 고려하여 설계되지 않았다. 이로 인해 선박 내·외부에서 수집되는 수많은 데이터에 대한 침해와 선박에 적용될 인공지능 기술에 대한 잠재적 사이버 위협이 존재한다. 자율 운항 선박의 안전성을 위해서는 선박 시스템의 사이버 보안뿐만 아니라, 인공지능 기술에 대한 사이버 보안에도 초점을 맞춰야 한다. 본 논문에서는 기존 선박 시스템과 자율 운항 선박에 적용될 인공지능 기술에 발생할 수 있는 잠재적인 사이버 위협을 분석하고, 자율 운항 선박 보안 위험과 보안이 필요한 범주를 도출했다. 도출한 결과를 바탕으로 향후 자율 운항 선박 사이버 보안 연구 방향을 제시하고 사이버 보안 향상에 기여한다.

Abstract ▼ AI-Helper

Artificial Intelligence (AI) technology is a major technology that develops smart ships into autonomous ships in the marine industry. Autonomous ships recognize a situation with the information collected without human judgment which allow them to operate on their own. Existing ship systems, like control systems on land, are not designed for security against cyberattacks. As a result, there are infringements on numerous data collected inside and outside the ship and potential cyber threats to AI technology to be applied to the ship. For the safety of autonomous ships, it is necessary to focus not only on the cybersecurity of the ship system, but also on the cybersecurity of AI technology. In this paper, we analyzed potential cyber threats that could arise in AI technologies to be applied to existing ship systems and autonomous ships, and derived categories that require security risks and the security of autonomous ships. Based on the derived results, it presents future directions for cybersecurity research on autonomous ships and contributes to improving cybersecurity.

주제어

표/그림 (17)

표 Table 1. Classification of artificial intelligence methods
그림 Fig. 1. The degrees of autonomy
그림 Fig. 2. Systems of autonomous ship
표 Table 2. Examples of autonomous ship components and functionalities description[15][16]
그림 Fig. 3. An overall view of AI driven maritime situational awareness system[19]
그림 Fig. 4. ANS(Autonomous Navigation System) architecture
그림 Fig. 5. Schematic representation for autonomous collision avoidance[7]
표 Table 3. Cyber threat of system in ship
그림 Fig. 6. Misclassification of the image after add noise[47]
그림 Fig. 7. An image recovered using model inversion attack(left) and training set image of the victim(right)[48]
그림 Fig. 8. Before & after preprocessing input data[51]
그림 Fig. 9. Dataset sample for poisoning attack
그림 Fig. 10. Misclassification sign by sticker attack[55]
그림 Fig. 11. Areal coverage of multi-sensors of ship[19][55]
그림 Fig. 12. Cyber attack scenario of identification data
표 Table 4. Countermeasure for cyber threat of ship component
그림 Fig. 13. Security risk and mitigation of autonomous ship

AI 본문요약
AI-Helper

문제 정의

본 논문에서는 자율 운항 선박에서 어떠한 인공지능 기술이 사용되는지 알아보고, 인공지능 기술이 선박에 적용되면서 발생할 수 있는 사이버 위협을 알아본다. 기존에 연구되고 알려진 사이버 위협이 자율 운항 선박에 어떠한 영향을 줄 수 있는지 공격 시나리오를 예측하여 자율 운항 선박 보안에 필요한 연구 방향을 제시한다.
본 논문에서는 선박 시스템과 인공지능 기술의 취약점 및 위협을 조사하였고, 자율 운항 선박에서 사용될 수 있는 인공지능 기술에 대한 잠재적 사이버 위협과 대응 방안을 알아보았다. 자율 운항 선박은 아직 연구 단계이기 때문에 상용화 단계에서는 더욱 발전된 시스템이 적용될 것이다.
본 논문에서는 자율 운항 선박에서 어떠한 인공지능 기술이 사용되는지 알아보고, 인공지능 기술이 선박에 적용되면서 발생할 수 있는 사이버 위협을 알아본다. 기존에 연구되고 알려진 사이버 위협이 자율 운항 선박에 어떠한 영향을 줄 수 있는지 공격 시나리오를 예측하여 자율 운항 선박 보안에 필요한 연구 방향을 제시한다.

제안 방법

본 논문에서는 선박 시스템과 자율 운항 선박에 적용될 인공지능 기술의 취약점에 대해 알아보고, 취약점을 이용한 사이버 위협을 통해 공격 시나리오를 도출했다. 선박 정보 시스템의 사이버 위협과 인공지능 위협은 어떤 것이 있는지와 선박 시스템과 인공지능 기술이 자율 운항 선박에서 어떠한 보안 위험이 되는지, 그 보안 위험을 완화하기 위한 방안을 Fig.

이론/모형

접안 문제를 해결하는 접근법 중 하나는 인공신경망(ANN)의 사용이다. ANN은 머신러닝과 인지과학에서 생물학의 신경망에서 영감을 얻은 통계학적 학습 알고리즘이다.

성능/효과

자율 운항 선박은 개별 시스템이 독립적이지 않고 각 시스템이 자신의 역할을 수행하며 다른 시스템에 영향을 주는 데이터를 생성한다. 사이버 보안 위협 또한 하나의 시스템에만 영향을 주는 것이 아니라 자율 운항 선박 전체에 영향을 줄 수 있다. 자율 운항 선박은 운영비를 감축시키고 해양사고를 감소시키는 기대효과를 가지고 있는데, 자율 운항 선박이 사이버 공격으로 인한 사고가 발생한다면 그 목표를 달성하기 어려울 것이다.
선박 센서 데이터는 인공지능의 인지, 판단, 제어 에 영향을 주고 인공지능은 선박 제어에 영향을 준다. 자율 운항 선박은 개별 시스템이 독립적이지 않고 각 시스템이 자신의 역할을 수행하며 다른 시스템에 영향을 주는 데이터를 생성한다.

후속연구

자율 운항 선박은 운영비를 감축시키고 해양사고를 감소시키는 기대효과를 가지고 있는데, 자율 운항 선박이 사이버 공격으로 인한 사고가 발생한다면 그 목표를 달성하기 어려울 것이다. 따라서 사이버 공격을 예방하기 위해 각각의 시스템에 대한 사이버 침해가 다른 시스템에 영향을 주지 않도록 설계되어야 한다.
자율 운항 선박이광범위한 테스트와 시뮬레이션 단계를 통해 안정성을 검증이 수행될 것이다. 이 과정에서 인공지능이 가지고 있는 사이버 위협에 대응하기 위한 연구가 함께 진행되어야 한다. 해상에서 선박 인공지능에 문제가 발생한다면 자율 운항 선박은 목적을 상실하게된다.
본 논문에서는 선박 시스템과 인공지능 기술의 취약점 및 위협을 조사하였고, 자율 운항 선박에서 사용될 수 있는 인공지능 기술에 대한 잠재적 사이버 위협과 대응 방안을 알아보았다. 자율 운항 선박은 아직 연구 단계이기 때문에 상용화 단계에서는 더욱 발전된 시스템이 적용될 것이다. 기존 해양 시스템과 인공지능 기술의 융합으로 알려지지 않은 새로운 위협이 발생할 가능성도 존재한다.
기존 해양 시스템과 인공지능 기술의 융합으로 알려지지 않은 새로운 위협이 발생할 가능성도 존재한다. 향후 연구에서는 해양 사이버 위험 환경에 대한 포괄적인 이해를 토대로 새롭게 적용될 인공지능 기술과 자율 운항 시스템에 대한 사이버 보안 연구가 필요할 것이다.

참고문헌 (65)

A. Humayed, J. Lin, F. Li and B. Luo, "Cyber-physical systems security-A survey," IEEE Internet of Things Journal, vol. 4, no. 6, pp. 1802-1831, May. 2017.

상세보기
Sun-seon Kwon, "Technology Trends of AI and Big Data," TTA journal, 187(393), pp. 38-44, Jan. 2020.
Korea Autonomous Surface Ship, "autonomous ship effect," https://kassproject.org/?menucode10700&tmenucontent, Feb 3, 2022.
J.E. Vinnem, and I.B. Utne, "Risk from cyberattacks on autonomous ships." Safety and Reliability-Safe Societies in a Changing World, CRC Press, pp. 1485-1492, June. 2018.
O.J. Rodseth, B. Kvamstad, T. Porathe and H.C. Burmeister, "Communication architecture for an unmanned merchant ship," 2013 MTS/IEEE OCEANS-Bergen, pp. 1-9, June. 2013.
M. Hoyhtya, J. Huusko, M. Kiviranta,K. Solberg, and J. Rokka, "Connectivity for autonomous ships: Architecture, use cases, and research challenges," 2017 International Conference on Information and Communication Technology Convergence (ICTC), IEEE, pp. 345-350, Oct. 2017.
A. Noel, K. Shreyanka, Kumar, K.G.S., Shameem, B.M. and B. Akshar, "Autonomous ship navigation methods: A review," Proc. Int. Conf. Marine Eng. Technol. Oman, pp. 161-174, Nov. 2019.
K.W. Kug, "Case of application by artificial intelligence technology and industry field," ISSN 1225-6447. Weekly ICT Trends, IITP, pp. 15-27, Mar. 2019.
S. Park and D. Choi, "Artificial intelligence security issues," Review of KIISC, 27(3), pp. 27-32, June. 2017.
C. Benzaid and T. Taleb, "AI for beyond 5G networks: a cyber-security defense or offense enabler?," IEEE Network, vol. 34, no. 6, pp. 140-147, Sep. 2020.

상세보기
N. Kaloudi and J. Li, "The ai-based cyber threat landscape: A survey," ACM Computing Surveys (CSUR), vol. 53, no. 1, pp. 1-34, 2020.
MSC. 1/Circ. 1638. "Outcome of the Regulatory Scoping Exercise for the Use of Maritime Autonomous Surface Ships (MASS)," IMO, June. 2021.
S. Ahvenjarvi, "The human element and autonomous ships," TransNav: International Journal on Marine Navigation and Safety of Sea Transportation, vol. 10 no. 3, pp. 517-521, Oct. 2016.

상세보기
R. Royce, "Autonomous ships: The next step," Marine Ship Intelligence. 2017.
J. Kim and H.S. Jang, "Technology trends and preparations for autonomous ships," Bulletin of the Society of Naval Architects of Korea, 56(4), pp. 4-7, Dec. 2019.
V. Bolbot, G. Theotokatos, E. Boulougouris and D. Vassalos, "Safety related cyber-attacks identification and assessment for autonomous inland ships," International Seminar on Safety and Security of Autonomous Vessels (ISSAV), Sep. 2019.
D. Nguyen, R. Vadaine, G. Hajduch, R. Garello and R. Fablet, "A multi-task deep learning architecture for maritime surveillance using AIS data streams," 2018 IEEE 5th International Conference on Data Science and Advanced Analytics (DSAA), pp. 331-340, Oct. 2018.
S.K. Singh and F. Heymann, "Machine learning-assisted anomaly detection in maritime navigation using AIS data," 2020 IEEE/ION Position, Location and Navigation Symposium (PLANS), pp. 832-838, Apr. 2020.
S. Thombre, Z. Zhao, H. Ramm-Schmidt, J.M.V. Garcia, T. Malkamaki, S. Nikolskiy and V.V. Lehtola, "Sensors and AI Techniques for Situational Awareness in Autonomous Ships: A Review," in IEEE Transactions on Intelligent Transportation Systems, vol. 23, no. 1, pp. 64-83, Jan. 2022.

상세보기
E. Jokioinen, "Redefining shipping:Remote and Autonomous Ship-Thenext steps," vol. 4, no. 5, AAWA whitepaper, Ship Intelligence Marine, June. 2016.
L.P. Perera, V. Ferrari, F.P. Santos, M.A. Hinostroza and C.G. Soares, "Experimental evaluations on ship autonomous navigation and collision avoidance by intelligent guidance," IEEE Journal of Oceanic Engineering, vol. 40, no. 2, pp. 374-387, 2014.

상세보기
L.P. Perera, "Autonomous ship navigation under deep learning and the challenges in COLREGs," International Conference on Offshore Mechanics and Arctic Engineering, June. 2018.
C. Wang, X. Zhang, R. Li and P. Dong, "Path planning of maritime autonomous surface ships in unknown environment with reinforcement learning," International Conference on Cognitive Systems and Signal Processing, Springer, Singapore, pp. 127-137, Nov. 2018.
S. Guo, X. Zhang, Y. Zheng and Y. Du, "An autonomous path planning model for unmanned ships based on deep reinforcement learning," Sensors, vol. 20, no. 2: 426. Jan. 2020.

상세보기
N. Im, "A study on ship automatic berthing with assistance of auxiliary devices," International Journal of Naval Architecture and Ocean Engineering, vol. 4, no. 3, pp. 199-210, Sep. 2012.

원문보기 상세보기
V.S. Nguyen, V.C. Do and N.K. Im, "Development of automatic ship berthing system using artificial neural network and distance measurement system," International journal of Fuzzy logic and Intelligent systems, vol. 18, no. 1, pp. 41-49, Mar. 2018.

상세보기
N.K. Im and V.S. Nguyen, "Artificial neural network controller for automatic ship berthing using head-up coordinate system," International Journal of Naval Architecture and Ocean Engineering, vol. 10, no. 3, pp. 235-249, May. 2018.

원문보기 상세보기
D. Lee, S.J. Lee and Y.J. Seo, "Application of recent developments in deep learning to ANN-based automatic berthing systems," International Journal of Engineering and Technology Innovation, vol. 10, no. 1, pp. 75-90, Jan. 2020.

상세보기
N. Mizuno and R. Kuboshima "Implementation and evaluation of non-linear optimal feedback control for ship's automatic berthing by recurrent neural network," IFAC-PapersOnLine, vol. 52, no. 21, pp. 91-96, Sep. 2019.

상세보기
E.L.H. Rorvik, "Automatic docking of an autonomous surface vessel," Master thesis. Norwegian University of Science and Technology (NTNU), Feb. 2020.
CyberKeel, "Maritime Cyber-Risks: Virtual Pirates at Large on the Cyber Seas," NCC Group Publication, Oct. 2014.
M. Guri, G. Kedma, A. Kachlon and Y. Elovici, "AirHopper: Bridging the air-gap between isolated networks and mobile phones using radio frequencies," 2014 9th International Conference on Malicious and Unwanted Software: The Americas(MALWARE), pp. 58-67, Oct. 2014.
J. Wagstaff, "All at sea: global shipping fleet exposed to hacking threat," Reuters, Apr. 24. 2014.
J. Coffed, "The threat of gps jamming: The risk to an information utility," Report of EXELIS, Feb. 2014
D. Schmidt, K. Radke, S. Camtepe, E. Foo and M. Ren, "A survey and analysis of the GNSS spoofing threat and countermeasures," ACM Computing Surveys (CSUR), vol. 48,no. 4, pp. 1-31, May. 2016.
K. Tam and K. Jones, "Cyber-risk assessment for autonomous ships," 2018 International Conference on Cyber Security and Protection of Digital Services (Cyber Security), IEEE, pp. 1-8, June. 2018.
A. Costin, "Security of cctv and video surveillance systems: Threats, vulnerabilities, attacks, and mitigations," Proceedings of the 6th international workshop on trustworthy embedded devices, pp. 45-54, Oct. 2016.
C. Heffner, "Exploiting surveillance cameras like a hollywood hacker," Black Hat USA 2013, Aug. 2013.
A. Costin, "Security of cctv and video surveillance systems: Threats, vulnerabilities, attacks, and mitigations," Proceedings of the 6th international workshop on trustworthy embedded devices, pp. 45-54, Oct. 2016.
B. Muthusenthil and H.S. Kim, "CCTV Surveillance System, attacks and design goals," International Journal of Electrical and Computer Engineering (IJECE), vol. 8, no. 4, pp. 2072-2082, Aug. 2018.

상세보기
R. Santamarta, "Maritime security: Hacking into a voyage data recorder (VDR)," IOActive [Online], Dec. 2015.
J. Wang and S.M. Zhang, "Management of human error in shipping operations," Professional safety, vol. 45, no. 10, pp. 23-28. Oct. 2000.
M.S. Zaghloul, "Online ship control system using Supervisory Control and Data Acquisition (SCADA)," International Journal of Computer Science and Application, vol. 3, no. 1, pp. 6-10, Feb. 2014.
R. Santamarta, "SATCOM terminals: Hacking by air, sea, and land," BlackHat USA 2014. Aug. 2014.
BIMCO. The Guidelines on Cyber Security Onboard Ships, Version 4, BIMCO, Dec. 2020.
Y. Yao, H. Li, H. Zheng and B.Y. Zhao, "Latent backdoor attacks on deep neural networks," Proceedings of the 2019 ACM SIGSAC Conference on Computer and Communications Security, pp. 2041-2055, Nov. 2019.
I.J. Goodfellow, J. Shlens and C. Szegedy, "Explaining and harnessing adversarial examples," arXiv preprint arXiv:1412.6572, Mar. 2015.
M. Fredrikson, S. Jha and T. Ristenpart, "Model inversion attacks that exploit confidence information and basic countermeasures," Proceedings of the 22nd ACM SIGSAC conference on computer and communications security, pp. 1322-1333, Oct. 2015.
K.D. Jones, K. Tam and M. Papadaki, "Threats and impacts in maritime cyber security," Engineering& Technology Reference, Apr. 2016.
K. Tam and K. Jones, "Cyber-risk assessment for autonomous ships," 2018 International Conference on Cyber Security and Protection of Digital Services (Cyber Security), IEEE, pp. 1-8, June. 2018.
S.J. Lee, H.C. Lee, H.H. Song, H.S. Jeon and T.H. Im, "Comparative Analysis of CNN Deep Learning Model Performance Based on Quantification Application for High-Speed Marine Object Classification," Journal of Internet Computing and Services (JICS), 22(2), pp. 59-68, Feb. 2021.

원문보기 상세보기
W. Jiang, H. Li, S. Liu, X. Luo and R. Lu, "Poisoning and evasion attacks against deep learning algorithms in autonomous vehicles," IEEE transactions on vehicular technology, vol. 69 no. 4, pp. 4439-4449. Apr. 2020.

상세보기
K. Eykholt, I. Evtimov, E. Fernandes, B. Li, A. Rahmati, C. Xiao and D. Song, "Robust physical-world attacks on deep learning visual classification," Proceedings of the IEEE conference on computer vision and pattern recognition, pp. 1625-1634, Dec. 2018.
I. Evtimov, K. Eykholt, E. Fernandes, T. Kohno, B. Li, A. Prakash, and D. Song, "Robust physical-world attacks on machine learning models," arXiv preprint arXiv:1707.08945, vol. 2, no. 3:4, Apr. 2018.
D. Qiao, G. Liu, T. Lv, W. Li and J. Zhang, "Marine vision-based situational awareness using discriminative deep learning: A survey," Journal of Marine Science and Engineering, vol. 9, no. 4:397, Apr. 2021.

상세보기
G. Kavallieratos, V. Diamantopoulou, and K. S. Katsikas, "Shipping 4.0: Security requirements for the cyber-enabled ship," IEEE Transactions on Industrial Informatics, vol. 16, no. 10, pp. 6617-6625, Feb. 2020.

상세보기
M. Caprolu, R. Di Pietro, S. Raponi, S. Sciancalepore and P. Tedeschi, "Vessels cybersecurity: Issues, challenges, and the road ahead," IEEE Communications Magazine, vol. 58, no. 6, pp. 90-96, June. 2020.

상세보기
A. Goudosis and S. Katsikas, "Secure AIS with identity-based authentication and encryption," 2020
Y. Takefuji, "Connected vehicle security vulnerabilities [commentary]," IEEE Technology and Society Magazine, vol. 37, no. 1, pp. 15-18. Mar. 2018.

상세보기
D.S. Fowler, A.T. Le and C. Maple, "LiDAR Sensor Security of a Driverless Pod," May. 2021.
J. Petit, B. Stottelaar, M. Feiri and F. Kargl, "Remote attacks on automated vehicles sensors: Experiments on camera and lidar," Black Hat Europe, Nov. 2015.
A. Levine and S. Feizi, "Deep partition aggregation: Provable defense against general poisoning attacks," arXiv preprint arXiv:2006.14768. Mar. 2021.
G. Apruzzese, M. Andreolini, M. Marchetti, V.G. Colacino and G. Russo, "AppCon: Mitigating evasion attacks to ML cyber detectors," Symmetry, vol. 12, no. 4, pp. 653, Apr. 2020.

상세보기
K.D. Gupta, D. Dasgupta and Z. Akhtar, "Applicability issues of evasion-based adversarial attacks and mitigation techniques," In 2020 IEEE Symposium Series on Computational Intelligence (SSCI), pp. 1506-1515, Dec. 2020.
R. Changalvala and H. Malik, "LiDAR data integrity verification for autonomous vehicle," IEEE Access, vol. 7, pp. 138018-138031, Sep. 2019.

상세보기

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증