초록 ▼

용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

국내에 보이스피싱이 생긴 2006년 이후 끊임없이 피해자가 발생하 고 있고, 피해자 개인의 경제적 손실과 심리적 상처 뿐 아니라 사회 적 비용이 증가하고 있다. 정부부처, 금융권, 통신회사, 은행권 등에 서 법적‧제도적 대책 마련에 나섰고, 올해 9월에는 대통령의 지시에 통합대응센터가 개소하기에 이르렀다. 주로 중국, 필리핀, 베트남 등 해외에 근거지를 둔 보이스피싱 조직원들을 검거하고, 조직을 일망 타진한다 하더라도 이윽고 새로운 범죄수법과 기술의 신종보이스피 싱이 어김없이 등장한다. 최근에는 Deepfake‧Deepvoice기술과 Chat GPT가 결합 된 정교한 ...

국내에 보이스피싱이 생긴 2006년 이후 끊임없이 피해자가 발생하 고 있고, 피해자 개인의 경제적 손실과 심리적 상처 뿐 아니라 사회 적 비용이 증가하고 있다. 정부부처, 금융권, 통신회사, 은행권 등에 서 법적‧제도적 대책 마련에 나섰고, 올해 9월에는 대통령의 지시에 통합대응센터가 개소하기에 이르렀다. 주로 중국, 필리핀, 베트남 등 해외에 근거지를 둔 보이스피싱 조직원들을 검거하고, 조직을 일망 타진한다 하더라도 이윽고 새로운 범죄수법과 기술의 신종보이스피 싱이 어김없이 등장한다. 최근에는 Deepfake‧Deepvoice기술과 Chat GPT가 결합 된 정교한 AI 보이스피싱이 생겨 피해가 증가하는 추 세이다. 단순히 협박, 설득, 사기의 범주를 아득히 넘어서서 사랑하 는 사람의 목소리를 복제하여 그들이 보고, 들은 것이 진짜인지를 의심하게 만든다. 사랑하는 사람을 지키고, 돕고 싶은 인간의 심리 를 파고들어 범죄수법의 판도를 바꾸고 있는 것이다. 국내뿐 아니라 해외 상황도 별반 다르지 않다. 그렇기에 보이스피싱을 막기 위한 가장 최선의 방법은 개인차원에서 예방하고 미리 대처하는 것이다. 하지만 공공기관과 민간기관이 기술개발을 하고 있으나 보이스피싱 을 제대로 막기에는 역부족인 상황이다. 기술, 제도, 법적인 대응 이 전에 홍보와 교육을 통해서 보이스피싱임을 개인이 알아차리도록 하는 방법을 권장하고 있는 현실이다. 개인이 범죄사실임을 깨닫게 하기 위해 기존 연구에서는 범죄자의 음성을 인식하여 개인에게 알 려주는 방식을 채택하고 있다. 그러나 이러한 방식은 3가지 문제점 이 존재하는데, 첫 번째는 위에서 언급한 대로 AI 기술을 활용해 음 성을 복제할 경우 기존 범죄자 음성데이터는 무용지물이 된다는 것 이다. 두 번째는 통화 자체를 녹음해야 하기때문에 법적인 문제가 발생한다. 국가별 통화녹음에 대한 규제가 다르고, 휴대전화 기종에 따라 녹음 가능 여부가 달라진다는 문제가 있다. 세 번째는 기존 범 죄자 음성과 통화상 상대방 음성을 비교하기 위해서는 보이스피싱 패턴이 미리 등록되어 있어야 해서 실시간 대응이 어렵다는 점이 있다. 범죄가 일어나고 나서야 범죄임을 알아차리게 되는 것이다. 따라서, 이번 연구의 목적은 전반적인 보이스피싱의 동향을 살펴 보고, 상대방의 통화내용은 배제한 채 수신자의 음성만으로 보이스 피싱 패턴을 분석, 감지하기 위해 ChatGPT와 GPT-4를 적용해봄으 로써 보이스피싱을 효과적으로 방지하기 위한 모델을 제안하는 것 이다. 전체음성이 아닌 수신자 음성만으로 보이스피싱임이 판별 가 능하다면 개인정보와 법적, 윤리적 문제에 있어서 자유로워질 것이 다. 특히, ChatGPT와 GPT-4를 보이스피싱 통화내용을 판별하는 데에 적용하는 것은 기존 선행연구들에서 시도하지 않았던 방법으 로, 전공자나 전문가가 아니더라도 쉽게 ChatGPT와 GPT-4를 사용 하여 생성형 AI가 보이스피싱 탐지와 같은 특정 작업에 대한 분석 능력을 갖췄는지 그 가능성에 대해 확인해보고자 한다. 이를 통해 기존의 키워드 기반 방식에서 벗어난 ChatGPT와 GPT-4의 문맥을 깊게 이해하고 분석하는 능력을 통해 키워드 중심의 방법에서 놓칠 수 있는 미묘한 패턴이나 뉘앙스를 잡아내어 보이스피싱 피해를 줄 이는데 기여 가능할 것이다.

주요어 : 보이스피싱, LLM, 생성형 AI, ChatGPT, GPT-4, 수신자 음성
학 번 : 20221301

Abstract ▼ AI-Helper

Since the emergence of voice phishing in South Korea in 2006, victims have continuously fallen prey to this scam, resulting in not only individual financial and psychological harm but also increasing societal costs. Efforts to address this issue have been made by government departments, financial in...

Since the emergence of voice phishing in South Korea in 2006, victims have continuously fallen prey to this scam, resulting in not only individual financial and psychological harm but also increasing societal costs. Efforts to address this issue have been made by government departments, financial institutions, telecommunications companies, and banks, culminating in the establishment of a centralized response center in September this year by presidential directive. Despite successful operations to dismantle voice phishing organizations, mostly based overseas in countries like China, the Philippines, and Vietnam, new and advanced forms of voice phishing continually emerge, adapting to new technologies and methods. Recently, there has been a concerning rise in sophisticated AI-enabled voice phishing attacks that employ Deepfake, Deepvoice technologies, and ChatGPT. These scams transcend traditional threats, persuasion, and fraud by replicating the voices of loved ones, causing victims to question the authenticity of what they hear and see. This evolution in crime exploits the inherent human desire to protect and assist loved ones, signifying a significant shift in criminal methodologies. The situation is not markedly different on the international front, emphasizing that prevention and proactive measures at the individual level are the most effective against voice phishing. However, the current technological, institutional, and legal responses fall short. The reality underscores the importance of public awareness and education in helping individuals recognize potential voice phishing incidents. Previous studies have focused on notifying individuals by identifying the scammer's voice, but this method has three main limitations. First, the replication of voices using AI technology renders existing databases of criminal voices obsolete. Second, the requirement to record calls introduces legal challenges, as regulations regarding call recording vary by country and are dependent on the capabilities of different mobile device models. Third, comparing the scammer's voice with known criminal voices necessitates pre-registered voice phishing patterns, hindering real-time responses and often only allowing for post-incident recognition of the crime. Therefore, this study aims to explore the overall trends in voice phishing and proposes a novel model for its prevention by applying ChatGPT and GPT-4 to detect voice phishing patterns using only the receiver's voice, excluding the caller's speech content. If voice phishing can be identified using only the receiver's voice, it circumvents personal, legal, and ethical constraints. This novel application of ChatGPT and GPT-4 in detecting voice phishing content is an unexplored method in existing research. It aims to explore the potential of generative AI in analyzing and identifying voice phishing, a task accessible even to non-experts. This approach could significantly contribute to reducing voice phishing incidents by capturing subtle patterns and nuances beyond the scope of keyword-based methods, leveraging ChatGPT's and GPT-4's ability to deeply understand and analyze context.

keywords : Voice Phishing, LLM(Large Language Models), Generative AI, ChatGPT, GPT-4, Recipient's Voice
Student Number : 20221301

주제어