[논문]Themida의 API 난독화 분석과 복구방안 연구

이재휘; 한재혁; 이민욱; 최재문; 백현우; 이상진

doi:10.13089/jkiisc.2017.27.1.67

Themida의 API 난독화 분석과 복구방안 연구
A Study on API Wrapping in Themida and Unpacking Technique 원문보기

情報保護學會論文誌 = Journal of the Korea Institute of Information Security and Cryptology, v.27 no.1, 2017년, pp.67 - 77

이재휘 (고려대학교 정보보호대학원) , 한재혁 (고려대학교 정보보호대학원) , 이민욱 (고려대학교 정보보호대학원) , 최재문 (고려대학교 정보보호대학원) , 백현우 (고려대학교 정보보호대학원) , 이상진 (고려대학교 정보보호대학원)

초록
AI-Helper

프로텍터란 프로그램의 핵심 아이디어를 보호하기 위해 실행파일을 압축하고 난독화를 적용하는 프로그램이다. 그리고 최근 악성코드가 자신의 악성행위를 분석하기 어렵게 만들기 위해 프로텍터를 적용하고 있다. 프로텍터가 적용된 실행파일을 정밀분석하기 위해서는 프로텍터를 해제하는 언패킹 작업이 필요하다. 기존의 연구에서는 OEP를 찾아 언패킹을 하는 것에 주력하였지만, 분석방해가 목적인 프로텍터의 경우 실행압축 해제가 완료된 이후의 실행에 분석방해 기능들이 남아있게 되어 여전히 분석에 어려움이 있다. 본 논문에서는 분석방해가 목적인 Themida 프로텍터가 사용하는 분석방해 기술을 분석하고 그에 대한 대응방안을 제안한다.

Abstract ▼ AI-Helper

A protector is a software for protecting core technologies by using compression and encryption. Nowadays malwares use the protector to conceal the malicious code from the analysis. For detailed analysis of packed program, unpacking the protector is a necessary procedure. Lately, most studies focused on finding OEP to unpack the program. However, in this case, it would be difficult to analyze the program because of the limits to remove protecting functions by finding OEP. In this paper, we studied about the protecting functions in the Themida and propose an unpacking technique for it.

주제어

AI 본문요약
AI-Helper

* AI 자동 식별 결과로 적합하지 않은 문장이 있을 수 있으니, 이용에 유의하시기 바랍니다.

문제 정의

기존에 진행된 연구들은 엔트로피를 통해 패커의압축해제 완료 시점을 찾는데 주력하였지만, 프로텍터의 경우 압축해제가 완료된 이후에도 분석을 방해하기 위한 기능들이 남아 여전히 분석에 어려움이 있다. 본 논문에서는 알려진 상용 프로텍터 중 하나인Themida 프로텍터[2]의 압축해제 완료시점 이후의 코드에서 분석방해 기능들을 연구하여 원본 실행파일을 복구하는 방법을 제안하고자 한다.

제안 방법

Themida로 실행파일을 보호한 후, 제안하는 기법을 활용해 OEP 이후에 남아있는 분석방해 기능들을 제거하였다. 실험환경은 Windows XP SP3x86이고, 사용한 Themida의 버전은 2.
메모리 복사 이벤트가 발생할 경우 복사되는 destination 주소가 lMem 리스트에 속해있는 영역인지 검사한다. lMem 리스트에 속한 주소로 확인된 경우 복사하는 source 주소를 검사해 해당 주소가 API의 주소인지 검사한다. API의 주소로 확인되면 API 난독화 작업으로 판단하여 source 주소와 destination 주소를 1대 1로 연결하여 딕셔너리형태로 dicWrap에 저장한다.
새로운 메모리가 할당된 경우 메모리의 접근권한이 읽기, 쓰기, 실행 권한을 가지고 있는지 검사한다. 권한이 확인되면 난독화를위해 할당받는 메모리의 크기가 0x1000 또는 0x2000인 특성을 이용해 난독화를 위한 할당인지 검사한다. 크기가 조건에 맞으면 해당 메모리는 API난독화를 위해 할당받은 영역으로 판단하여 메모리 주소를 저장하는 리스트인 lMem에 저장한다.
x 스크립트[8]는 짧은 세 개의 스크립트를 통해 Themida가 적용된 실행파일을 언패킹한다. 먼저 분석방해 기능들이 실행되기 위해 필요한 메모리 할당과 라이브러리 접근을 추적하고, 분석방해 기능들이 사용하는 외부 라이브러리 함수들을 추적해 원본코드에서 사용하는 함수들의 정보를 복구한다.
크기가 조건에 맞으면 해당 메모리는 API난독화를 위해 할당받은 영역으로 판단하여 메모리 주소를 저장하는 리스트인 lMem에 저장한다. 메모리 복사 이벤트가 발생할 경우 복사되는 destination 주소가 lMem 리스트에 속해있는 영역인지 검사한다. lMem 리스트에 속한 주소로 확인된 경우 복사하는 source 주소를 검사해 해당 주소가 API의 주소인지 검사한다.
0이다. 실험은 Windows 기본 실행파일인 계산기(calc.exe)와 메모장(notepad.exe), Visual Studio 2013으로 컴파일 한 실행파일(HelloThemida.exe)을 Themida로 보호한 후복구를 진행하였다. 복구된 실행파일은 모두 정상적으로 작동하였다.
이와 같은 프로텍터가 적용된 실행파일을 분석하기 위해서, 프로텍터가 사용하는 분석방해 기능들의 작동방식을 분석하고, OEP 이후에 남아있는 분석방해 기능들에 대응하기 위한 방안을 제시한다.
원본 API의 코드에 다형성이 적용된 더미코드를 삽입해 난독화를진행한다. 이후 난독화가 적용된 API를 OEP가 지난 시점의 명령어 실행에서 호출하도록 만들어 분석가가 API의 정보를 알 수 없도록 분석을 방해한다.
프로텍터 중 하나인 Themida가 사용하는 분석방해 기술을 연구하고, 기존의 연구들이 해결하지 못하는 실행압축 완료 이후에 남아있는 분석방해 기능에 대한 대응방안을 기술하였다. 프로텍터가 적용된 실행파일을 분석하는 것은 행위기반 분석을 통해 일부 가능하지만, 정밀분석을 위해서는 프로텍터를 해제해야 한다.

성능/효과

은 위 알고리즘을 적용하여 난독화가 적용된 영역의 주소와 원본 API를 연결한 결과이다. 기록된 결과를 보면 원본 API에 난독화를 적용해 저장하는 영역의 주소가 최근에 할당받은 메모리 영역의 주소에 속하는 것을 알 수 있다. 만약 프로텍터를 해제하지 않더라도 위 결과를 참고한다면 API 난독화가 적용된 영역을 분석하는 시간을 줄일 수 있을 것이다.

후속연구

그러나 Themida의 경우 OEP 이후의 실행에 영향을 미치는 분석방해 기능들이 여전히 남아있다. OEP 이후의 실행에 영향을 미치는 기능들의 작동원리를 파악한다면 적용된 분석방해 기술의 대응 방안을 연구할 수 있을 것이다.
기록된 결과를 보면 원본 API에 난독화를 적용해 저장하는 영역의 주소가 최근에 할당받은 메모리 영역의 주소에 속하는 것을 알 수 있다. 만약 프로텍터를 해제하지 않더라도 위 결과를 참고한다면 API 난독화가 적용된 영역을 분석하는 시간을 줄일 수 있을 것이다.
앞으로는 더 많은 종류의 프로텍터를 연구해 프로텍터가 보이는 보편적인 특징들을 찾아내고, 여러 종류의 프로텍터에 대응 가능한 알고리즘을 찾아내 자동화하는 연구를 진행할 예정이다.

질의응답

핵심어	질문	논문에서 추출한 답변
	프로텍터는 무엇인가?	최근 악성코드가 자신의 악성행위를 분석하기 어렵게 만들기 위해 프로텍터를 적용하고 있다. 프로텍터는 패커의 한 종류로 프로그램의 핵심 아이디어를 보호하기 위해 실행파일을 압축하고 난독화를 적용한 후 프로그램이 메모리에 로드될 때 실행 가능한 형태로 복구해 주는 소프트웨어다. 역공학을 지연시키는패커는 파일의 크기를 줄이는데 주력하는 컴프레서(compressor), 원본파일의 정보를 숨기기 위해 암호화나 난독화를 적용하는 크립터(crypter), 컴프레서와 크립터의 기능을 함께 적용하여 분석을 지연시키는 프로텍터(protector), 여러 파일을 하나의 실행파일로 만들어 작동하도록 만드는 번들러(bundler)로 나누어진다.
	번들러의 역할은?	프로텍터는 패커의 한 종류로 프로그램의 핵심 아이디어를 보호하기 위해 실행파일을 압축하고 난독화를 적용한 후 프로그램이 메모리에 로드될 때 실행 가능한 형태로 복구해 주는 소프트웨어다. 역공학을 지연시키는패커는 파일의 크기를 줄이는데 주력하는 컴프레서(compressor), 원본파일의 정보를 숨기기 위해 암호화나 난독화를 적용하는 크립터(crypter), 컴프레서와 크립터의 기능을 함께 적용하여 분석을 지연시키는 프로텍터(protector), 여러 파일을 하나의 실행파일로 만들어 작동하도록 만드는 번들러(bundler)로 나누어진다. 실행에 필요한 정보들을 압축하고 난독화하는 특성으로 인해 프로텍터가 적용된 실행파일을 자세히 분석하기 위해서는 프로텍터를해제하는 과정이 먼저 수행되어야 한다.
	Themida로 보호된 실행파일을 복구하는툴이나 방법들이 가지는 문제점은 무엇인가?	현재 Themida로 보호된 실행파일을 복구하는툴이나 방법들이 공개되어있다. 그러나 이들은 특정 어셈블리 명령어를 찾아 언패킹을 진행하기 때문에 다양한 대상에는 적용을 못하는 경우가 대부분이며,언패킹 과정을 거친 이후에도 API 난독화와 난독화해제 코드 등이 존재하여 실행파일의 크기가 원본보다 커지는 등의 제한사항이 있다.

참고문헌 (18)

Yan, Wei, Zheng Zhang, and Nirwan Ansari, "Revealing packed malware", IEEE seCurity & PrivaCy, Vol. 6.5, pp. 65-69, Oct. 2008

상세보기
Oreans Technologies, Themida, Advanced Windows Software Protection System, Revision 2.4, May 2016 (also see Themida, http://www.oreans.com/themida.php)
Won Lae Lee and Hyoung Joong Kim, "A Study on Generic Unpacking using Entropy of Opcode Address", Journal of Digital Contents Society , Vol. 15, No. 3, pp. 373-380, Jun. 2014

원문보기 상세보기
Young-hoon Lee, et al. "A Study on Generic Unpacking using Entropy Variation Analysis", Journal of The Korea Institute of Information Security & Cryptology , Vol. 22, No. 2, pp. 179-188, Apr. 2012
Guhyeon Jeong, et al. "Generic Unpacking using Entropy Analysis", Journal of The Korea Institute of Information Technology , Vol. 7, No. 1, pp. 232-238, Feb. 2009
Ryoichi Isawa, Masaki Kamizono, and Daisuke Inoue, "Generic Unpacking method Based on Detecting Original Entry Point", ICONIP 2013 , Part I, LNCS 8226, pp. 593-600, 2013
Boo Joong Kang, and Eul Gyu Im, "A Study on Anti-Debugging in Yoda's Protector", Journal of The Korea Institute of Communications and Information Sciences , pp. 1229-1232, Jul. 2007
LCF-AT, "Themida+WinLicense 2.x (Un packing)", Jul. 2013 (also see https://tuts 4you.com/download.php?view.3495)
LCF-AT, "Themida+WinLicense 2.x (Ultra Unpacker v1.4)", Jan. 2014 (also see https://tuts4you.com/download.php?view.3526)
CriticalError, "How Unpack Themida 2.x. x (WXP)", Jun. 2015 (also see http://zenh ax.com/viewtopic.php?t1051)
Microsoft, Microsoft PE and COFF Specifi cation, Revision 8.3, Feb. 2013 (also see Microsoft PE and COFF Specification, https://msdn.microsoft.com/en-us/windows/hardware/gg463119.aspx)
Microsoft, Microsoft Portable Executable and Common Object File Format Specification, Revision 8.2, Sep. 2010 (also see Understanding the Import Address Table, http://sandsprite.com/CodeStuff/Un derstanding_imports.html)
Mark Russinovich, David A. Solomon, and Alex Ionescu, "Image Loader", Windows Internals Part 1, Sixth Edition, pp. 232-247, Microsoft press, 2012
Matt Pietrek, Microsoft, "Peering Inside the PE: A Tour of the Win32 Portable Exec utable File Format", Mar. 1994 (also see https://msdn.microsoft.com/en-us/libr ary/ms809762.aspx)
Microsoft, Microsoft MSDN: NtAllocateV irtualMemory (also see NtAllocateVirtua lMemory, https://msdn.microsoft.com/e n-us/library/windows/hardware/ff556440(vvs.85).aspx)
Intel, "NOP-No Operation", Intel $^{(R)}$ 64 and IA-32 architectures software developer's manual volume 2B: Instruction set refere nce, M-U, pp. 163, Jun. 2016 (also see Intel $^{(R)}$ 64 and IA-32 Architectures Softwa re Developer Manuals, http://www.inte l.com/content/www/us/en/processors/a rchitectures-software-developer-manu als.html)
Microsoft, "Section Table (Section Heade rs)", Microsoft PE and COFF Specification, Revision 8.3, pp. 26-32, Feb. 2013 (also see Microsoft PE and COFF Specification, https://msdn.microsoft.com/en-us/win dows/hardware/gg463119.aspx)
Microsoft, Microsoft MSDN: SYSTEM_I NFO structure (also see SYSTEM_INFO structure, https://msdn.microsoft.com/en-us/library/windows/desktop/ms724958(vvs.85).aspx)

저자의 다른 논문 :

표제어: PCR

동의어: Packet Collision Rate

용어 설명 출처 목록 (6)

용어 설명: PCR은 세균 특이성이 있는 primer를 이용하여 적은 수의 세균이 있을지라도 쉽게 검출할 수 있는 유용한 방법이며, 이를 이용하여 구강 내 치면세균막이나 타액에서 직접 세균을 검출할 수 있게 되었다[8].

내보내기 구분	파일저장 인쇄 메일전송
구성항목	기본정보 상세정보 관리번호, 논문명, 저널/프로시딩명, 저자 , 발행년, 권, 호, 시작페이지, 끝페이지, 발행기관 관리번호, 논문명, 대등논문명, 저자 , 저널/프로시딩명, 발행기관, 발행년, 발행언어, 권, 호, 시작페이지, 끝페이지, ISBN, ISSN, 주제분야, 키워드, 초록(한글), 초록(영문), 저자(소속기관)
저장형식	Text(ASCII format) Excel format RefWorks Direct Export RIS format (for Reference Manager, ProCite, EndNote), Scholar's Aids, Mendeley
메일정보	받는사람 (필수) @ 보내는사람 (선택) @ 제목 내용 KISTI 검색결과 이메일 서비스
안내	총 건의 자료가 검색되었습니다. 다운받으실 자료의 인덱스를 입력하세요. (1-10,000) 검색결과의 순서대로 최대 10,000건 까지 다운로드가 가능합니다. 데이타가 많을 경우 속도가 느려질 수 있습니다.(최대 2~3분 소요) 다운로드 파일은 UTF-8 형태로 저장됩니다. 파일의 내용이 제대로 보이지 않을실 때는 웹브라우저 상단의 보기 -> 인코딩 -> 자동선택 여부를 확인하십시오. ~ Text(ASCII format) Excel format

연합인증