초록 ▼

용어보기논문에서 용어와 풀이말을 자동 추출한 결과로, 시범 서비스 중입니다. AI-Helper

최근 소프트웨어 산업에서 다양한 IT 기기의 발달과 소프트웨어의 활용적인 측면이 점점 확대되고 빠른 속도로 발전함에 따라 다양한 영역에서 많은 소프트웨어가 개발되고 있다. 이러한 소프트웨어 산업의 발전과 함께 소프트웨어에 존재하는 취약성 또한 지속적으로 증가하고 있다. 소프트웨어 취약성을 악용한 사이버 공격들은 현재에도 많이 발생하고 있으며, 이를 조치하기 위한 방법으로는 공격자들 보다 먼저 기존의 소프트웨어를 테스트 하고 잠재적인 취약성을 검증 하는 것이다. 하지만 소프트웨어 활용과 더불어 그 규모 또한 크게 증가함에 따라 분석가의 힘만으로 큰 규모의 소프트웨어의 취약성을 검증하는데 한계가 존재하고, 현재까지는 소프트웨어 취약성의 보안문제를 신속하게 해결하는데 어려운 실정이다. 이에 소프트웨어의 취약성을 자동으로 검증할 수 있는 기술들에 대한 관심이 높아졌고, 여러 연구 기관에서는 이러한 기술들에 대한 자동화 도구를 이용한 연구들이 진행되기 시작하였다.

소프트웨어 취약성 검증의 가장 대표적인 자동화 도구로는 ...

최근 소프트웨어 산업에서 다양한 IT 기기의 발달과 소프트웨어의 활용적인 측면이 점점 확대되고 빠른 속도로 발전함에 따라 다양한 영역에서 많은 소프트웨어가 개발되고 있다. 이러한 소프트웨어 산업의 발전과 함께 소프트웨어에 존재하는 취약성 또한 지속적으로 증가하고 있다. 소프트웨어 취약성을 악용한 사이버 공격들은 현재에도 많이 발생하고 있으며, 이를 조치하기 위한 방법으로는 공격자들 보다 먼저 기존의 소프트웨어를 테스트 하고 잠재적인 취약성을 검증 하는 것이다. 하지만 소프트웨어 활용과 더불어 그 규모 또한 크게 증가함에 따라 분석가의 힘만으로 큰 규모의 소프트웨어의 취약성을 검증하는데 한계가 존재하고, 현재까지는 소프트웨어 취약성의 보안문제를 신속하게 해결하는데 어려운 실정이다. 이에 소프트웨어의 취약성을 자동으로 검증할 수 있는 기술들에 대한 관심이 높아졌고, 여러 연구 기관에서는 이러한 기술들에 대한 자동화 도구를 이용한 연구들이 진행되기 시작하였다.

소프트웨어 취약성 검증의 가장 대표적인 자동화 도구로는 퍼즈 테스팅(Fuzz Testing) 혹은 퍼징(Fuzzing) 기법으로 소프트웨어를 대상으로 무작위 데이터 값을 입력하고, 이에 따른 예기치 못한 버그를 발견하는 것이다. 퍼즈 테스팅은 이러한 무작위 테스팅이라는 형식적인 한계로 프로그램 코드 전체를 파악하는데 한계를 갖는다. 이러한 퍼징의 한계점을 개선하기 위해 심볼릭 수행은 무작위 퍼징과 다르게 입력 데이터를 심볼릭 변수로 표현함으로써 수식을 이용한 가능한 모든 경로를 탐색하도록 설계되었고, 이는 퍼징의 한계점을 어느 정도 보완하였다. 심볼릭 수행은 프로그램 코드 커버리지를 높이는데 있어서 분기점에서 심볼릭 변수의 값에 의존하는 수식의 해결을 통해 코드 커버리지를 확장한다. 이처럼 심볼릭 수행을 통해 기존의 퍼징으로 찾을 수 없는 복잡한 취약점을 찾는 연구가 진행되었다.

대표적인 심볼릭 수행을 이용한 취약점 점검 방식 중 하나는 힙 메모리 오버플로이다. 심볼릭 수행을 통한 힙 메모리 오버플로 취약성 검증은 각 버퍼에 할당된 메모리 상태 정보(예를 들면 버퍼의 크기)등을 알고, 해당 메모리 포인터와 관련된 변수를 심볼릭 변수로 설정한 후, 해당 메모리 상태 정보에 관련한 수식 적용 및 해결을 통한 방식으로 진행된다. 하지만 오픈소스 환경에서는 오버플로를 발생시키는 해당 메모리 포인터와 관련된 상태 정보 등이 획득 가능하지만, 바이너리 환경에서는 이러한 정보를 확인할 수 없다. 그렇기 때문에 바이너리 환경에서 힙 메모리 오버플로 취약성 검증은 주로 무작위 퍼징에 의존 할 수밖에 없는 한계점을 보이고 있다.

이에 본 논문에서는 바이너리 환경의 힙 메모리 취약성 검증에 있어서 메모리 상태정보 체크에 따른 심볼릭 수행 방법을 제안한다. 제안하는 메모리 관리 방법은 쉐도우 메모리 관리를 통한 할당되는 힙 메모리의 버퍼 크기 정보 관리이다. 바이너리는 힙 할당 라이브러리가 호출 될 때마다 이를 후킹하여 쉐도우 메모리에 상태정보를 기입한다. 이후 메모리 쓰기 함수가 호출될 시 쉐도우 메모리 정보를 통해 각 버퍼에 쓰여 지는 크기 값을 획득한다. 이후 힙 오버플로 취약성 검증을 위해 메모리 내부적으로 쓰기 콜백 함수 호출 시 해당 버퍼의 크기 값에 대한 심볼릭 수식 적용 및 해결을 통한 잠재적인 오버플로 취약성을 검증한다.

제안하는 방법의 효과 증명하기 위해 기존에 발생하였던 힙 오버플로 취약점에 대한 재연 실험을 진행하였다. 하지만 전체 바이너리를 탐색하는 데는 심볼릭 수행의 성능상의 문제가 있었고, 이에 바이너리 기반 힙 메모리 취약점 탐지의 효용성 검증을 위해 해당 취약지점 코드만 추출 후 실험을 진행하였다. 실험 방법으로는 취약점 카테고리 측면에서 기존의 무작위 퍼징과 일반적인 심볼릭 수행 방법, 그리고 제안하는 도구를 통한 방법의 각각 탐지 정도를 비교하였다. 실험 결과 제안한 방법이 힙 메모리 취약점 점검에 적용 가능함을 보였다.

본 연구의 결과는 바이너리 기반 심볼릭 수행을 통한 힙 메모리 취약점 분석에 적용 가능함을 보였고, 이를 통해 소프트웨어 안전성 검증에 대한 관련 연구 분야의 발전에 도모할 수 있을 것으로 기대된다.

Keyword