Microsoft MVP성태의 닷넷 이야기
Windows: 214. 윈도우 - 스레드 스택의 "red zone" [링크 복사], [링크+제목 복사]
조회: 4028
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
 
(연관된 글이 1개 있습니다.)

윈도우 - 스레드 스택의 "red zone"

"Raymond Chen"의 글을 제 마음대로 정리한 것입니다.

Why do we even need to define a red zone? Can’t I just use my stack for anything?
; https://devblogs.microsoft.com/oldnewthing/20190111-00/?p=100685

"red zone"이 뭔지 궁금해서 찾아본 건데, 정작 x86/x64에서는 실습을 할 수 없어 다소 제목 값을 못하게 되었습니다. ^^




보통 스택은 이렇게 구성됩니다.

stack_red_zone_1.png

그런데 일부 플랫폼에서는 SP가 가리키는 (스택은 상위 주소에서 하위 주소로 자라므로) 아래의 영역에 대해 "red zone"이라는 구역을 정의하기도 합니다.

stack_red_zone_2.png

그런 경우에는 "red zone"도 (비록 SP 포인터 범위에 포함되지는 않지만) 유효한 영역, 다르게 표현하면 응용 프로그램의 동작을 위해 필요한 공간으로 취급합니다. 윈도우 운영체제의 경우 CPU 종류 별로 다음과 같이 red zone 크기를 정한다고 하는데,

stack_red_zone_3.png

따라서 우리가 일반적으로 사용하는 INTEL/AMD CPU인 x86, x64 환경에서는 red zone 영역이 없습니다.

그런데, 개인적으로 한 번도 궁금해 본 적이 없는 질문을 "Raymond Chen"이 합니다. 우리는 분명히 SP 포인터가 스택의 top을 가리키고 그 영역 내의 데이터만 건드리지 않는다면 프로그램 수행에는 아무런 지장이 없을 것임을 알 수 있습니다. 그렇다면 그 top을 넘어서는 하위 주소의 범위를 임의 목적으로 사용하는 것도 가능하지 않을까요?

하지만 그에 대한 반례로, 아래의 코드를 예시로 듭니다.

// x86 기준의 코드

    MOV     [esp-4], eax       ; save eax below the stack pointer
    MOV     ecx, [esp-4]       ; read it into ecx
    CMP     ecx, eax           ; are they the same?
    JNZ     panic              ; N: something crazy happened

(SP 범위를 넘어서는) [esp-4] 주소에 eax의 값을 보관하고, 다시 그 값을 ecx에 보관 후 ecx와 eax의 값을 비교하면... 당연히 값은 같을 것입니다. 그런데, 경우에 따라 panic 라벨로 점프하는 코드가 실행될 수 있다는 것입니다.

위의 코드는 x86이므로 일단 red zone으로 여겨지는 안전 영역이 0바이트로 아예 존재하지 않습니다. 이것은, 시스템이 정확히 SP 포인터가 가리키는 위치 내의 데이터만 안 건드린다면 안정성이 보장된다는 "가정"을 하게 됩니다.

따라서, 위의 어셈블리 코드에서 "[esp-4]" 영역은 다른 특별한 상황에서 (응용 프로그램 개발자가 아닌) 시스템 코드에 의해 임의로 사용될 수도 있다는 것입니다.

일례로, windbg의 .call 명령어 사용은,

.call (Call Function)
; https://learn.microsoft.com/en-us/windows-hardware/drivers/debugger/-call--call-function-

현재의 스레드 스택을 사용해야 할 것이고, SP 영역 밖의 내용이 안전하다는 가정으로 필요에 따라 esp-4 영역을 사용합니다.

이 외에도, 절묘하게 "MOV [esp-4], eax" 코드가 수행된 후 스레드가 선점된 상태에서 메모리 관리자가 해당 코드를 담은 메모리 페이지를 working set에서 내렸다고 가정해 보겠습니다. 이후 스레드가 실행을 재개하면 메모리 관리자는 디스크로 내린 코드 페이지를 working set에 다시 올리려 할 것입니다. 그런데, 하필 그 과정에서 I/O 에러가 발생하는 상황도 있을 것입니다. 그럼 운영체제는 예외 처리 절차에 따라 exception frame을 현재 스택에 구성하게 되는데요, 이때도 역시 응용 프로그램의 유효한 스택 사용을 SP 포인터를 기준으로 하므로 그 이후의 영역, 즉 [esp-4] 위치의 메모리가 사용될 것입니다.

물론, 위와 같은 우연이 겹칠 확률은 거의 없을 것입니다. 하지만 분명한 건, SP 포인터 이후의 내용이 100% 안전하지는 않다는 것입니다.




위의 시나리오에서 실제로 windbg의 .call 명령어를 실습해 볼까요? ^^

간단하게 C++로 다음의 코드를 작성하고,

#include <iostream>
#include <stdio.h>

int Add(int i, int j)
{
    return i + j;
}

int main()
{
    std::cout << "Press any key to exit...!\n";
    getchar();
}

실행 후 windbg로 연결(Attach)합니다. 이후, Add 함수와 스택 포인터 위치의 데이터를 확인하고,

// Stupid debugger tricks: Calling functions and methods
// ; https://devblogs.microsoft.com/oldnewthing/20070427-00/?p=27083

0:004> x ConsoleApplication1!Add
00007ff7`6ffb2120 ConsoleApplication1!Add (int, int)

0:004> dd rsp-8
00000065`b39ff740  00000000 00000000 761c84ee 00007fff
00000065`b39ff750  00000000 00000000 00000000 00000000
00000065`b39ff760  00000000 00000000 00000000 00000000
00000065`b39ff770  00000000 00000000 7400244d 00007fff
00000065`b39ff780  00000000 00000000 00000000 00000000
00000065`b39ff790  00000000 00000000 00000000 00000000
00000065`b39ff7a0  00000000 00000000 7614dfb8 00007fff
00000065`b39ff7b0  00000000 00000000 00000000 00000000

.call을 실행합니다.

0:004> .call ConsoleApplication1!Add(1,2)
Thread is set up for call, 'g' will execute.
WARNING: This can have serious side-effects,
including deadlocks and corruption of the debuggee.

0:004> g
.call returns:
int 0n3

ntdll!DbgBreakPoint:
00007fff`76192af0 cc              int     3

이제 다음과 같이 이전 rsp-8 위치의 데이터를 확인하면,

0:004> dd 00000065`b39ff740
00000065`b39ff740  ccfdebcc cccccccc 761c84ee 00007fff
00000065`b39ff750  00000000 00000000 00000000 00000000
00000065`b39ff760  00000000 00000000 00000000 00000000
00000065`b39ff770  00000000 00000000 7400244d 00007fff
00000065`b39ff780  00000000 00000000 00000000 00000000
00000065`b39ff790  00000000 00000000 00000000 00000000
00000065`b39ff7a0  00000000 00000000 7614dfb8 00007fff
00000065`b39ff7b0  00000000 00000000 00000000 00000000

보다시피 windbg의 .call 호출 수행으로 스택이 변조되었습니다. 아울러, 함수에 전달했던 값은 (64비트 ABI 규약으로) rcx, rdx에 전달된 것을 확인할 수 있습니다.

0:004> r
rax=00000065b347a000 rbx=0000000000000000 rcx=0000000000000001
rdx=0000000000000002 rsi=0000000000000000 rdi=0000000000000000
rip=00007ff76ffb2120 rsp=00000065b39ff718 rbp=0000000000000000
 r8=0000000000000000  r9=0000000000000000 r10=00007fff7408cff0
r11=0000000000000000 r12=0000000000000000 r13=0000000000000000
r14=0000000000000000 r15=0000000000000000
iopl=0         nv up ei pl zr na po nc
cs=0033  ss=002b  ds=002b  es=002b  fs=0053  gs=002b             efl=00000246
ConsoleApplication1!Add:
00007ff7`6ffb2120 89542410        mov     dword ptr [rsp+10h],edx ss:00000065`b39ff728=00000000

참고로, ".call" 명령은 windbg가 제공하는 것이지만, 그게 없어도 개발자가 직접 stack frame을 구성해 호출하는 것이 가능합니다.




그건 그렇고 ARM 개발 환경 도구가 국내에도 정발되었다면,

Windows Dev Kit 2023 
; https://www.microsoft.com/en-us/d/windows-dev-kit-2023/94k0p67w7581

ARM64에서 16바이트 공간의 red zone 여부를 테스트할 수 있었을 텐데... 아쉽군요. ^^ 아마도 위와 같이 windbg로 .call 명령어를 수행하면 rsp-16까지의 데이터 변조는 발생하지 않을 것입니다. (혹시 확인해 주실 분 있을까요? ^^)




정리해 보면, Raymond Chen의 글도 제목이 좀 이상합니다. 제목과는 달리 왜 "red zone" 영역이 필요한지에 대해서는 언급이 없고, 그냥 플랫폼 별로 존재한다고만 언급한 것이 전부입니다. 이에 대해 좀 더 찾아보면 아래의 문서에서,

// https://www.agner.org/optimize/calling_conventions.pdf

64 bit Linux, BSD and Mac. This system has six integer registers and eight XMM registers 
for parameter transfer. This means that a maximum of 14 parameters can be transferred in 
registers in 64 bit Linux, BSD and Mac, while 64 bit Windows allows only 4. There is no 
shadow space on the stack. Instead there is a "red zone" below the stack pointer that can 
be used for temporary storage. The red zone is the space from [rsp-128] to [rsp-8]. A 
function can rely on this space being untouched by interrupt and exception handlers (except 
in kernel code). It is therefore safe to use this space for temporary storage as long as you 
don't do any push or call instructions. Everything stored in the red zone is destroyed by 
function calls. The red zone is not available in Windows.

응용 프로그램 개발자가 명시적인 push/call 명령어 없이 임시 용도로 활용할 수 있는 SP 이후의 공간이라고 합니다. 왜 저런 공간이 필요한 것인지... 그래도 모르겠군요. ^^; 저런 의미에서 볼 때 Raymond도 "... a red zone, which is a region of the stack below the stack pointer that is still valid for applications to use."라는 설명으로 퉁친 것 같습니다.




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 11/25/2022]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




1  2  3  4  5  6  7  8  9  10  11  [12]  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
13292정성태3/21/20233515Windows: 232. C/C++ - 일반 창에도 사용 가능한 IsDialogMessage파일 다운로드1
13291정성태3/20/20234007.NET Framework: 2104. C# Windows Forms - WndProc 재정의와 IMessageFilter 사용 시의 차이점
13290정성태3/19/20233529.NET Framework: 2103. C# - 윈도우에서 기본 제공하는 FindText 대화창 사용법파일 다운로드1
13289정성태3/18/20232793Windows: 231. Win32 - 대화창 템플릿의 2진 리소스를 읽어들여 자식 윈도우를 생성하는 방법파일 다운로드1
13288정성태3/17/20232879Windows: 230. Win32 - 대화창의 DLU 단위를 pixel로 변경하는 방법파일 다운로드1
13287정성태3/16/20233048Windows: 229. Win32 - 대화창 템플릿의 2진 리소스를 읽어들여 윈도우를 직접 띄우는 방법파일 다운로드1
13286정성태3/15/20233546Windows: 228. Win32 - 리소스에 포함된 대화창 Template의 2진 코드 해석 방법
13285정성태3/14/20233115Windows: 227. Win32 C/C++ - Dialog Procedure를 재정의하는 방법파일 다운로드1
13284정성태3/13/20233257Windows: 226. Win32 C/C++ - Dialog에서 값을 반환하는 방법파일 다운로드1
13283정성태3/12/20232847오류 유형: 852. 파이썬 - TypeError: coercing to Unicode: need string or buffer, NoneType found
13282정성태3/12/20233178Linux: 58. WSL - nohup 옵션이 필요한 경우
13281정성태3/12/20233104Windows: 225. 윈도우 바탕화면의 아이콘들이 넓게 퍼지는 경우 [2]
13280정성태3/9/20233735개발 환경 구성: 670. WSL 2에서 호스팅 중인 TCP 서버를 외부에서 접근하는 방법
13279정성태3/9/20233415오류 유형: 851. 파이썬 ModuleNotFoundError: No module named '_cffi_backend'
13278정성태3/8/20233259개발 환경 구성: 669. WSL 2의 (init이 아닌) systemd 지원
13277정성태3/6/20233667개발 환경 구성: 668. 코드 사인용 인증서 신청 및 적용 방법(예: Digicert)
13276정성태3/5/20233641.NET Framework: 2102. C# 11 - ref struct/ref field를 위해 새롭게 도입된 scoped 예약어
13275정성태3/3/20233996.NET Framework: 2101. C# 11의 ref 필드 설명
13274정성태3/2/20233597.NET Framework: 2100. C# - ref 필드로 ref struct 타입을 허용하지 않는 이유
13273정성태2/28/20233302.NET Framework: 2099. C# - 관리 포인터로서의 ref 예약어 의미
13272정성태2/27/20233487오류 유형: 850. SSMS - mdf 파일을 Attach 시킬 때 Operating system error 5: "5(Access is denied.)" 에러
13271정성태2/25/20233540오류 유형: 849. Sql Server Configuration Manager가 시작 메뉴에 없는 경우
13270정성태2/24/20233117.NET Framework: 2098. dotnet build에 /p 옵션을 적용 시 유의점
13269정성태2/23/20233643스크립트: 46. 파이썬 - uvicorn의 콘솔 출력을 UDP로 전송
13268정성태2/22/20234126개발 환경 구성: 667. WSL 2 내부에서 열고 있는 UDP 서버를 호스트 측에서 접속하는 방법
13267정성태2/21/20234097.NET Framework: 2097. C# - 비동기 소켓 사용 시 메모리 해제가 finalizer 단계에서 발생하는 사례파일 다운로드1
1  2  3  4  5  6  7  8  9  10  11  [12]  13  14  15  ...