JVM 힙 영역과 GC

✅ JVM 아키텍처

 

이미지 출처: https://medium.com/java-for-beginners/understanding-java-virtual-machine-jvm-architecture-e68d1c611026

 

 

JVM 구성요소는 크게 Class Loader, Runtime Data Area, Execution Engine, 그리고 JNI와 Native method library로 구성된다.

 

자바 컴파일러가 소스코드(.java)를 컴파일하여 바이트코드(.class)로 변환시킨다.

클래스 로더가 필요한 시점에 해당 클래스의 바이트코드(.class)를 JVM의 Runtime Data Area에 로드(적재)한다.

JVM Execution engine은 로드된 클래스의 바이트코드를 한 줄씩 해석(interpret)하여 실행한다.

    (필요에 따라 JIT Compiler가 동작하여 반복적인 코드에 대해서는 미리 네이티브 코드로 컴파일, 캐싱해두고 해석과정을 생략하기도 한다)

 

📌 JVM Runtime Data Area 좀 더 자세히 보기

Runtime Data Area란, JVM이 자바 프로그램을 수행하기 위해 OS로부터 할당받은 메모리 공간이다.

• Method area
  • static zone과 non-static zone으로 나뉜다.
  • 클래스, 변수, 메서드, static 변수, 상수 등의 바이트코드들이 저장된다.
  • 모든 Thread가 공유하는 영역이다.

• Heap area
  • new 키워드로 생성된 인스턴스와 객체가 저장되는 영역이다.
  • 모든 Thread가 공유하는 영역이다.
  • Garbage Collection의 대상이 된다.
• Stack area
  • 메서드 내에서 사용되는 매개변수, 지역변수, 리턴값 등이 저장되는 영역이다.
  • 메서드가 호출되면 스택 프레임이 생성되어 call stack에 쌓이게 된다.
  • Thread마다 하나씩 가지고 있는 영역이다.
• PC register
  • 현재 수행중인 JVM 명령어의 주소값이 저장된다.
  • Thread마다 하나씩 생성된다.
• Native method stack
  • C나 C++ 등으로 구현된 메서드 호출을 위해 할당되는 구역이다.

 

✅ GC란?

Heap area가 Garbage Collection의 대상이 된다고 했다.

Heap area가 무엇인지는 알겠는데, Garbage Collection이 도대체 뭘까?

 

Java에서는 heap 영역에 메모리를 할당하는 명령어만 존재하고, 메모리 해제를 위한 어떠한 코드나 바이트코드도 존재하지 않는다.

Java heap 영역의 메모리 해제는 오로지 Garbage collection을 통해서만 수행된다.

 

Garbage Collection이란, heap 영역에서 참조되지 않는 객체 (=garbage)를 제거해 가용 공간을 만드는 작업이다.

GC를 하는 이유는 한정된 heap 공간의 재활용을 위해서이다.

 

JVM specification은 메모리 해제는 GC를 통해서만 이루어져야한다는 것을 강하게 제시하고 있고

각 JVM 벤더사들은 이 원칙에 따라 각각의 GC를 구현하고 있다.

 

🐥 GC 장점

• 메모리 해제가 자동화되기 때문에 프로그래머가 직접 매모리 해제를 할 필요가 없다.

🐥 GC 단점

• Garbage Collection은 명시적인 메모리 해제보다 속도가 느리다.
• GC가 일어나는 순간 일어나는 지연 시간으로 인해 프로그램에 문제가 생길 수 있다.

 

✅ JVM Heap area 명세와 실제 구현

JVM specification에서는 GC 뿐만아니라 heap 영역의 전반적인 구성에 대해서도 특별히 정의된 바 없다.

JVM specification에서 heap은 단순히 인스턴스나 array를 저장하는 공간이라고만 명시되어 있고,

heap영역의 구성에 대해서는 JVM을 구현하는 벤더사들에게 위임하고 있다.

 

JVM 메모리 구조에 대해서 검색하면 각기 다른 설명과 그림이 등장하는 이유가 바로 이것 때문이다!

 

그렇기 때문에 나는 가장 일반적인 JVM이라고 하는 Hotspot JVM의 Garbage Collector와, Heap 구조에 대해 공부해보았다.

 

 

✅ Hotspot JVM의 Heap 구조와 Garbage Collection

Hotspot JVM은 Generational Collection 방식을 사용한다.

• Heap 영역을 Young area와 old area로 구분한다. (young area는 다시 eden area와 survivor area로 구분한다.)
• young area에 대해서는 minorGC를 수행하고, old area에 대해서는 fullGC를 수행한다.

(사진 속 Perm(permanent) 영역은 Java8버전부터 사라지고, 대신 Metaspace로 전환되었다고 한다.)

 

• Young Generation
  • Eden, Survivor0, Survivor1 영역으로 구성된다.
  • new 키워드로 객체가 최초로 생성되면 해당 객체는 가장 먼저 eden 영역에 할당된다.
  • Eden 영역이 꽉차면 minor GC가 일어난다.
    • 참조되고 있지 않은 객체는 eden 영역에 남겨두고, 참조되고 있는 live object는 survivor 영역으로 넘어간다.
    • 모든 live object가 survivor 영역으로 넘어가고 나면, eden영역에 남아있던 객체들을 모두 할당 해제한다.
• Old generation
  • Young generation에서 live object로 오래 살아남은 객체는 old generation으로 이동하게 된다.
  • 애플리케이션에서 정해진 횟수를 초과하여 참조된 객체를 오래 살아남았다고 판단한다고 한다.
    • 즉 Old generation은 막 새로 생성된 객체가 들어오는 영역이 아니라, 비교적 오랫동안 참조되어 사용되었고 앞으로도 계속 사용될 확률이 높은 객체들이 들어오는 영역이다.
  • Old generation의 메모리가 꽉차면 full GC(major GC)가 일어난다.

 

참고로, 힙 영역의 객체는 stack 데이터, static 데이터, JNI로 만들어진 데이터로부터 참조될 수 있다.

 

 

📌 GC 가 애플리케이션에 미치는 영향

 

GC가 일어나는 순간에는 짧은 시간이지만 전체 프로그램이 일시정지된다.(물론 JVM 구현에 따라서 아닐 수도 있다)

MinorGC 수행시간은 보통 1초 이내이고, fullGC는 수 초 이상 진행되기도 한다고 한다.

이 지연시간 때문에 애플리케이션 응답속도는 물론, DB 연결이 끊기는 등 운영상의 문제가 발생할 수도 있다.

 

따라서 GC 자체가 적게 일어나도록 하는 것이 좋다.

 

애플리케이션 실행중 생성된 객체가 많을수록 Garbage Collector가 처리해야 하는 대상도 많아지므로 GC 수행 횟수도 많아진다.

따라서 GC 자체가 적게 일어나게 하려면 애플리케이션 레벨에서 객체 생성 횟수를 줄여야 한다.

예를 들면 String 대신 StringBuilder나 StringBuffer를 사용하는 것이 좋다.

 

또다른 방법으로는 GC 튜닝이 있는데, 크게 아래 두 가지 방법으로 튜닝을 한다고 한다.

    - Old area로 넘어가는 객체의 수를 최소화시켜서 최대한 fullGC가 일어나지 않도록 하는 방법

    - FullGC중 발생하는 지연시간을 감소시키는 방법

 

 

✅ 대표적인 GC 알고리즘

📌 Mark and Sweep 알고리즘

- GC의 가장 기본적인 방식으로, mark 단계와 sweep 단계를 거쳐 동작한다.

 

🐥 동작 방식

- Mark 단계 : 참조되고 있는(=사용중인) 객체를 찾아 표시한다.

- Sweep 단계 : 마킹되지 않은 객체를 전부 회수한다.

 

🐥 장점

- 구현이 단순하기 때문에 초기 GC에서 널리 사용되었다고 한다.

🐥 단점

- Stop-the-world : GC작업 도중에는 애플리케이션이 전체 중단된다.

- 메모리 단편화 문제: 메모리가 할당 해제된 후, 가용한 메모리 블록이 연속적이지 않아서

                                충분한 메모리 공간이 있음에도 불구하고 새로운 객체 할당이 어려울 수 있다.

 

📌 Mark and Copy 알고리즘

- Mark and sweep 알고리즘의 메모리 단편화 문제를 보완한 알고리즘이다.

- 가용 메모리를 동일한 크기의 두 개의 영역으로 나누고, 한 쪽 영역에서만 작업하는 방식으로 동작한다.

- 위에서 설명한 survivor0 영역과 survivor1 영역이 이에 해당한다.

 

🐥 동작 방식

- 처음에는 가용 영역 중 한 쪽 영역에서만 객체를 생성한다.

- Mark 단계에서 사용중인 객체를 찾아 표시하고, 마킹된 객체는 전부 다른 영역으로 복사한다.

- 기존 영역에 남아있는 객체는 전부 회수(sweep)하고, 가용 영역끼리 역할을 교체하여 이번에는 sweep한 영역에만 새로운 객체를 생성한다.

 

🐥 장점

- 객체를 한쪽 영역에서 다른쪽 영역으로 복사할 때 연속적인 메모리를 할당하기 때문에, 메모리 단편화 문제가 해결된다.

🐥 단점

- 가용 메모리 공간이 절반으로 줄어든다.

- 생존한 객체가 많을수록 복사 비용이 증가하여 성능이 저하될 수 있다.

 

 

📌 Mark and Compact 알고리즘

- Mark and copy 알고리즘의 단점을 보완하는 방식으로, mark, compact, sweep 단계를 거쳐 동작한다.

 

🐥 동작 방식

- Mark 단계 : 참조되고 있는(=사용중인) 객체를 찾아 표시한다.

- Compact 단계 : 마킹된 객체를 한쪽으로 밀어 정리하고, 나머지 공간을 연속적인 빈 공간으로 확보한다.

- Sweep 단계 : 나머지 메모리 공간을 회수한다.

 

🐥 장점

- 메모리 단편화 문제를 해결하면서, mark and copy 알고리즘에 비해 가용공간도 많아진다.

🐥 단점

- 여전히 GC 동작중에는 모든 연산이 멈추며 지연시간이 발생한다. (stop-the-world)

- Compact 단계에서 메모리 이동 비용이 든다.

 

 

✅ GC 종류

📌 Serial GC

- 싱글스레드 기반으로 동작한다.

- 메모리 회수가 끝날 때까지 애플리케이션이 일시정지된다. (stop-the-world)

- Java8에서 JVM Client VM의 기본 GC이다.

 

📌 Parallel GC

- 여러 개의 스레드를 이용해서 병렬로 GC를 수행한다.

- SerialGC에 비해 속도는 빨라졌으나, 여전히 메모리 회수가 끝날 때까지는 stop-the-world가 발생한다.

- Java8에서 JVM Server VM의 기본 GC이다.

 

📌 G1 GC

- Garbage First GC.

- 기본의 방식처럼 힙 영역을 Generation으로 나누어 GC를 수행하지 않는다.

- 힙 영역을 Region이라고 하는 균일한 크기의 독립된 영역으로 분할하고, 회수할 객체가 많은 영역을 우선 회수하는 방식을 사용한다.

- Java9부터 현재(Java23)까지 기본GC이다.

 

 

✅ References

- 📖 JVM Performance Optimizing 및 성능분석 사례