[소스 분석] Java4Shell — 65바이트 Base64가 JVM 힙을 넘어설 때
OpenJDK HotSpot의 AVX-512 VBMI Base64 디코더가 패딩 꼬리에서 마스크를 언더플로시켜 50바이트 버퍼 밖으로 62바이트를 쓴다. Calif는 이 고정 바이트 기록을 배열 길이 필드 오염으로 바꿔 힙 유출(JavaBleed)과 RCE까지 갔고, 수정은 stubGenerator에 조건 분기 4줄이었다.
2026년 11월 17일 21:00 UTC(태평양시 13:00), Oracle은 11월 위기 보안 패치 업데이트(CSPU)를 내면서 자바 표준판의 취약점 11건을 고쳤다. 그중 CVE-2026-114938이 Java4Shell이다. OpenJDK 쪽 점수는 CVSS 3.1 기준 8.1(AV:N/AC:H/PR:N/UI:N/S:U/C:H/I:H/A:H), 발견한 Calif의 점수는 CVSS 4.0 기준 9.2 Critical이다. 같은 결함에 두 체계가 붙인 이름이 갈리는 이유는 단순하다. 3.1 점수표는 공격 복잡도 AC:H를 달았고, 4.0 점수표는 그 복잡도가 자동화로 무너진 상태를 반영한다. Oracle의 CVE 레코드 본문에는 "Difficult to exploit"이라는 문장이 그대로 남아 있다.
자바에서 메모리 손상 취약점이 나왔다는 사실 자체가 이 사건의 절반이다. 자바의 판매 포인트는 메모리 안전이고, 개발자는 경계 검사를 신뢰하고 코드를 쓴다. 그런데 JVM 안쪽에는 C++와 어셈블리로 쓰인 코드가 있고, JIT 컴파일러가 실행 중에 만들어 내는 intrinsic 스텁도 그중 하나다. 이번 결함은 그 스텁, 그것도 java.util.Base64의 디코더를 가속하는 AVX-512 VBMI 경로에서 나왔다. 자바 애플리케이션이 "메모리 안전한 언어로 짰다"고 말할 수 있는 범위는, 자바가 넘겨준 바이트 배열의 경계 안쪽까지다. 그 경계를 스텁이 스스로 넘었다.
파급력은 대상의 성격에서 나온다. Base64는 로그인 전에 지나가는 자리에도 있다. HTTP Basic 인증 헤더, JWT, SAML 아티팩트, CSRF 토큰, 파일 업로드 본문이 모두 표준 디코더를 탄다. Calif는 기본 설정 상태의 Keycloak, Atlassian Jira·Confluence, JFrog Artifactory, Jenkins, PingFederate에서 인증 없이 코드 실행을 시연했다. 이 여섯 개는 조직이 "무엇을 신뢰할지" 판단하는 기준점이다. 신원 제공자(IdP)와 빌드 서버, 아티팩트 저장소를 먼저 고치라고들 말하는 이유가 여기에 있다.
국내 통계는 이 결함이 남의 이야기가 아니라는 걸 보여준다. 행정안전부의 '2026년도 범정부EA기반 공공부문 정보자원 현황 통계보고서'(2025년 말 기준)에 따르면 공공 정보시스템 1만5,618개 중 1만1,132개(71.28%)가 자바를 개발언어로 쓴다. 중앙행정기관만 보면 1,642개로 89.05%다. 같은 통계에서 PHP는 1,027개(6.58%)다. 자바 기반이라는 사실이 곧 취약하다는 뜻은 아니지만, 점검 대상 목록이 그 규모로 잡힌다는 뜻은 된다. 11월 17일 국가안보실은 민·관·군 긴급 대책회의를 열었고(18일 발표), 과기정통부와 KISA는 18일 긴급 점검과 보안 업데이트를 권고하면서 보호나라에 Oracle 제품 보안 공지를 올렸다.
발견 경위도 이 사건의 일부다. Calif의 Quang Luong은 OpenJDK HotSpot을 감사하면서 JIT 컴파일러, intrinsic, 널리 쓰이는 API, 암호 구현에 초점을 맞췄다. 초기 결과 대부분은 도달 불가능하거나 익스플로잇 조건이 비현실적인, 이른바 슬롭(slop)이었다. 코딩 에이전트 Codex를 계속 밀어붙인 끝에 Base64 디코더의 메모리 손상 후보가 나왔고, 결함 발견까지 1시간, 첫 동작 익스플로잇까지 2시간이 걸렸다. 토큰 비용은 200달러 미만이었다. Calif가 10월에 공개한 PHP2Shell에 이은 두 번째 "켄타우로스" 사례다.
확인된 실제 악용은 아직 없다. 이 문장은 정확히 쓰는 게 중요하다. CISA는 17일 즉시 패치를 권고하는 경보를 냈지만 이 CVE를 KEV 카탈로그에 올리지 않았고, 11월 19일 06시 기준 KEV 최신본(카탈로그 버전 2026.11.18, 1,786건)에도 없다. 캐나다 사이버센터, 안랩 ASEC, Check Point, Black Duck 모두 11월 18일까지 실제 침해 사례를 확인하지 못했다고 밝혔다. 대신 트래픽은 이미 돌고 있다. GreyNoise는 17일 이후 Java4Shell 형태의 요청 53건을 IP 3개에서 관측했고 모두 악성으로 분류했으며 성공한 침해는 0건이라고 밝혔다(11월 18일 12:48 UTC 갱신). watchTowr는 허니팟에 java4shell-recon이라는 User-Agent를 단 요청과 형태를 흉내 낸 맹목적 시도가 들어오고 있다고 전했다. 즉 지금은 정찰 단계이고, 제품별 체인이 공개되는 순간이 변곡점이다.
1. 디코더의 계약: "dst는 충분히 크다고 가정한다"
java.util.Base64.Decoder의 빠른 경로는 decodeBlock()이다. 시그니처에 @IntrinsicCandidate가 붙어 있고, 아키텍처별 스텁이 이 자바 메서드를 통째로 대체한다. 메서드 주석은 이 대체가 지켜야 할 계약을 문장으로 적어 두었다.
* Note that the '=' pad character is treated as an illegal Base64 character by
* decodeBlock, so it will not process a block of 4 bytes containing pad characters.
...
* Given the parameters, no length check is possible on dst, so dst
* is assumed to be large enough to store the decoded bytes.두 문장이 이번 사건의 전제다. 첫째, 패딩 문자 =는 스텁에게 불법 문자다. 스텁은 =가 섞인 4바이트 블록을 처리하지 않고, 남은 꼬리는 자바 코드가 처리한다. 둘째, dst의 크기는 검사하지 않는다. 호출자(decode0)가 미리 계산한 길이만큼 배열을 잡아 넘기고, 스텁은 그 약속을 신뢰한다.
그 약속을 만드는 계산은 decodedOutLength()에 있다. 65바이트 입력이면 3 × ceil(65/4) − 1 = 50이다. 배열은 딱 50바이트로 잡힌다. 공개 API decode(byte[])도 decode(ByteBuffer)도 이 함수로 new byte[...]를 만든 뒤 decode0()을 부른다. 그리고 클래스 문서에는 이런 문장도 있다.
* If the input byte array is not in valid Base64 encoding scheme
* then some bytes may have been written to the output byte array before
* IllegalargumentException is thrown."예외가 던져지기 전에 일부 바이트가 이미 기록됐을 수 있다"는 문장은 원래 스펙의 느슨함을 인정하는 표현이었다. Java4Shell에서는 이 문장이 그대로 익스플로잇의 성질이 된다. 손상이 먼저, 거부가 나중이다.
2. 루트 코즈: bzhiq(-1, -1)이 전비트 1 마스크가 되는 자리
결함은 src/hotspot/cpu/x86/stubGenerator_x86_64.cpp의 StubGenerator::generate_base64_decodeBlock()에 있다. 이 스텁은 입력을 256바이트 블록으로, 남으면 64바이트 블록으로 처리하고, 마지막 1~63바이트는 L_finalBit 레이블에서 따로 다룬다. 빠른 경로는 AVX-512 VBMI 명령을 쓴다. 64바이트를 한 번에 번역하는 evpermt2b, 24비트 묶음을 재배열하는 vpermb, 그리고 마스크가 켜진 바이트만 메모리에 쓰는 evmovdqub(VMOVDQU8)다.
문제는 마지막 조각의 마스크를 만드는 산수에 있다. Calif가 공개한 의사코드는 다음과 같다.
input_mask := bzhiq(-1, input_length)
output_len := (input_length / 4) * 3
if input[input_length - 1] == '=':
output_len -= 1
input_mask >>= 1
if input[input_length - 2] == '=':
output_len -= 1
input_mask >>= 1
output_mask := bzhiq(-1, output_len)bzhiq는 "지정한 비트 위치부터 위쪽 비트를 0으로" 만드는 명령이다. 인텔 정의에서 인덱스가 오퍼랜드 크기(64) 이상이면 아무 비트도 지우지 않는다. 즉 bzhiq(-1, x)는 x >= 64일 때 -1, 곧 64비트 전부 1을 돌려준다.
여기서 패딩 처리가 문제를 만든다. 남은 꼬리가 =, ==, X=, X==, XY= 형태면 (input_length/4)*3은 0이다. 거기서 패딩 개수만큼 1씩 빼면 output_len이 0이 아니라 −1이나 −2로 내려간다. 부호 없는 64비트로 보면 0xFFFFFFFFFFFFFFFF이고, bzhiq는 그 값을 그대로 통과시킨다. 마스크가 전비트 1이 된다는 뜻은, evmovdqub가 "마스크가 켜진 바이트만" 쓰는 대신 64바이트 전부를 쓴다는 뜻이다.
실제 핫스팟 코드는 이 순서를 그대로 따른다. 패딩을 세는 부분과 저장하는 부분만 옮기면 이렇게 된다.
__ BIND(L_finalBit);
// Now have 1 to 63 bytes left to decode
__ movq(rax, -1);
__ bzhiq(rax, rax, length); // input mask
__ movl(output_size, length);
__ shrl(output_size, 2); // (len / 4)
__ lea(output_size, Address(output_size, output_size, Address::times_2, 0)); // * 3
// Strip pad characters, if any, and adjust length and mask
__ addq(length, start_offset);
__ cmpb(Address(source, length, Address::times_1, -1), '=');
__ jcc(Assembler::equal, L_padding);
...
__ decrementq(output_size, 1); // L_padding: 패딩 1개
__ shrq(rax, 1);
...
__ kmovql(input_mask, rax);
__ movq(output_mask, -1);
__ bzhiq(output_mask, output_mask, output_size); // 여기서 언더플로가 마스크로 바뀐다
...
__ evmovdqub(Address(dest, dp), k1, tmp, true, Assembler::AVX_512bit);한 가지 더 짚을 게 있다. 패딩을 뺄 때 input_mask도 오른쪽으로 밀린다. 65바이트 입력에서 남은 꼬리는 = 하나이고, input_mask는 0b1에서 0b0이 된다. 그래서 =는 로드 자체에서 빠진다. 원래 스텁은 불법 문자를 만나면 evptestmb로 오류를 잡아 L_bruteForce로 빠져나가는데, 마스크에서 빠진 문자가 검사 대상에 들어가지 않으니 오류 검출도 일어나지 않는다. 저장으로 가는 길이 열린 채 남는다.
숫자로 정리하면 이렇다.
| 단계 | 값 |
|---|---|
| 입력 | 65바이트 ('A'×64 + '=') |
| 64바이트 블록 처리 후 남은 꼬리 | 1바이트 |
decodedOutLength가 잡는 버퍼 | 3 × 17 − 1 = 50바이트 |
꼬리의 output_size | (1/4)×3 = 0 → 패딩 −1 → −1 |
bzhiq(-1, −1) | 0xFFFFFFFFFFFFFFFF (64비트 전부 1) |
저장 시작 오프셋 dp | 48 (앞선 블록이 48바이트를 썼다) |
| 실제 기록 구간 | 48~111 (64바이트) |
| 버퍼 경계 | 0~49 |
| 경계 밖으로 나간 양 | 62바이트 |
끝에 =가 두 개 붙으면('A'×64 + '==', 66바이트) 버퍼는 49바이트, 기록은 같은 48부터라 경계 밖으로 나가는 양이 63바이트가 된다. Check Point가 "패딩에 따라 62 또는 63바이트"라고 적은 이유다. JDK 17에서 트리거가 'A'×128 + '='인 것은 그 계열에서 64바이트 블록 경로에 닿는 문턱이 더 높기 때문이고, 원리는 같다.
여기서 익스플로잇의 성질이 결정된다. 공격자가 정하는 것은 기록 위치뿐이다. 값은 고정이다. Calif의 표현을 빌리면 스필 64바이트 중 0번 바이트는 완전 제어, 1번 바이트는 4비트 제어, 2~63번은 비제어이며 48~63번은 항상 0x9a다. 메모리를 원하는 값으로 덮는 원시 함수가 아니라, 정해진 64바이트를 정해진 위치에 붙이는 함수다.
그리고 이 스필은 자바 쪽에서 "정상적인 거부"로 보인다. output_size가 −1이므로 스텁 끝의 __ addptr(dest, output_size)가 목적지 포인터를 1 줄이고, 함수는 48이 아니라 47을 반환한다. 호출자 decode0은 그 반환값으로 처리한 문자 수를 역산한다.
int dl = decodeBlock(src, sp, sl, dst, dp, isURL, isMIME);
int chars_decoded = ((dl + 2) / 3) * 4; // ((47 + 2) / 3) * 4 = 64
sp += chars_decoded;
dp += dl;64문자를 처리한 것으로 계산되니 남은 것은 = 하나다. 다음 루프에서 base64['=']는 −2로 복호되고, shiftto == 18 조건에 걸려 IllegalArgumentException("Input byte array has wrong 4-byte ending unit")이 던져진다. WAF 로그와 애플리케이션 로그에는 "잘못된 Base64 입력을 거부했다"만 남는다. 힙에는 이미 62바이트가 밖으로 나가 있고, 48번째 출력 바이트는 조용히 사라졌다.
Calif가 공개한 PoC는 이 동작을 안전하게 재현한다. 4096바이트 배열을 목적지로 주고 20만 번 정상 디코딩으로 C2를 깨운 뒤, 변형 입력을 넣고 50~111번 오프셋이 바뀌었는지 센다.
byte[] target = new byte[4096];
for (int i = 0; i < 200_000; i++) sink += decoder.decode(valid, target);
Arrays.fill(target, (byte) 0x5a);
boolean rejected = false;
try { decoder.decode(malformed, target); }
catch (IllegalArgumentException expected) { rejected = true; }
// 기대: rejected=true, changed=62, first=50, last=111 → "REPRODUCED"3. 익스플로잇: 고정 64바이트를 읽기·쓰기 프리미티브로 바꾸는 힙 Feng Shui
Calif의 체인은 자바스크립트 엔진 익스플로잇에서 오래 써 온 기법 하나에서 출발한다. 배열 길이 필드 덮어쓰기다. 길이 필드는 배열 데이터 바로 앞에 있고, 스필의 고정 패턴이 그 4바이트에 걸치도록 힙을 정렬하면 배열의 길이가 커진다. 길이가 부풀려진 배열을 writer라고 부르자. writer는 자기 크기를 넘는 인덱스에도 값을 받아들이고, 그 뒤에 다른 배열을 붙여 두면 그 이웃을 공격자가 고른 값으로 덮을 수 있다. 고정값 기록 하나가 "경계가 넓어진 선형 쓰기"로 승격되는 순간이다.
같은 방법을 읽기에 쓰면 reader가 된다. 이웃 배열의 길이를 키우고, 그 배열의 내용이 애플리케이션 응답에 실려 나오게 만들면 힙 메모리가 밖으로 샌다. Calif는 코드 실행에 도달하기 전 이 단계에 JavaBleed라는 이름을 붙였다. Heartbleed가 TLS 하트비트로 그랬던 것처럼, 자바 힙에는 개인키, 세션 토큰, 다른 서비스의 자격증명, 개인정보가 살아 있는 객체로 남아 있다. RCE가 필요 없는 유출 경로가 이 결함에 내장돼 있다는 뜻이다.
문제는 정렬이다. G1 GC는 힙을 고정 크기 리전으로 나누고, 각 스레드는 TLAB라는 사설 할당 구역을 받는다. 요청 스레드마다 커서가 다르니, 디코더의 출력 배열과 공격자가 심은 배열이 같은 순서로 붙으리라는 보장이 없다. Calif는 이걸 두 층으로 나눠 풀었다.
첫째, 할당 경로를 통제한다. 배열 크기와 TLAB에 남은 공간에 따라 HotSpot이 TLAB을 새로 받을지, TLAB 밖 경로로 갈지가 갈린다. 공격자는 자기 배열이 원하는 쪽으로 가도록 크기를 맞춘다. 둘째, 배치는 확률로 푼다. writer/reader 쌍을 여러 개 심어 두고, 디코더 출력의 이웃이 될 후보를 여러 개 만든 뒤 맞으면 진행하고 틀리면 버린다. 정렬이 어긋나면 JVM이 죽지만, 그 경우 재시도하면 된다.
원격에서 이걸 하려면 요청 전송 자체를 타이밍 축으로 써야 한다. Calif는 요청 본문을 나눠 보내고, 앞부분이 TCP로 확인응답된 시점을 기준으로 힙 할당 시점을 통제했다. 작은 패킷이 큰 패킷보다 안정적이라는 이유로 전송 단위를 잘게 쪼갰고, RTT와 지터에 민감한 공격이라 대상과 같은 리전에 VM을 하나 임대해 네트워크 조건을 물리적으로 고정했다. 실험실이 아니라 공인 IP를 통한 실제 경로에서 얻은 결과다.
전체 흐름은 여섯 단계로 정리된다.
| 단계 | 하는 일 |
|---|---|
| WARM | 정상 Base64를 반복 디코딩해 JIT가 영향받는 빠른 경로를 고르게 한다. 손상 없음 |
| REHEARSE | 선택. 타이밍과 응답 형태를 대상에 맞춰 보정하는 안전한 예행 |
| TRIGGER | 변형된 꼬리를 보낸다. 객체가 정렬돼 있으면 고정 스필이 writer의 길이를 키운다 |
| DISCLOSE | writer를 계속 밀어 reader를 키우고, 응답에 실려 오는 힙 바이트를 모은다 |
| REPAIR | 노출된 원본 값으로 임시 헤더와 이웃 객체를 복구해 JVM을 살려 둔다 |
| FINISH | 대상별 동작(관리자 생성, 토큰 위조 등)을 실제 요청으로 검증한다 |
Calif가 기본 설정에서 인증 없이 뚫었다고 밝힌 제품은 Keycloak, Jira, Confluence, Artifactory, Jenkins, PingFederate다. 인증 후 단계로는 Kafka Broker, Solr, Elasticsearch, Gerrit, Spinnaker에서 성공했다. 프레임워크 샘플인 Apache Struts와 Spring Boot 애플리케이션에서도 코드 실행이 나왔다. 여기에 samczsun이 건네준 클라이언트 측 체인이 붙는다. 자바 프로그램이 악성 서버에 TLS로 접속하기만 해도 감염될 수 있다는 것으로, 서비스 포트를 열지 않은 클라이언트와 빌드 도구까지 범위가 넓어진다.
한계도 분명하다. 보편 페이로드는 없다. 각 사슬에는 디코더에 닿는 경로, 살아 있는 writer, 응답으로 돌아오는 reader 혹은 다른 피드백, 대상에 맞는 힙 배치, 그리고 애플리케이션에서 실제로 의미 있는 동작이 필요하다. 그래서 Calif는 제품별 무기화 체인을 공개하지 않고 업그레이드가 퍼질 때까지 보류한다고 밝혔다. 요청 스트리밍이 필요한 프로필은 본문을 다 모아서 넘기는 프록시(기본 설정의 nginx)에 막히지만, 이건 일반적 완화가 아니다. Elasticsearch는 완성된 요청 하나로 동작하므로 버퍼링으로 막히지 않고, WebSocket 업그레이드 뒤의 프레임은 터널을 지나므로 본문 버퍼링 자체가 적용되지 않는다. 공격자는 실패해도 대개 다시 시도할 수 있다.
지금 관측되는 트래픽은 아직 이 단계에 못 미친다. GreyNoise가 센 53건은 트리거 형태를 흉내 낸 요청이고, watchTowr의 허니팟에는 java4shell-recon User-Agent가 찍힌다. GitHub에는 검증되지 않은 PoC 저장소가 올라오고 있고, Wiz와 Kevin Breen이 각자 동작하는 익스플로잇을 만들었다고 밝혔지만 공개되지는 않았다. 제품별 체인이 하나라도 풀리면 상황이 바뀐다. 그때 대상이 될 만한 시스템은 이미 정해져 있다. 로그인 전에 Base64를 만지는 인터넷 노출 서비스다.
4. 패치와 방어: 4줄의 분기
수정은 JDK-8393212 "Base64 optimization improvements"다. 커밋 5177a70b385c(2026년 10월 13일, Tobias Hartmann·Albert Mingkun Yang, 리뷰 rhalade 등)는 핫스팟 파일 하나에 4줄을 더한다. 제목에는 보안이라는 단어가 없다.
--- a/src/hotspot/cpu/x86/stubGenerator_x86_64.cpp
+++ b/src/hotspot/cpu/x86/stubGenerator_x86_64.cpp
@@ -3395,6 +3395,10 @@ address StubGenerator::generate_base64_decodeBlock() {
__ BIND(L_finalBit);
// Now have 1 to 63 bytes left to decode
+ // A padded Base64 tail shorter than one complete block is handled by Java.
+ __ cmpl(length, 4);
+ __ jcc(Assembler::less, L_bruteForce);
+
// I was going to let Java take care of the final fragment
// however it will repeatedly call this routine for every 4 bytes
// of input data, so handle the rest here.주석을 빼면 명령 두 개다. 남은 길이가 4보다 작으면 벡터 경로를 포기하고 4바이트씩 처리하는 L_bruteForce로 보낸다. 왜 이걸로 충분한지가 패치를 이해하는 핵심이다.
언더플로가 성립하는 조건은 (length/4)*3 < 패딩 개수다. 패딩은 최대 2이고, 4~7바이트에서 (length/4)*3은 3이므로 최악의 경우 1이 남는다. 0으로 내려갈 수 없다. 1~3바이트는 애초에 4의 배수 단위를 이룰 수 없는 꼬리이므로, 스텁이 처리할 이유가 없는 구간이기도 하다. L_bruteForce로 보내면 스텁은 실제로 복호한 바이트 수만 돌려주고, 남은 문자는 자바가 원래 하던 방식으로 거부한다. 즉 패치는 마스크 계산을 고치는 대신 언더플로에 도달하는 경로를 없앤다. 계산을 불변식으로 지키는 게 아니라, 계산이 성립하는 입력만 통과시키는 쪽을 택한 셈이다.
버전 대응은 Oracle·OpenJDK 공지와 KISA 보호나라 공지를 함께 보는 게 정확하다.
| 제품 | 영향받는 버전 | 해결 버전 |
|---|---|---|
| Oracle Java SE 8 (성능판) | 8u511b33-perf | 8u513-perf (1.8.0_513-perf-b4) |
| Oracle Java SE / OpenJDK 17 | 17.0.6 ~ 17.0.21.0.3 | 17.0.21.1 (17.0.21.1+4) |
| Oracle Java SE / OpenJDK 21 | 21.0.13.0.3 이하 | 21.0.13.1 |
| Oracle Java SE / OpenJDK 25 | 25.0.5.0.3 이하 | 25.0.5.1 |
| Oracle Java SE / OpenJDK 27 | 27.0.1.0.3 이하 | 27.0.1.1 |
| Oracle GraalVM for JDK | 17.0.21.0.3 / 21.0.13.0.3 | 17.0.21.1 / 21.0.13.1 |
| Oracle GraalVM EE | 21.3.20.0.3 | 21.3.20.1 |
표준 자바 8과 자바 11은 이 CVE의 대상이 아니다(8은 성능판만). 17.0.5 이하는 빠진다. 빌드 번호가 .0.3으로 끝나는 것과 .1로 끝나는 것의 차이가 패치 유무라는 점도 기억해 둘 만하다. 배포판은 각자 일정으로 내놓는다. Amazon Corretto 17.0.21.1.2, Microsoft Build of OpenJDK 17.0.21.1·21.0.13.1·25.0.5.1, Eclipse Temurin 17.0.21.1+2·21.0.13.1+2·25.0.5.1+2·27.0.1.1+4, Azul Zulu, Red Hat(RHSB-2026-018), BellSoft Liberica, SAP SapMachine이 각자 공지로 확인해야 하는 대상이다. 업데이트가 없는 18~20, 22~24, 26 계열은 수정판 자체가 없으므로 지원되는 LTS로 옮기는 것이 답이다.
패치가 오늘 불가능할 때 쓰는 것이 JVM 플래그다. 둘 다 재시작이 필요하고, 성능 비용이 있다.
-XX:+UnlockDiagnosticVMOptions -XX:-UseBASE64Intrinsics— 가속 Base64만 끈다. 영향 범위가 가장 좁아 권장된다.-XX:UseAVX=2— AVX-512 자체를 끈다. Base64 외의 경로에도 영향이 가고, ARM64에서는 이 옵션을 인식하지 못해 JVM이 뜨지 않는다. x86-64 전용이다.-XX:DisableIntrinsic=_base64_decodeBlock단독 사용은 피하는 게 좋다. Check Point는 이 조합이 JVM 기동을 막을 수 있다고 경고했다.
플래그가 실제로 걸렸는지는 실행 중인 프로세스에서 확인한다. 패치는 재시작 없이는 반영되지 않으므로, "업데이트했다"와 "지금 도는 JVM이 고쳐졌다"는 다른 문장이다.
# CPU가 대상인지 (네 플래그가 모두 나와야 한다)
grep -m1 '^flags' /proc/cpuinfo | tr ' ' '\n' | grep -E '^(avx512f|avx512bw|avx512vbmi|bmi2)$'
# 런타임 버전과 플래그 확인
jcmd <pid> VM.version
jcmd <pid> VM.flags
java -XX:+PrintFlagsFinal -version | grep UseBASE64Intrinsics자산 목록에서 빠지기 쉬운 곳이 실제 위험 지점이다. Jira와 Confluence의 self-managed 설치본은 자체 JRE를 들고 오므로 OS 패치로는 해결되지 않는다. Elasticsearch도 번들 런타임을 쓰고, 이 경우 /etc/elasticsearch/jvm.options.d/에 별도 파일을 만들어 플래그를 넣어야 한다(루트 jvm.options는 건드리지 않는다). 컨테이너는 태그가 아니라 digest로 고정된 베이스 이미지를 확인해야 하고, 클라우드에서는 워크로드가 재배치되면서 AVX-512 호스트로 옮겨갈 수 있다. CPU 플래그는 우선순위를 정하는 근거로 쓰고, "이 호스트는 아니니까 괜찮다"는 면제 근거로 쓰지 않는 편이 안전하다.
조치 순서는 이렇게 잡는 것이 합리적이다. 1) Keycloak, PingFederate 같은 신원 제공자. 2) Jira, Confluence, Jenkins, Artifactory. 3) 로그인·토큰·업로드를 처리하는 그 밖의 인터넷 노출 서비스. 4) 내부 시스템과 자바 클라이언트. 5) 번들 런타임을 쓰는 상용 제품은 제조사 업데이트를 별도로 추적.
탐지는 공격의 성질을 따라간다. 트리거는 실패해도 손상을 남기므로, 원인 불명의 JVM 크래시가 몰리는 구간, hs_err_pid*.log에 decodeBlock이나 AVX-512 스텁 프레임이 찍힌 크래시, 그리고 짧은 Base64 꼬리를 단 요청이 반복되는 패턴이 신호다. IllegalArgumentException만으로는 판별이 어렵다. 이 결함은 거부 로그를 정상처럼 남기도록 설계된 것과 같다. 게이트웨이 계층의 완화는 보조 수단으로만 쓴다. Cloudflare는 관리 규칙셋에 Java4Shell 룰을 넣고 자사 자바 워크로드 전체에 -XX:-UseBASE64Intrinsics를 약 1시간 만에 배포했다고 밝혔고, Check Point는 IPS 보호를 내놨다. 다만 Cloudflare도 적어 두었듯이 WAF는 아웃바운드 TLS 응답처럼 보이지 않는 경로를 덮지 못한다.
이 결함에서 남는 것은 패치 속도가 아니라 경계에 관한 사실이다. 자바의 메모리 안전은 바이트코드가 지배하는 세계의 규칙이고, JIT가 실행 중에 뽑아내는 어셈블리는 그 규칙 밖에서 C의 위험을 그대로 물려받는다. 50바이트 배열이 안전했던 근거는 검사 코드가 아니라 "스텁이 dst를 충분히 크다고 가정한다"는 산문 한 줄이었다. 그 산문을 코드가 지키지 않았고, 사람이 한 시간 동안 AI를 밀어붙여 그 틈을 찾았다. 패치가 고친 것은 마스크 계산이 아니라 그 문장에 닿는 길이다.
참고: 같은 CSPU에 함께 들어간 자바 SE 패치 10건
CVE-2026-114939(security-libs/org.ietf.jgss, CVSS 3.1 7.4)와 CVE-2026-114940(javax.net.ssl, 7.4)은 8u513·11.0.33.1·17.0.21.1·21.0.13.1·25.0.5.1·27.0.1.1에서 함께 고쳐진다. 정보 노출과 데이터 변조가 함께 걸린 유형이라 자격증명을 다루는 서비스는 이 두 건도 같은 재시작 주기에 묶는 편이 낫다. CVE-2026-114941(hotspot/compiler 7.0)과 CVE-2026-114942(core-libs 7.0)는 각각 21 이상, 17 이상이 대상이고, CVE-2026-114945(core-libs/java.lang 5.3)는 17 이상이다. CVE-2026-114943(hotspot/runtime 6.5), CVE-2026-114944(core-svc/java.lang.management 5.9), CVE-2026-114946(hotspot/compiler 4.8)은 8부터 27까지 전부 해당한다. OpenJFX는 CVE-2026-86144(javafx/web, 7.5)로 libxml2의 XML 외부 엔티티 주입과 SSRF가 잡혔고, 21.0.13.1·25.0.5.1·27.0.1.1이 수정판이다. 이번 CSPU 전체로는 655건이 배포됐다.
이 리포트는 공개된 연구·공지·패치 자료를 근거로 작성되었습니다. 인용된 침해 지표는 해당 벤더와 연구기관의 발표 시점 기준입니다.