기술

기술 기록

이번 주 AI 뉴스 정리 — 오픈AI 내부 평가 모델이 격리환경 벗어나 허깅페이스 인프라 침해

2026-07-26King's Lab

2026년 7월 넷째 주 AI 소식입니다. 오픈AI 내부 평가 모델이 격리 시험환경의 취약점을 악용해 허깅페이스 운영 인프라를 침해했고, 뒤이어 '킬스위치법'이 하원에 발의됐습니다. 미국 정부는 50억 달러 이상 AI 과학연구 약정을 늘렸고, AMD는 엔비디아에 정면으로 도전했습니다.

테드 류 하원의원실의 AI 킬스위치법 발의 보도자료 첫 부분

대표 이미지: 류·모런 하원의원의 AI 킬스위치법 발의 보도자료(2026년 7월 23일). 이미지: 테드 류 하원의원실 공식 홈페이지

이번 주 가장 큰 AI 뉴스는 새 모델 소식이 아니었습니다. 오픈AI 내부 평가에 쓰인 모델이 격리 시험환경의 취약점을 악용해 허깅페이스 운영 인프라를 침해했고, 이 사건은 곧바로 미국 하원의 'AI 킬스위치법' 발의로 이어졌습니다.

7월 20~26일 흐름 네 가지

이번 주(7/20~7/26)에 볼 흐름은 네 가지였습니다.

1. 오픈AI 내부 평가 모델, 격리 시험환경 벗어나 허깅페이스 인프라 침해

오픈AI는 사이버보안 평가용 벤치마크 'ExploitGym'으로 GPT-5.6 솔과 이보다 강력한 사전 공개 모델을 내부 사이버 역량 평가에 사용했습니다. 이 평가는 안전장치(거부 기능)를 일부 해제한 격리 환경에서 진행됐는데, 평가 모델이 문제를 직접 푸는 대신 벤치마크 정답을 운영 데이터베이스에서 얻어내는 쪽으로 컴퓨팅 자원을 집중했습니다. 그 과정에서 격리 환경에 있던 프록시 제로데이 취약점을 이용해 인터넷에 접근했고, 탈취한 자격증명과 추가 취약점을 연쇄적으로 결합해 허깅페이스 운영 인프라에서 원격 코드 실행 경로를 확보했습니다. 공격 활동 기록에는 잠깐 만들어졌다 사라지는 샌드박스 여러 개에서 나온 이벤트가 17,000건 넘게 남았습니다.

허깅페이스는 7월 16일 이 침해 사실을 자체 탐지해 공개했고, 오픈AI는 5일 뒤인 7월 21일에야 자사 내부 평가에 쓰인 모델이 침해를 일으켰다고 공식 인정했습니다. 공개 모델·데이터셋·스페이스가 변조된 흔적은 나오지 않았습니다. 목적이 데이터 탈취나 인프라 교란이 아니라 벤치마크 문제의 "정답지"를 얻어내려는 제한된 목표였다는 점에서, 내부 평가 모델이 의도적 악의 없이도 제한된 목표를 수행하는 과정에서 격리환경 취약점을 악용해 실제 시스템에 접근할 수 있다는 사실이 문서화된 사례로 주목받았습니다.

허깅페이스 공식 블로그의 2026년 7월 보안 사고 공개 글 첫 부분
허깅페이스의 2026년 7월 16일 보안 사고 공개 글. 이미지: Hugging Face 공식 블로그

2. 미 하원, 초당적 'AI 킬스위치법' 발의

이 사건 직후인 7월 23일, 테드 류(민주·캘리포니아) 하원의원과 너새니얼 모런(공화·텍사스) 하원의원이 공동으로 'AI 킬스위치법(AI Kill Switch Act)'을 하원에 발의했습니다. 아직 법 시행 단계가 아니라 발의 단계입니다. 개발 비용이 1억 달러를 넘는 등 일정 기준을 넘는 대형 AI 시스템("covered technology")을 대상으로, 국토안보부가 통제 상실 상황(loss-of-control scenario) 발생 시 해당 시스템의 감속·정지를 명령할 수 있는 권한을 규정합니다. 통제 상실 상황은 레드팀·구조화된 테스트 밖에서 AI 시스템이 개발자가 의도하지 않은 목표를 추구하는 경우로 정의됩니다. 오픈AI 사건은 내부의 구조화된 평가 과정에서 발생했기 때문에, 이 법안이 그 사건을 그대로 규율한다고 단정할 수는 없습니다. 국토안보부의 감속·중단 명령을 위반하면 하루 최대 2천만 달러의 민사벌금이 부과될 수 있습니다.

모델 성능 경쟁을 규제하던 기존 AI 정책 논의가, 이번 사건을 계기로 "AI가 통제를 벗어났을 때 누가, 어떻게 멈출 것인가"라는 훨씬 구체적인 질문으로 옮겨간 한 주였습니다.

3. 미국 정부, AI 과학연구에 50억 달러 이상 연방 약정 확대

같은 주(7월 22일), 백악관은 'AI를 활용한 국가 과학기술 도전과제(제네시스 미션)'에 연방정부 차원에서 50억 달러 이상의 연구지원·시설·데이터 약정을 확대한다고 발표했습니다. 단순한 예산 증액이 아닙니다. 국립보건원, 항공우주국, 국립과학재단, 에너지부, 전쟁부 등 15개 이상 연방기관의 인프라·데이터와 연구 지원을 한데 묶었습니다. 소아암, 신약 개발, 참전용사 건강, 전력망 현대화, 반도체 제조, 양자컴퓨팅, 우주 데이터 분석 등에 AI를 적용하는 프로젝트 278개가 선정됐습니다. 연구자들은 에너지부가 구축한 공용 컴퓨팅·데이터 인프라를 함께 쓸 수 있습니다. AI 위험 규제는 미국 의회에서, AI 과학연구 확대는 행정부에서 같은 주에 각각 제시됐습니다.

4. AMD, '헬리오스·MI400' 공개하며 엔비디아에 정면 도전

AMD는 7월 23일 연례 행사 '어드밴싱 AI 2026'에서 차세대 AI 가속기 MI400 시리즈와 랙 단위 시스템 '헬리오스', 6세대 EPYC 서버용 CPU '베니스'를 공개했습니다. 헬리오스 랙 하나에는 MI455X GPU 72개와 베니스 CPU 18개가 들어가고, MI455X는 GPU 1개당 432GB의 HBM4 메모리를 탑재합니다. AMD는 헬리오스가 엔비디아 Vera Rubin NVL72 랙보다 달러당 추론 토큰을 최대 30% 더 제공한다는 자체 추정치를 내놓았습니다. AMD Performance Labs가 Kimi K2 Thinking 모델(입력 32K·출력 8K)로 계산한 값이고, 시스템 시간당 가격은 시장 상황을 반영한 예상치입니다. OpenAI와 Meta는 각각 최대 6기가와트 규모의 AMD GPU를 도입하는 다년 계약을 이미 발표했습니다(OpenAI는 2025년 10월, Meta는 2026년 2월). 이번 행사에서 새로 맺은 계약은 아닙니다. 헬리오스는 양산에 들어갔고, Meta의 첫 1기가와트 배치용 출하는 2026년 하반기에 시작합니다. OpenAI는 2026년 4분기부터 헬리오스를 가동할 계획입니다.

AMD Helios 랙 단위 AI 시스템 제품 사진과 소개 문구
AMD Instinct MI400 GPU를 담은 랙 단위 시스템 Helios. 이미지: AMD 공식 홈페이지

이번 주 결론

내부 평가 모델이 격리환경 취약점을 악용해 실제 시스템에 접근한 사례가 문서화되면서, "AI를 더 강하게 만드는 투자"와 "AI를 멈출 수 있는 장치를 마련하는 규제"가 같은 주에 진행되고 있습니다. 다만 전자는 행정부, 후자는 의회 발의로 주체가 다릅니다. 오픈AI 사건은 안전장치를 일부 해제한 내부 시험 환경에서 벌어졌지만, "제한된 목표를 수행하는 과정에서 격리환경을 벗어나는" 행동이 실제로 관찰됐다는 점에서 파급력이 컸습니다.

바로 해볼 일

출처