기술

기술 기록

Gemma 4 12B — 구글이 무료로 풀었다, 내 PC에서 돌아가는 AI

구글이 2026년 6월 3일 Gemma 4 12B를 Apache 2.0으로 공개했습니다. 계정 없이 받을 수 있고, 4비트판은 16GB 메모리 PC에서 돌아갑니다. 필요한 메모리, Ollama·LM Studio 실행 방법, 로컬 도구별 입력 차이를 정리했습니다.

Gemma 4 12B — 구글이 무료로 풀었다, 내 PC에서 돌아가는 기술 기록 썸네일

핵심 3가지

  1. 라이선스: Apache 2.0입니다. 상업적으로 써도 됩니다.
  2. 입력: 모델 자체는 텍스트·이미지·오디오·비디오를 받고, 답은 텍스트로 냅니다. 비디오는 따로 받는 것이 아니라 화면(프레임)을 차례로 읽는 방식입니다.
  3. 로컬 실행: 구글은 「16GB RAM 노트북에서 돌릴 수 있을 만큼 작다」고 설명합니다.
Hugging Face의 Gemma 4 12B 모델 카드
Gemma 4 12B 모델 카드. 이미지: Hugging Face 공식 홈페이지

어떤 모델인가

정식 이름은 「Gemma 4 12B Unified」입니다. 파라미터는 약 119억 5천만 개(11.95B)입니다. 이미지·오디오용 인코더를 따로 두지 않는 구조라서 「Unified」라는 이름이 붙었습니다. 한 번에 읽을 수 있는 길이(컨텍스트)는 256K 토큰입니다.

Gemma 4는 크기가 5가지입니다.

크기공개일
E2B, E4B, 26B A4B, 31B2026년 3월 31일
12B2026년 6월 3일

12B는 작은 E4B와 큰 26B A4B 사이를 메우는 모델입니다.

내 PC에서 돌아갈까

공식 문서에 적힌 모델 파일 크기(가중치만)는 아래와 같습니다.

형식필요한 메모리
BF16(원본)26.7GB
SFP8(8비트)13.4GB
Q4_0(4비트)6.7GB

이 숫자에는 실행 프로그램과 대화 길이에 드는 메모리가 빠져 있습니다. 실제로는 이보다 더 필요합니다.

정리하면 이렇습니다.

구글은 4비트 학습 보정(QAT)을 거친 공식 파일 google/gemma-4-12B-it-qat-q4_0-gguf를 따로 냈습니다. 공식 문서는 이 파일을 「CPU, Apple Silicon, 일반 GPU에서 바로 쓰는 로컬 배포용」이라고 설명합니다.

Google AI Developers의 Gemma 4 문서 페이지
Gemma 4 문서 페이지. 이미지: Google AI Developers 공식 홈페이지

받는 곳과 실행 도구

로컬 도구마다 받는 입력이 다릅니다. Ollama의 gemma4:12b는 「텍스트, 이미지」 입력으로만 표시됩니다. 오디오를 쓰려면 도구가 오디오를 지원하는지 먼저 보세요.

그 뒤에 나온 Gemma

지금 할 일

  1. 내 PC 메모리를 확인합니다. 16GB면 4비트(QAT)판부터 고릅니다.
  2. Ollama나 LM Studio에서 받아 실행해 봅니다.
  3. 상업 프로젝트라면 Apache 2.0 조건을 확인합니다.

출처

2026-10-17에 내용을 고쳤습니다.

조회 0추천 0댓글 0