Qwen3.8 모델 비교: Max·27B·대형 MoE 선택 기준

Qwen3.8은 서버 운영을 맡기려면 관리형 Qwen3.8-Max·Flash를, 가중치를 직접 받아 돌리려면 오픈 모델을 고른다. 개인 PC나 작은 서버라면 27B가 현실적인 출발점이다. 2.4T-A95B는 원본만 약 4.89TB라 일반 PC용이 아니다.

먼저 정할 것: 누가 서버를 관리하나

모델 크기를 비교하기 전에 운영 방식부터 정한다.

원하는 것	고를 쪽
서버 관리 없이 바로 쓰기	관리형 API(Qwen3.8-Max, qwen3.8-flash)
가중치를 내 서버에 두고 직접 통제	오픈 가중치(27B, 2.4T-A95B, Flash-Next)
개인 PC·작은 서버에서 실험	27B

네 모델 비교

모델	제공 형태	입력	기본 컨텍스트(확장)	원본 크기(BF16)	라이선스
Qwen3.8-Max	관리형 API	텍스트·이미지	1M	-	-
2.4T-A95B	오픈 가중치	텍스트 전용, 생각 모드 필수	262,144(1,010,000)	약 4.89TB	qwen3.8-max
27B	오픈 가중치	텍스트·이미지·영상	262,144(1,000,000)	약 55.6GB	Apache-2.0
Flash-Next	오픈 가중치	텍스트·이미지	262,144(1,000,000)	약 360GB	qwen-community-1.0

원본 크기는 9월 29일 공식 Hugging Face 공개 API의 .safetensors 파일 크기를 합산한 값이고, 라이선스는 저장소 메타데이터 기준이다. 코드와 가중치의 사용·배포 조건은 저장소의 LICENSE에서 확인한다. (2.4T-A95B, 27B, Flash-Next)

Qwen3.8-Max: 관리형 최상위 모델

Alibaba가 8월 공개한 Qwen 계열 최상위 모델이다. 2.4T-A95B를 바탕으로 이미지 입력, 생각 끄기, 기본 100만 토큰 컨텍스트, 내장 도구를 더했다. 긴 문맥을 유지하는 코딩·리서치·업무 작업을 주로 개선했다. (Alibaba 발표)

API 모델 ID는 qwen3.8-max이고, 9월 2일 스냅샷 qwen3.8-max-0902도 있다. 같은 동작을 오래 재현해야 하면 호출에 쓴 모델 ID를 기록한다. 100만 토큰을 쓸 수 있어도 입력이 길수록 비용과 응답 시간이 늘어나니 관련 자료만 넣는다. (최근 모델) 호출 방법은 Qwen API 사용법에 있다.

27B를 직접 돌리려면

• 메모리: 27B 파라미터를 값당 2바이트로 단순 계산하면 54GB이고, 실제 BF16 저장소는 약 55.6GB다. 4비트로 줄이면 가중치만 약 13.5GB이지만, 비전 인코더·런타임·KV cache 메모리가 더 든다. 16GB·24GB GPU라면 컨텍스트를 짧게 잡고, 쓸 양자화 파일의 실제 요구량을 확인한다.
• 긴 컨텍스트: 이 모델은 Gated DeltaNet과 Gated Attention을 섞은 구조라 모든 층이 같은 방식으로 KV cache를 쌓지 않는다. 필요한 메모리는 정밀도·런타임·동시 요청 수에 따라 실제로 재 본다.
• 실행 도구: Transformers, vLLM, SGLang, TokenSpeed를 지원한다. Ollama·llama.cpp로 돌리려면 검증된 양자화 파일이 나왔는지 본다.
• 이미지·영상: 비전 인코더가 들어 있어 스크린샷, 문서 이미지, 긴 영상까지 한 모델에 넣을 수 있다. 텍스트 전용 로컬 모델과 갈리는 점이다.
• 생각 모드: 기본으로 켜져 있고 요청마다 끌 수 있다. reasoning_effort로 깊이를 조절한다.
• 1M 컨텍스트: vLLM 기본 설정은 262K다. YaRN 같은 확장 설정을 켜야 1M까지 쓴다.

설치 없이 쓰려면 Model Studio의 qwen3.8-27b를 호출한다. 공식 표의 최대 입력은 일반 모드 991,808토큰, 생각 모드 983,616토큰이며 최대 출력은 131,072토큰이다. 입력·출력을 합친 1M 문맥 한도와 요청 옵션도 함께 적용된다. 같은 모델이라도 관리형 API와 내 서버에서 쓸 수 있는 길이가 다르다. (qwen3.8-27b 안내)

활성 파라미터와 메모리

MoE 모델의 “활성 파라미터”는 토큰 처리에 참여하는 파라미터 수다. 전체 가중치의 저장·접근 부담이 사라지는 것은 아니다. GPU·시스템 RAM·디스크 사이에 나눠 두는 오프로딩도 가능해 실제 메모리 요구량은 런타임에 따라 달라진다. 2.4T-A95B는 활성 95B지만 원본이 4.89TB이고, Flash-Next는 활성 6B(여기에 51B 임베딩과 4B MTP 모듈)지만 원본이 약 360GB다. 원본 그대로 운영하려면 큰 메모리와 적절한 분산·오프로딩 구성이 필요하다. 2.4T-A95B를 개인 장비에서 돌리려면 공격적인 양자화나 여러 장치 분산이 필요하고, 품질과 속도를 따로 검증해야 한다. Flash-Next는 Flash-Next 글에 따로 정리했다.

고르는 기준

• 운영 부담 없이 쓰려면 → 관리형 Max·Flash의 기능과 요금을 비교한다.
• 스캔 문서나 스크린샷을 넣어야 하면 → 텍스트 전용인 2.4T-A95B는 맞지 않는다. 27B나 Max를 쓰거나, 글자를 먼저 추출하는 단계를 둔다.
• 내 장비에서 실험하려면 → 27B부터 시작한다.

크기가 다른 모델을 한 순위로 줄 세우기보다, 같은 업무 입력과 완료 기준으로 품질·시간·전체 비용을 비교해 고른다.

자주 묻는 질문

회사 서비스에 써도 되나? 27B는 Apache-2.0이라 조건을 지키면 상업적으로 쓸 수 있다. 2.4T-A95B(qwen3.8-max 라이선스)와 Flash-Next(qwen-community-1.0)는 별도 라이선스라 사용 규모나 배포 조건이 다를 수 있으니, 각 저장소의 LICENSE 파일을 읽고 판단한다.

GPU가 없는 PC에서도 되나? 해당 모델·양자화 형식을 지원하는 CPU 런타임과 충분한 RAM이 있다면 가능하다. 실용적인 속도인지는 장비와 문맥 길이로 직접 측정해야 한다. 실험 목적이 아니라면 관리형 API로 먼저 써 보고, 계속 쓸 규모가 되면 서버를 검토한다.

한국어도 잘하나? Qwen 계열은 여러 언어를 지원하지만 작업마다 품질이 다르다. 실제로 쓸 한국어 문서로 관리형 API에서 먼저 시험해 보고, 요약·번역·코딩처럼 작업별로 결과를 나눠 비교한 뒤 결정한다.