Qwen3.8-Flash-Next: 메모리 요구량과 API 비용 비교

Qwen3.8-Flash-Next는 Qwen 팀이 8월 26일 공개한 Qwen4 아키텍처 미리보기 오픈 모델이다. 토큰당 활성 파라미터는 6B지만 전체 가중치는 약 180B, BF16 파일은 약 360GB라 개인 PC에서 직접 돌리기는 어렵다. 서버 없이 쓰려면 관리형 API qwen3.8-flash(100만 토큰당 입력 0.15달러·출력 0.47달러)를 쓴다.

Qwen3.8-Flash-Next가 왜 Qwen4 미리보기인가

Qwen 팀은 과거 Qwen3-Next에서 새 하이브리드 구조를 먼저 공개한 뒤 그 설계를 Qwen3.5~3.8 계열에 확장했다. 이번 Flash-Next도 같은 역할을 한다. (Qwen - Qwen3.8-Flash-Next: A New Architecture, Towards Ultimate Cost-Efficiency)

새 구조는 Gated DeltaNet과 Qwen Sparse Attention(QSA)을 섞은 attention, N-gram Embedding 등으로 긴 컨텍스트의 계산·메모리 비용을 줄이면서 용량을 키우는 것이 목표다.

크기와 메모리: 125B인데 왜 활성은 6B인가

Qwen 공식 모델 카드 기준으로 모델 본체는 125B 파라미터이고, 여기에 51B N-gram embedding과 4B MTP(다단계 토큰 예측)가 붙어 체크포인트 전체는 약 180B다. 공식 BF16 저장소는 약 360GB다. (모델 카드)

MoE 구조라 모든 파라미터를 매 토큰 계산하지 않는다. 한 토큰을 처리할 때 활성화되는 것은 약 6B다.

여기에 51B 규모의 N-gram embedding이 추가된다. 이 embedding은 일반 Transformer 연산처럼 매번 큰 행렬곱을 수행하는 대신 주변 토큰 패턴을 lookup하는 방식이다. Qwen은 이를 host memory에 두고 비동기 prefetch하는 설계도 설명한다. (Qwen Flash-Next 발표)

이 구성에는 host RAM 용량과 메모리 대역폭이 필요하다. 실제 offload 지원은 사용하는 런타임·하드웨어에서 확인한다. 모델의 표현 용량·저장 용량·토큰당 계산량을 따로 본다.

QSA는 긴 컨텍스트 비용을 어떻게 줄이나

QSA는 가벼운 indexer가 문맥을 블록 단위로 압축해 지금 필요한 부분만 골라 정밀하게 본다. Gated DeltaNet은 이전 정보를 압축해 기억한다. 공식 발표의 1M 토큰 비용 개선은 attention 커널만의 실험 결과라, 전체 응답 속도와 GPU 비용은 따로 확인한다.

컨텍스트는 기본 1M인가

오픈 가중치 Qwen3.8-Flash-Next의 native context는 262,144 토큰이다. 공식 발표에서는 YaRN을 통해 1,000,000 토큰까지 확장할 수 있다고 설명한다. (Hugging Face - Qwen/Qwen3.8-Flash-Next)

반면 QwenCloud의 관리형 qwen3.8-flash는 현재 모델 페이지에서 1M context, 최대 입력 991K, 최대 출력 131K를 안내한다. thinking 모드의 최대 입력도 별도로 표시된다. (QwenCloud — Qwen3.8-Flash)

오픈 가중치를 직접 실행할 때는 확장 설정을 적용하고, 관리형 서비스에서는 제품의 입력·출력 한도를 확인한다. 오픈 Flash-Next와 관리형 Flash는 같은 아키텍처 계열이지만 실행 환경과 제공 기능이 다르다.

Qwen3.8-27B와는 어떤 차이가 있나

기존 Qwen3.8-27B는 27B dense 모델이라 구조와 배포 특성이 다르다. Flash-Next는 훨씬 큰 전체 용량을 가지지만 MoE로 토큰당 활성 파라미터를 6B까지 줄이는 방향이다.

직접 배포 관점에서는 모델 파일 크기와 메모리 요구량을 함께 본다. 공식 BF16 Flash-Next 저장소는 현재 약 360GB이고 라이선스는 Qwen Community License 1.0이다. 양자화·offload·tensor parallel 지원과 필요한 host memory까지 실제 런타임 문서로 확인한다.

Qwen3.8-27B와 2.4T-A95B의 차이는 Qwen3.8 오픈 모델 비교에서 따로 정리했다.

Qwen3.8-Flash의 현재 API 안내와 가격

현재 QwenCloud 모델 페이지는 qwen3.8-flash를 텍스트·이미지·영상 입력, 1M context를 지원하는 관리형 모델로 제공한다. QwenCloud는 OpenAI·Anthropic 호환을 안내하고, 현재 페이지에는 Chat Completions와 Responses 예제 및 built-in tools 범위가 함께 표시된다.

9월 26일 QwenCloud 페이지 기준 일반 토큰 가격은 100만 토큰당 입력 0.15달러·출력 0.47달러다. Alibaba Cloud Model Studio는 리전·모델·캐시·상품에 따른 별도 가격표를 사용한다. 호출한 제공 경로의 단가로 계산한다.

오픈 Flash-Next를 직접 서빙하는 비용도 이 API 단가와 비교할 수 있지만, 서버 구매비만이 아니라 host memory·GPU memory·전력·운영 인력·동시 요청 수까지 같은 작업량 기준으로 포함해야 한다.

Claude Code나 Codex에서도 연결할 수 있나

Qwen 공식 글은 Anthropic 호환 프로토콜을 이용해 Claude Code에 연결하는 방법과, OpenAI Responses 호환 설정을 이용해 Codex에 연결하는 예시도 제공한다.

이런 호환성은 모델 자체보다 에이전트 도구를 바꾸지 않고 backend model만 교체하고 싶은 사용자에게 중요하다.

Qwen API 기본 연결이 처음이라면 Qwen API 사용법에서 키·리전·Workspace를 맞추는 순서를 먼저 확인한다. 사용 중인 제공 경로의 모델 권한과 지원 기능도 대조한다.

활성 6B와 실제 배포 비용을 연결하는 법

직접 실행을 검토한다면 본체·embedding·MTP를 어느 정밀도로 어디에 둘지 정한다. 런타임이 해당 offload와 긴 컨텍스트 설정을 지원하는지도 확인한다.

같은 모델도 262K와 1M 설정에서는 메모리와 응답 시간이 달라질 수 있다. 먼저 실제 업무에 필요한 입력 길이와 동시 요청 수를 정하고 그 조건에서 처리 가능한지 보아야 한다.

관리형 API를 고른다면 같은 입력으로 답의 품질, 전체 완료 시간, 재시도와 도구를 포함한 비용을 확인한다.