Qwen3.6-35B-A3Bとは何か?「35B」と「A3B」が意味するもの
総パラメータ35B・活性3Bという数字は何を表している?
室谷代表取締役まず名前の整理からなんですけど、「35B」はモデル全体が抱えてる知識の総量、つまり総パラメータ数なんですよね。で、「A3B」のAはActiveで、1トークン出力するときに実際に動くのが3B相当だという意味で・・・
テキトー教師DotAI 認定講師たしかにそこが最初のつまずきで。初めて触る人は「35Bなのに3Bって何?」って必ずなります。
全部の部品を毎回使うんじゃなくて、必要な専門家だけ呼び出す仕組みなんですよ。
全部の部品を毎回使うんじゃなくて、必要な専門家だけ呼び出す仕組みなんですよ。
室谷代表取締役要はMoEですね。全員出勤させず、その仕事に合った人だけ呼ぶ。
だから35B分の知識容量を持ちながら、計算コストは3B級で済むと。
だから35B分の知識容量を持ちながら、計算コストは3B級で済むと。
テキトー教師DotAI 認定講師現場感覚で言うと、これが効くのは「大きいモデルは動かせない」という人にとってで。大きいのに軽い、という不思議なバランスのモデルなんです。
Qwen3.6シリーズの中でこのモデルはどこに位置する?
テキトー教師DotAI 認定講師立ち位置も整理しておきたいんですけど、このモデルはQwen3.6シリーズで最初に公開されたオープンウェイト版なんですね。2月に出たQwen3.5シリーズの次の世代、という流れです。
室谷代表取締役そこは業界構造として面白くて。Alibaba Cloudって商用API向けの上位モデルを先に出すんですよ。
今回も先にQwen3.6-Plusが来て、オープン側は後から。クローズドで先に市場を作って、そのあと重みを配る順番なんですよね。
今回も先にQwen3.6-Plusが来て、オープン側は後から。クローズドで先に市場を作って、そのあと重みを配る順番なんですよね。
テキトー教師DotAI 認定講師なるほど。PlusがAPI専用、こちらがダウンロードして手元で動かせる側、と。
同じシリーズでも役割が分かれてるわけですね。
同じシリーズでも役割が分かれてるわけですね。
室谷代表取締役そうなんです。MYUUUの現場でも、モデル選びが「APIで借りるか、自前で持つか」の二択になってきてて。
オープン側の選択肢が増えると、後者の設計が現実的になるんですよ。
オープン側の選択肢が増えると、後者の設計が現実的になるんですよ。
オープンウェイト版が出るまでの流れを時系列で追う
テキトー教師DotAI 認定講師時系列、ここで一度並べておきましょうか。
| 時期 | 出来事 |
|---|---|
| 2月 | Qwen3.5シリーズ公開 |
| 4月2日 | 商用API向け Qwen3.6-Plus が先行発表 |
| 4月16日 | Qwen3.6-35B-A3B がGitHubでリリース |
| 4月17日 | Alibaba Cloud公式ブログで公開 |
室谷代表取締役で、ここが読みどころで。商用のPlusが先、オープンの35B-A3Bが後。
順番だけ見ると逆に見えるけど、上位をAPIで先に出して、そのあと実務向けのオープン版を置くという並びなんですよね。
順番だけ見ると逆に見えるけど、上位をAPIで先に出して、そのあと実務向けのオープン版を置くという並びなんですよね。
テキトー教師DotAI 認定講師公式ブログの説明だと、コミュニティからのフィードバックをベースに、安定性と実務での使いやすさ、特にコーディング体験の向上を優先した、という主旨なんです。だから単なる小型版というより、目的が違う子なんですよ。
室谷代表取締役なるほど。名前の数字の順番だけで下位モデルと決めつけると、たぶん見誤るやつですね。
アーキテクチャはどうなっている?Gated DeltaNetとMoEのハイブリッド構成
Gated DeltaNetとMoEのハイブリッド構成の要点
40層の層構成
10 ×(3 ×(Gated DeltaNet → MoE)→ 1 ×(Gated Attention → MoE))。隠れ次元2048。Gated DeltaNet 30層+Gated Attention 10層
Gated DeltaNetの計算量
系列長Nに対しO(N)。通常AttentionのO(N²)と比べ長文脈で重くなりにくい
コンテキスト長
ネイティブ262,144トークン。YaRNのRoPEスケーリングで最大1,010,000まで拡張可能
ヘッド配分
DeltaNet側はV用32・QK用16、Gated Attention側はQ用16・KV用2
MoEの仕組み
エキスパート256個中、1トークンあたりRouted 8個+Shared 1個の9個のみ使用。中間次元512
知識容量と計算コスト
知識容量は35B分、計算は3B相当。VRAMとスループットのバランスに効く
40層のうち通常のAttentionは10層、残り30層はGated DeltaNet
室谷代表取締役スペックを見ると層の並びが独特なんですよ。全体は40層、隠れ次元2048。
層構成が「10 ×(3 ×(Gated DeltaNet → MoE)→ 1 ×(Gated Attention → MoE))」なんですよね。
層構成が「10 ×(3 ×(Gated DeltaNet → MoE)→ 1 ×(Gated Attention → MoE))」なんですよね。
テキトー教師DotAI 認定講師これ、10回の繰り返し単位ごとにGated DeltaNetが3層、通常のGated Attentionが1層入る形ですから、Attention層は合計10層、DeltaNet側は30層という計算になりますね。
室谷代表取締役つまり40層のうち通常Attentionは10層だけで、残り30層が線形Attention側。ここまで振り切ってる構成は珍しいんですよ。
テキトー教師DotAI 認定講師構成図を初めて見る人は「Attentionがほぼ無いの?」と戸惑うんですよね。でもこの比率が、このモデルの性格そのものなんです。
Gated DeltaNetが長文脈に強い理由をざっくり掴む
室谷代表取締役なぜ線形Attentionをそこまで積むのか。Gated DeltaNetは系列長Nに対して計算量がO(N)なんですよ。
通常AttentionがO(N²)なので、文脈が伸びたときの重くなり方が根本的に違う・・・
通常AttentionがO(N²)なので、文脈が伸びたときの重くなり方が根本的に違う・・・
テキトー教師DotAI 認定講師現場でよく聞くのが、長いコードやドキュメントを丸ごと入れると後半で急に重くなる、精度が落ちるという声なんです。そこに効いてくる設計ですね。
室谷代表取締役ネイティブで262,144トークン、YaRNのRoPEスケーリングで最大1,010,000まで拡張できると。狙いがはっきりしてるんですよ。
テキトー教師DotAI 認定講師ヘッド配分も面白くて、DeltaNet側がV用32・QK用16、Gated Attention側がQ用16・KV用2なんですよね。
エキスパート256個から9個だけ使うMoEの仕組み
室谷代表取締役MoE側も見ておきましょうか。エキスパート256個、1トークンあたり動くのはRouted 8個+Shared 1個の9個だけ。
エキスパート中間次元は512です。
エキスパート中間次元は512です。
テキトー教師DotAI 認定講師256個の引き出しのうち9個だけ開ける、という比喩がしっくりくる人が多いですね。知識容量は35B分、計算は3B相当で済む、という仕組みです。
室谷代表取締役ここはハード要件に直撃する話なんですよ。知識は35B分あるのに推論コストは3B相当。
VRAMとスループットのバランスで見たとき、この差はかなり効いてきますから。
VRAMとスループットのバランスで見たとき、この差はかなり効いてきますから。
テキトー教師DotAI 認定講師ただMoEは負荷分散が難しい性質もあるので、量子化したときの精度劣化も含めて実機で確かめた方がいいです。
Thinking Preservationは何が嬉しい?設定の考え方
- チャットテンプレートに引数を渡せる推論サーバー・クライアントを用意する
chat_template_kwargsの中に{"preserve_thinking": true}を指定する- 指定しない場合は、直前のユーザー発話に対する思考だけを保持する「interleaved thinking」のままになる
- 有効化したら、同じセッションで反復的に開発を続けたときの挙動とコンテキスト消費を確認する
室谷代表取締役Thinking Preservation、これが今回いちばん実務に効く新機能なんですよ。履歴全体の推論コンテキストを保持したまま応答を続けられる。
テキトー教師DotAI 認定講師最初に戸惑うのが、デフォルトでは直前の発話に対する思考しか残らない点なんですよ。「さっき何を考えてたっけ」が抜ける感覚があった、という声が多いんです。
室谷代表取締役反復開発での手戻りが減るし、KVキャッシュの利用効率も改善するとモデルカードに書かれている。同じ文脈を読み直さない分は素直に効いてくるはずなんですよね。
テキトー教師DotAI 認定講師ただ常時オンが正解でもなくて。コンテキストを長く食うので、短いやり取りを連発する場面では切った方が身軽です。
ベンチマークの実力はどのくらい?コーディング系と知識系を分けて読む
SWE-benchやTerminal-Benchの数値は前モデルからどう伸びた?
ベンチマーク別スコア比較(Qwen3.6-35B-A3B vs 前モデル)
| ベンチマーク | Qwen3.6-35B-A3B | Qwen3.5-35B-A3B | Qwen3.5-27B dense |
|---|---|---|---|
| SWE-bench Verified | 73.4 | 70.0 | 75.0 |
| SWE-bench Multilingual | 67.2 | - | 69.3 |
| Terminal-Bench 2.0 | 51.5 | 40.5 | 41.6 |
| SWE-bench Pro | 49.5 | 44.6 | 51.2 |
室谷代表取締役まずコーディング系から整理しましょうか。SWE-bench Verified が73.4で、前の35B-A3Bが70.0。
3ポイント強の伸びなんですよね。
3ポイント強の伸びなんですよね。
テキトー教師DotAI 認定講師その3ポイント、数字以上に体感で分かるんですよ。エージェントに投げたときに「最後の一手で落ちる」回数が減る感じで。
室谷代表取締役もっと露骨なのが Terminal-Bench 2.0 で51.5。前モデルが40.5なので10ポイント以上跳ねてる。
ターミナル操作を延々やらせる系は差が出やすいんですよ。
ターミナル操作を延々やらせる系は差が出やすいんですよ。
テキトー教師DotAI 認定講師そこは初めて触る人が驚くところで。コマンドの試行錯誤が続くタスクほど、モデルの粘りがそのまま成功率になりますから。
| ベンチマーク | Qwen3.6-35B-A3B | 前モデル(35B-A3B) |
|---|---|---|
| SWE-bench Verified | 73.4 | 70.0 |
| SWE-bench Multilingual | 67.2 | - |
| Terminal-Bench 2.0 | 51.5 | 40.5 |
| SWE-bench Pro | 49.5 | 44.6 |
知識・推論系(MMLU-Pro・GPQA・AIME26)のスコアをどう読む?

室谷代表取締役知識系は MMLU-Pro 85.2、GPQA Diamond 86.0、AIME26 で92.7、C-Eval 90.0。前モデルから全部上げてるんですよ。
テキトー教師DotAI 認定講師ただ、この手の数字は設問セットの癖が出るので、そのまま「専門家レベル」と受け取るのは危ないんですよね。
室谷代表取締役AIME26 の92.7は数学競技の設問で、思考モード前提の数字なんですよ。実務のログ解析に振ったときに同じ差が出るかは別の話で・・・
テキトー教師DotAI 認定講師現場でよく聞くのは「表のスコアより、自分のタスクで一回回した結果を信じる」ですね。ベンチマークは上限値を見てる感じです。
dense版のQwen3.5-27Bに一部で負けている事実をどう解釈する?
室谷代表取締役ここは正直に言っておきたいんですけど、SWE-bench Verified は dense の Qwen3.5-27B が75.0で、こっちは73.4。SWE-bench Pro も 51.2 対 49.5 で負けてるんですよね。
テキトー教師DotAI 認定講師新モデルなのに負けてる、というところで首をかしげる人は多いんですよ。でも27B denseは毎回すべてのパラメータを使う構成なので、単発の精度で上に来るのは不思議じゃないんです。
室谷代表取締役経営目線で言うと、この1〜2ポイントのために推論コストを何倍払うか、なんですよ。MYUUUだとエージェントを並列で何本も走らせるので、活性3Bで済むことの方が効いてくる。
テキトー教師DotAI 認定講師速く回して何度も直す方が、重いモデルで一発に賭けるより結果が良くなる場面、ありますもんね。
マルチモーダル系ベンチマークの比較で気をつけること
室谷代表取締役マルチモーダルも MMMU 81.7、RealWorldQA 85.3、VideoMMMU 83.7、OmniDocBench1.5 が89.9と並んでるんですけど・・・
テキトー教師DotAI 認定講師ここは比較の作法に注意がいるんですよ。MMMUの比較対象に入っているClaude系の数字はQwen側の計測条件で測ったもので、ベンダー公式の発表値と横に並べるとズレます。
室谷代表取締役同じ土俵じゃない数字を並べると、判断を間違えるんですよね。導入を決めるなら自前のデータで一度回すのが結局は安い。
テキトー教師DotAI 認定講師たしかに。表の数字は参考値で、最後は手元のタスクで測る、に落ち着きがちです。
ライセンスと入力できる範囲は?商用利用・コンテキスト長・画像と動画
Apache 2.0でどこまでできる?商用利用・改変・再配布
室谷代表取締役ライセンス、ここが実務で一番効くところなんですよね。Apache 2.0なので商用利用も改変も再配布も可能、と。
社内のプロダクトに組み込んで外に出しても、そのまま使える枠なんですよ。
社内のプロダクトに組み込んで外に出しても、そのまま使える枠なんですよ。
テキトー教師DotAI 認定講師初めて触る人が最初に戸惑うのがまさにそこなんですよ。「重みが公開されてる=自由に使える」と思い込んでしまう。
今回はモデルカードにApache 2.0と明記されているので、そこは素直に読めます。
今回はモデルカードにApache 2.0と明記されているので、そこは素直に読めます。
室谷代表取締役経営目線で言うと、ライセンス確認で法務に投げる往復が地味に痛いんですよね。明記されてるだけでその一轮が減る。
判断スピードが変わります。
判断スピードが変わります。
テキトー教師DotAI 認定講師たしかに。ただモデル本体と周辺ツールのライセンスは別物なので、そこは分けて確認したほうがいいですね。
ネイティブ262,144トークン、拡張するとどこまで伸びる?
室谷代表取締役コンテキストはネイティブで262,144トークン。これはリポジトリを丸ごと放り込む前提の数字なんですよね。
テキトー教師DotAI 認定講師現場感覚で言うと、そこまで入れて精度が保つのかが気になります。長く入るのと、長くても壊れないのは別の話なので。
室谷代表取締役さらにYaRNのRoPEスケーリングで最大1,010,000トークンまで拡張できる、とモデルカードには書かれてます。ただしこれは設定を入れて初めて効く話で、素の状態で使えるのは262,144の方です。
テキトー教師DotAI 認定講師最初に戸惑うのがまさにそこなんですよ。「拡張できる」を「最初からそうなってる」と読み違える人が多い。
設定前提の数字は、設定したかどうかで効き方が変わるので。
設定前提の数字は、設定したかどうかで効き方が変わるので。
画像・動画入力はどこまで対応している?
室谷代表取締役テキストだけじゃなくて画像と動画も入力できるタイプで、読み込みは AutoModelForMultimodalLM を使う、とモデルカードにあります。
テキトー教師DotAI 認定講師動画はフレームをどう間引くかで結果が変わるので、そこが実務の勘所ですね。vLLM経由なら fps パラメータでサンプリングを調整できると書かれてます。
室谷代表取締役うちの現場だと、映像を扱えるかどうかで提案の幅が変わるんですよ。デモの時点で「映像もいけます」と言えるかで、商談の温度が違ってくる。
テキトー教師DotAI 認定講師とはいえ何でも読めるわけではないので、対応範囲はモデルカードで確認したほうが安全ですね。画像も動画も「入る」と「正しく読む」は別の話なので。
ローカルで動かすには?GGUF量子化版の入手から起動まで
まずは手持ちの環境で使える手段を選ぶ(Transformers・vLLM・SGLang)
ローカル実行手段の選び方
Transformers
- pip install -U transformers accelerate
- AutoModelForMultimodalLM で読む
- 最も素直な入り口
vLLM
- vllm serve コマンドで起動
- 推奨バージョン 0.19.0 以上
- ツール呼び出しは --enable-auto-tool-choice --tool-call-parser qwen3_coder を追加
室谷代表取締役動かし方の入り口は大きく3つに分かれるんですよね。素の Transformers、推論サーバーの vLLM、同じくサーバー型の SGLang。
GPUを振り切って回すなら後者2つです。
GPUを振り切って回すなら後者2つです。
テキトー教師DotAI 認定講師最初に戸惑うのがまさにそこで。
pip install -U transformers accelerate を入れて AutoModelForMultimodalLM で読むのが一番素直なんですけど、チャットで回す前提ならサーバーを立てた方が楽なんですよ。
室谷代表取締役モデルカードにコマンドが載ってますから、そこは素直にコピーでよさそうですね。
code
vllm serve Qwen/Qwen3.6-35B-A3B --tensor-parallel-size 8 --max-model-len 262144 --reasoning-parser qwen3
テキトー教師DotAI 認定講師ツール呼び出しを効かせたいときは
推奨バージョンは vLLM が 0.19.0 以上、SGLang が 0.5.10 以上です。
--enable-auto-tool-choice --tool-call-parser qwen3_coder を足す、と。SGLang 側も python -m sglang.launch_server --model-path Qwen/Qwen3.6-35B-A3B --tp-size 8 --context-length 262144 --reasoning-parser qwen3 で同じことができます。推奨バージョンは vLLM が 0.19.0 以上、SGLang が 0.5.10 以上です。
量子化GGUF版をOllamaやLM Studioで動かす道筋
室谷代表取締役手元のメモリに合わせるなら量子化版ですね。Unsloth が出している GGUF があって、llama.cpp・Ollama・LM Studio で使える、と。
テキトー教師DotAI 認定講師現場感覚で言うと、まず GGUF を落としてきて Ollama か LM Studio に読ませる、が最短なんですよ。Docker 派は
docker model run hf.co/Qwen/Qwen3.6-35B-A3B で一発です。
室谷代表取締役CPUに逃がす前提なら KTransformers という選択肢も公式に挙がってますね。AMD Instinct の MI300 系も初日からサポート対象と聞くと、選べる土俵は広がってる印象です。
テキトー教師DotAI 認定講師量子化は手軽さと引き換えに精度が落ちるので、まず小さめの量子化で動かしてみて、自分の用途に足りるかを確かめる順番がいいですね。このあたりのメモリ要件は次の章の実測値と突き合わせると判断しやすいです。
サンプリングパラメータは何を基準に決める?
テキトー教師DotAI 認定講師ここ、数字を丸暗記する人が多いんですけど、公式が用途別に推奨値を出してくれているので素直に従うのが早いです。
| 用途 | temperature | top_p | presence_penalty |
|---|---|---|---|
| 思考モード(一般タスク) | 1.0 | 0.95 | 1.5 |
| 精密コーディング(Web開発など) | 0.6 | 0.95 | 0.0 |
| Instructモード(非thinking) | 0.7 | 0.80 | 1.5 |
室谷代表取締役なるほど。コードを書かせるなら 0.6 寄り、発想を広げたいときは 1.0 側、という切り分けですね。
出力長も通常は 32,768、数学やプログラミングコンテスト級の難問は 81,920 が目安と。
出力長も通常は 32,768、数学やプログラミングコンテスト級の難問は 81,920 が目安と。
テキトー教師DotAI 認定講師あと忘れがちなのが、このモデルはデフォルトで思考モードで動くところで。Qwen3 にあったソフトスイッチには公式対応していないので、そこ前提で組まないとズレます。
履歴の思考を残したいときは
履歴の思考を残したいときは
preserve_thinking を true にする手もあります。
室谷代表取締役パラメータで悩む時間って、正直もったいないんですよ。推奨値をまずそのまま入れて、出力を見てから詰める。
この順番が一番早いですね。
この順番が一番早いですね。
必要なVRAM・PCスペックは?環境別の実測速度を並べてみる
公式・解説記事が示す必要メモリの目安
室谷代表取締役で、ここが一番気になる人が多いところだと思うんですけど、実際どれくらいのマシンパワーが要るんですか。
テキトー教師DotAI 認定講師解説記事に目安の表があるので、まずそれを並べますね。
| 構成 | メモリの目安 |
|---|---|
| フルGPU(4bit量子化) | VRAM 20GB以上 |
| GPU+MoEをCPUオフロード | VRAM 12GB+RAM 32GB以上 |
| CPU推論(量子化) | RAM 32GB以上 |
室谷代表取締役なるほど、35Bという数字を見て身構える必要はなくて、全部をGPUに載せきらなくても成立する設計なんですね。ここは判断材料として大きい・・・
テキトー教師DotAI 認定講師最初に戸惑うのがまさにそこなんですよ。重み全体のサイズより、MoEの expert をどこに置くかの方が効いてくる。
だから12GBクラスのGPUでも現実的に狙える、という話になります。
だから12GBクラスのGPUでも現実的に狙える、という話になります。
GPUごとの実測tok/secを見比べる
テキトー教師DotAI 認定講師実際の速度は、ブログやSNSで報告されている数字を並べるとこうなります。
| GPU構成 | 量子化 | 報告値 |
|---|---|---|
| RTX 4060 Ti 16GB | Q3_K_S・MoE8層オフロード | 37tok/sec |
| RTX 3060 12GB×2 | IQ3_XXS・128k | 約60tok/sec |
| RTX 4090 | 記載なし | 60〜125tok/sec(コンテキスト長で変動) |
| RTX 5060 Ti 16GB+32GB RAM | UD-Q4-K-XL・128K | 33.1tok/sec |
| RTX 5070 Ti 16GB | UD-IQ3_XXS・16k | 約155tok/sec |
室谷代表取締役5060 Tiと32GB RAMの中古で15万円っていう報告、コスト目線だとかなり現実的なラインなんですよね。ワークステーションを組むのとは桁が違う。
テキトー教師DotAI 認定講師ただ同じ16GBでも37tok/secと155tok/secでは体感がまったく別物で。量子化の差とメモリ帯域の差がそのまま出ます。
固有名詞の精度は人間側で確認した方がいい、という注記も付いてました。
固有名詞の精度は人間側で確認した方がいい、という注記も付いてました。
Mac(M4 Pro・M3 Ultra)で動かした場合の速度
室谷代表取締役Mac勢はどうなんですか。
テキトー教師DotAI 認定講師M4 Proで40tok/sec、MLXの4bitにすると72tok/sec。M3 Ultraは73tok/sec、MLX 4bitで82tok/secという報告です。
統合メモリなのでVRAMという概念がないぶん、32GB以上のメモリがあれば動く範囲は広いんですよ。
統合メモリなのでVRAMという概念がないぶん、32GB以上のメモリがあれば動く範囲は広いんですよ。
室谷代表取締役なるほど、コンセントに挿して黙って動いてくれるのは開発者体験としては強いですね。
テキトー教師DotAI 認定講師現場感覚で言うと、Macは「まず動かしてみる」までのハードルが低いんですよね。量子化ファイルを引っ張ってくる手間も省けますし。
量子化とCPUオフロードで何が変わる?
室谷代表取締役さっきから量子化とオフロードの話が出てますけど、そこは具体的に何が変わるんですか。
テキトー教師DotAI 認定講師速度と精度のトレードオフがはっきり出ます。きしださんの検証だと、Q4_K_XLでMoE層20層をCPUに逃がして32tok/sec、RTX 4060 TiならQ3_K_Sで8層オフロードの37tok/sec。
CPUに渡す層を増やすほどVRAMは浮くけど遅くなる。
CPUに渡す層を増やすほどVRAMは浮くけど遅くなる。
室谷代表取締役プロンプトの読み込みに20秒くらいかかる、というのも書かれてましたね。長いコンテキストを投げる使い方だと、そこが待ち時間として効いてくる。
テキトー教師DotAI 認定講師あとコンテキストを伸ばすとメモリを食うので、128Kを狙うなら量子化を一段落とす判断が必要になります。最初は短めのコンテキストで様子を見るのが失敗しにくいですよ。
コーディングエージェントで使える?クラウド経由という選択肢も含めて
ClineやOpenCodeに繋いだときの実際の手応え
室谷代表取締役で、実際にエージェントへ繋いだときの話なんですけど、そこの手応えはどうなんですか。
テキトー教師DotAI 認定講師現場感覚で言うと、最初に驚かれるのが「セッションを新しくしてもコードを把握している」ところなんですよ。OpenCodeやClineでブロック崩しやテトリスを書かせた検証でも、変更指示に素直に従って、gitコミットまで自分でやったという報告があります。
室谷代表取締役Java側でSpring BootのTODOアプリを作って、機能追加からSPA化まで流れで通った、というのも同じ検証ですね。基本線で詰まる感じはない、と。
テキトー教師DotAI 認定講師はい。ただ「動く」と「現場で安心して任せられる」は別で、仕様の把握がちょっと甘い場面は残ります。
室谷代表取締役それでも、16GB以上のVRAMか、32GB以上のメモリを積んだMacがあれば手元で回るわけですよね。開発機の要件がこのラインなら追加投資はほぼゼロで試せる。
経営目線だと、そこは素直に大きいなと思います。
経営目線だと、そこは素直に大きいなと思います。
長いセッションで起きやすい癖と付き合い方
テキトー教師DotAI 認定講師逆に、初めて触る人が戸惑うのが、コンテキストが伸びてくると同じことを繰り返し始める点なんですよ。
室谷代表取締役あー、それはエージェント運用だと一番効いてくるやつですね。長く走らせるほど出力が濁っていく。
テキトー教師DotAI 認定講師検証でも35,000トークン程度で区切って、こまめにセッションを切り直すのが良いとされていました。詰め込みすぎないほうが結果的に速いんですよね。
室谷代表取締役そこは思考の保持、preserve_thinking を true にするのが効くんでしたっけ。履歴の思考ブロックを残したまま続けられるから、手戻りが減ってKVキャッシュの使い方も良くなる、という説明でしたよね。
テキトー教師DotAI 認定講師そうなんですけど、過信は禁物です。長い一本道で任せるより、タスクを刻んで渡すほうが安定します。
OpenRouterやAlibaba Cloud経由で呼び出す手順
OpenRouter / Alibaba Cloud経由で呼び出す手順
- 01OpenRouterアカウントを用意モデル選択で「qwen/qwen3.6-35b-a3b」を指定する
- 02APIキーを設定発行したAPIキーを使うツール側のAPIキー設定欄に貼る
- 03モデル名を入力モデル名の欄にも同じIDを入れて保存する
- 04Alibaba Cloudの場合はベースURLを指定DashScope(Alibaba Cloud Model Studio)が提供するOpenAI互換エンドポイントをベースURLに指定する
手元に環境を用意できない場合は、外部サービス経由で呼び出せます。流れはこうです。
- OpenRouter のアカウントを用意し、モデル選択で「qwen/qwen3.6-35b-a3b」を指定する
- 発行したAPIキーを、使うツール側のAPIキー設定欄に貼る
- モデル名の欄にも同じIDを入れて保存する
- Alibaba Cloud側で使う場合は、DashScope(Alibaba Cloud Model Studio)が提供するOpenAI互換エンドポイントをベースURLに指定する
室谷代表取締役画面の細かい文言や項目名は各サービスの表示で確認してもらうとして、考え方はこの4ステップです。
テキトー教師DotAI 認定講師OpenRouterはモデルIDを入れるだけで呼べるので、最初の一歩としては一番ラクですね。
室谷代表取締役社内のAlibaba Cloud契約に寄せたい場合は、OpenAI互換のエンドポイントをベースURLに置く形。互換なので、既存のOpenAI向けクライアントがそのまま使えるのが利点なんですよ。
設定例はHugging Faceのモデルカードにも載っています。
設定例はHugging Faceのモデルカードにも載っています。
テキトー教師DotAI 認定講師モデルIDやエンドポイントの仕様は変わりうるので、公式のモデルカードか各サービスの画面で最新を確認しておくのが確実です。
API利用時に確認しておきたい注意点

室谷代表取締役ここは運用の話になるんですけど、外部API経由は入力が外に出るので、機密情報を流す使い方は社内ルールと突き合わせが要りますね。
テキトー教師DotAI 認定講師現場でよく聞くのは「便利だからとりあえず全部投げてた」パターンです。リポジトリ全体を読ませる使い方だと、そのままソースが送られますから。
室谷代表取締役あとコスト。トークン単価は変動するので、僕らは先に上限を決めてから触るようにしてます。
単価が読めない状態でチームに配ると、後からじわっと効いてくるんですよね。具体的な金額は各サービスの表示で確認してください。
単価が読めない状態でチームに配ると、後からじわっと効いてくるんですよね。具体的な金額は各サービスの表示で確認してください。
テキトー教師DotAI 認定講師ツール呼び出しを前提にするかどうかも先に決めておきたいところです。エージェント側が関数呼び出しを期待しているのに、そこが噛み合っていないと動かないので。
まずは小さめのタスクで一週間回して、感触を見るのが早いと思います。
まずは小さめのタスクで一週間回して、感触を見るのが早いと思います。
前モデルやdense版との違い、日本語で使うときの注意点
Qwen3.5-35B-A3Bから何が変わった?
室谷代表取締役前モデルとの差、まず数字から見ておくと分かりやすいんですよね。SWE-bench Verified が 70.0 から 73.4、Terminal-Bench 2.0 は 40.5 から 51.5 まで上がってます。
エージェント系の伸びが特に大きい・・・
エージェント系の伸びが特に大きい・・・
テキトー教師DotAI 認定講師たしかに。ターミナル操作が絡むタスクの伸びは、触ったときの体感にも出てます。
初めての人が「あ、これ最後まで走るんだ」となる部分がそこなんですよ。
初めての人が「あ、これ最後まで走るんだ」となる部分がそこなんですよ。
室谷代表取締役ただ公式が強調してるのは、コミュニティのフィードバックを踏まえて安定性と実務での使いやすさ、特にコーディング体験を優先したという点で。スコアの話だけじゃないんですよね。
テキトー教師DotAI 認定講師そこは大事ですね。ベンチが上がったから自分の現場でも同じ伸びが出るとは限らないので、手元のタスクで一度試すのが一番早いです。
dense版のQwen3.5-27Bとどう使い分ける?
Qwen3.6-35B-A3B と dense版27B の使い分け
Qwen3.6-35B-A3B (MoE)
- SWE-bench Verified: 73.4
- Terminal-Bench 2.0: 51.5
- ターミナル操作が絡むタスクの伸びが大きい
- 速さを回して反復したい作業に向く
dense版 Qwen3.5-27B
- SWE-bench Verified: 75.0
- Terminal-Bench 2.0: 41.6
- コーディングエージェントとして長く使うと賢く遂行能力も高い評
- 長い文脈で精度が要る作業に向く
室谷代表取締役で、同ファミリーの dense 版の 27B とどう違うのか。SWE-bench Verified だと 27B が 75.0 で、こっちの 73.4 をわずかに上回るんですよ。
テキトー教師DotAI 認定講師逆に Terminal-Bench 2.0 は 51.5 対 41.6 で、こちらが上なんですよね。一長一短で、単純にどっちが上とは言い切れない。
室谷代表取締役実際、コーディングエージェントのモデルとして長く使うと dense の 27B の方が賢く遂行能力も高い、という使ってる人の評も出てるんですよね。判断が分かれるところで。
テキトー教師DotAI 認定講師現場感覚で言うと、長い文脈で精度が要る作業は dense、速さを回して反復したい作業は MoE 側、みたいな住み分けが自然だと思います。
日本語タスクで気をつけたいポイント
室谷代表取締役日本語の話は正直に書いておきたいんですよ。C-Eval 90.0 は中国語の指標で、日本語の保証にはならないんですよね。
テキトー教師DotAI 認定講師そうなんです。公式ベンチは英語中心で、SWE-bench Multilingual が 67.2 あるとはいえ、日本語のコードコメントの扱いや日本語ドキュメントの要約精度は実機で見ないと分からない。
室谷代表取締役日本語の安定感なら別のモデルの方が、という報告も出てますし、前モデルの時点で Claude や GPT 系より劣るという指摘もあったので、そこは期待しすぎない方がいいと思います。
テキトー教師DotAI 認定講師初めて触る人は、短い要約と社内用語入りの文章で一度試すといいですよ。そこで崩れるかどうかがすぐ分かりますから。
量子化・MoE特有のクセと検証のすすめ方
室谷代表取締役最後に検証のすすめ方。量子化すると精度が落ちるのは前提として置いた方がいいですよね。
GGUF の量子化版は手軽なんですけど。
GGUF の量子化版は手軽なんですけど。
テキトー教師DotAI 認定講師MoE はエキスパートの負荷分散の影響もあって、量子化の効き方が dense と違うんですよ。同じ量子化レベルでも当たり外れが出やすい。
室谷代表取締役長文脈の実効性能も別で見た方がいい。コンテキストが伸びると繰り返しが出るという検証報告もあって、35,000トークン程度で区切るのが実用的らしいんですよね。
MYUUU でも検証は自社タスクで1時間と決めて打ち切ってます。迷ってる時間の方がコスト高いので。
MYUUU でも検証は自社タスクで1時間と決めて打ち切ってます。迷ってる時間の方がコスト高いので。
テキトー教師DotAI 認定講師あとは長文を詰め込んで拾えるかの確認を一度やっておくと安心です。長く入るから大丈夫、ではなくて、入れたときに取り出せるかを見る。
ここ、ハマる人多いんですよ。
ここ、ハマる人多いんですよ。
よくある質問
Q1. ファインチューニングして自社データを覚ませられますか?
テキトー教師DotAI 認定講師できますが、量子化して動かすのとは手間がまるで違います。学習用のデータ整備と、それなりの計算資源が要るので、まずはプロンプトや検索で足りるかを試す人が多いですね。
室谷代表取締役順番としてはそっちが正解なんですよね。いきなり学習させると、データの手入れだけで数週間溶ける・・・。
現場だと「まず検索で限界を見てから」って流れが多いです。
現場だと「まず検索で限界を見てから」って流れが多いです。
Q2. 量子化したモデルを使うと賢さは落ちますか?
テキトー教師DotAI 認定講師落ちます。ただ落ち方が一様じゃなくて、浅めの圧縮なら雑談では違いが分からないのに、長いコードを書かせると整合性が崩れやすい。
初めて触る人はここで「壊れた」と感じるんですよね。
初めて触る人はここで「壊れた」と感じるんですよね。
室谷代表取締役圧縮率って速度のための調整弁であり、精度の調整弁でもあるわけですしね。マシンに余裕があるなら浅め、ギリギリなら深め、と割り切って選ぶのが早いと思います。
Q3. チームで共有して使うには、どんな構成がいいですか?
テキトー教師DotAI 認定講師各自のPCに入れるより、1台をサーバーとして立てて社内からつなぐ形が素直ですね。モデルの読み込みを共有できるので、メモリの無駄が減ります。
室谷代表取締役経営目線でいうと、そこは「何人で割るか」の話なんですよね。1人1台に載せる前提だと要求スペックが人数分ふくらむので、共有1台のほうが稟議も通しやすい。
Q4. 他のオープンなモデルとはどう選び分ければいいですか?
テキトー教師DotAI 認定講師現場でよく聞くのは「結局どれが一番賢いの」なんですけど、答えはタスク次第で。日本語の文章をきれいに書きたいのか、コードを延々いじらせたいのかで相性が分かれます。
室谷代表取締役壊れにくさも見たほうがいいですね。ベンチマークで僅差でも、長いセッションで崩れないほうが実務では効く。
乗り換えの手間まで含めて選ぶ話だと思います。
乗り換えの手間まで含めて選ぶ話だと思います。
Q5. 本番サービスに組み込む前に、何を確認しておくべきですか?
テキトー教師DotAI 認定講師出力をそのまま信じない仕組みを先に作る、ですかね。同じ質問でも結果がぶれる前提で、検証の仕方とログの取り方を決めておくと、あとで揉めにくいです。
室谷代表取締役あとは落ちたときの逃げ道ですか。手元で動かすと面倒を見る範囲が広がるので、外部APIに切り替えられる設計にしておくと安心なんですよね。
可用性の責任はこっちに来ますから。
可用性の責任はこっちに来ますから。
まとめ
室谷代表取締役このモデルの面白さって、35BというサイズとA3Bの軽さを両立させにいってるところなんですよね。全部を読み解く必要はなくて、自分のマシンで動くのか、タスクに合うのか。
そこから判断すればいいと思います。
そこから判断すればいいと思います。
テキトー教師DotAI 認定講師たしかに。最初から全部理解しようとすると疲れるので、軽いタスクを1つ投げてみるのが一番早いです。
物足りなければ設定や圧縮率を変える、その繰り返しで慣れていきます。
物足りなければ設定や圧縮率を変える、その繰り返しで慣れていきます。
室谷代表取締役導入するか迷ってるなら、時給で換算してみるといいんですよ。待ち時間がどれだけ減るのか、そのためにメモリをどこまで積むのか。
投資対効果で見れば判断はシンプルになります。
投資対効果で見れば判断はシンプルになります。
テキトー教師DotAI 認定講師あとは動かす側のツールもこまめに更新されますから、細かい数値は公式の最新情報を見てくださいね。この記事の数字を鵜呑みにせず、手元で測るのが結局一番確実です。
