Qwen3.8-27Bとは何者か。開発元と公開時期、ライセンスの結論
まず誰がいつ出したモデルなのか
室谷代表取締役最初に素性を揃えておきましょうか。Qwen3.8-27BはAlibabaのQwenチームがHugging FaceとModelScopeで公開したモデルで、公開は2026年8月です。
モデルカードのCitationにあるbibtexがmonth=August, year=2026になっているので、そこは公式ページで裏が取れます。
モデルカードのCitationにあるbibtexがmonth=August, year=2026になっているので、そこは公式ページで裏が取れます。
テキトー教師DotAI 認定講師初めて触る人が戸惑うのが、Hugging Faceのモデルサイズ表示が28B paramsになっている点なんですよ。名前は27Bなのに表示は28B。
ここで「どっちが正しいんですか」と止まる人がけっこういます。
ここで「どっちが正しいんですか」と止まる人がけっこういます。
室谷代表取締役名前と表示の揺れ、地味に効きますよね。社内のモデル台帳に載せるとき、表記がぶれると調達や監査のときに毎回説明が要るんで。
MYUUUでも一覧は最初に表記を固定するようにしてます。
MYUUUでも一覧は最初に表記を固定するようにしてます。
テキトー教師DotAI 認定講師たしかに。数字そのものより「どっちで呼ぶか」を先に決めておく方が現場は楽ですね。
LICENSEファイルを直接読むとApache 2.0そのものだった
室谷代表取締役で、ライセンスの結論から言うとApache 2.0です。リポジトリ直下のLICENSEファイルを開くとApache License Version 2.0, January 2004の条文がそのまま入っている。
商用利用も改変も再配布もいけます。
商用利用も改変も再配布もいけます。
テキトー教師DotAI 認定講師「Apache 2.0らしいですよ」で止めずに、LICENSEファイルを開いて条文を見るのが確実なんですね。ここを見ずに社内稟議を通すと、あとで法務から詰められます。
室谷代表取締役そうなんですよ。ただ、27BがApache 2.0だからといって、シリーズ全体が同じとは限らない。
2.4T-A95Bみたいな別モデルは条件が違う可能性があると報じられていて、条文までは確認できていません。ここは混ぜない方がいい。
2.4T-A95Bみたいな別モデルは条件が違う可能性があると報じられていて、条文までは確認できていません。ここは混ぜない方がいい。
テキトー教師DotAI 認定講師モデル単位で見る、と。同じシリーズ名だから同じライセンス、と思い込むのが一番危ないところですね。
テキスト・画像・動画を受けて、返すのはテキストだけ
室谷代表取締役中身の構成も見ておくと、Causal Language Model with Vision Encoderという作りで、入力はテキスト・画像・動画、出力はテキストのみです。音声の入出力には対応していません。
テキトー教師DotAI 認定講師ここ、ハマる人多いんですよ。「動画も扱える」と聞いて動画を生成する側だと勘違いしてしまう。
入れる側だけですからね。
入れる側だけですからね。
室谷代表取締役入力を広く取って出力はテキストに絞る、っていうのは事業判断としてはかなり筋が良くて。生成側まで抱えると学習も推論基盤も別物になるので、そこでコストを膨らませない設計なんだと思います。
テキトー教師DotAI 認定講師なるほど。何でもできる方向に振らずに、業務で使う形に寄せてきた感じがしますね。
Apache 2.0で使えるのは27Bだけ？シリーズ内のライセンスの違い
27B本体のLICENSEで確認できた範囲と、確認できなかった範囲
室谷代表取締役まず前提を揃えておきたいんですけど、27Bのリポジトリ直下のLICENSEファイル、あれを開くとApache License 2.0、Version 2.0, January 2004 そのものが置いてあるんですよね。商用利用も改変も再配布もOKという建付けで。
テキトー教師DotAI 認定講師たしかに、そこは条文として読めますね。ただ現場でよく聞くのは「モデルカードのどこにも“商用利用できます”って書いてないんですけど」という不安で。
確認できるのはLICENSEファイルの中身まで、というのが正確なところなんですよ。
確認できるのはLICENSEファイルの中身まで、というのが正確なところなんですよ。
室谷代表取締役そうなんですよ。で、確認できなかった範囲もはっきりさせておくべきで。
学習データの出所とか、出力物の扱いとか、そういう付帯条項はLICENSEファイルからは読み取れない。社内規程に落とすときは「Apache 2.0である」以上のことまで勝手に補わない方がいいんですよね。
学習データの出所とか、出力物の扱いとか、そういう付帯条項はLICENSEファイルからは読み取れない。社内規程に落とすときは「Apache 2.0である」以上のことまで勝手に補わない方がいいんですよね。
テキトー教師DotAI 認定講師そこ、初めて触る人が一番詰まるポイントなんですよ。「ライセンスがApache 2.0」と「うちの会社で使って大丈夫」は別の話で、後者は法務の仕事なので。
2.4T-A95Bなど他モデルは27Bと別ライセンスの可能性がある
室谷代表取締役で、ここが一番誤解を生みやすいところで。シリーズには2.4T-A95Bみたいな大きいモデルもあるんですけど、そっちの条文は確認できていないんですよ。
複数メディアが27Bとは別ライセンスの可能性があると報じている、という段階の情報なんですよね。
複数メディアが27Bとは別ライセンスの可能性があると報じている、という段階の情報なんですよね。
テキトー教師DotAI 認定講師ファミリーでまとめて同じ扱いにしてしまう人が多いんですけど、モデルごとにLICENSEファイルを開く、が原則ですね。27Bで確認できたのは27Bの分だけ、と。
室谷代表取締役経営目線で言うと、ここは稟議の通し方が変わる話で。大きいモデルを社内基盤に据える前提で「Apache 2.0だから」と書いてしまうと、後で条文が違ったときに計画ごとひっくり返る。
可能性の段階なら可能性と書いておく、が一番安いリスクヘッジなんですよ。
可能性の段階なら可能性と書いておく、が一番安いリスクヘッジなんですよ。
テキトー教師DotAI 認定講師たしかに。あと実務だと、名前が似ているので社内の台帳にどのモデルの話かを書き分けておくだけで事故が減ります。
引用時の落とし穴。bibtexのタイトルがQwen3.8-Maxになっている
室谷代表取締役もう一個、地味だけど効くのが引用まわりで。27BのモデルカードのCitationセクション、bibtexのtitleが「Qwen3.8-Max: A New Bar for Coding and Cowork」になってるんですよ。
27Bのページなのに。
27Bのページなのに。
テキトー教師DotAI 認定講師それは気づかないとそのままコピーしちゃいますね。論文に載せたあとで「27Bの話とMaxの話、どっち？」と指摘が来るやつです。
室谷代表取締役学術引用ならまだしも、社内規程や稟議書に貼ると効いてくる。どのモデルを承認したのかが曖昧になると、監査のときに説明が面倒になるんですよね。
引用は公式ページの表記をそのまま写しつつ、自分の側でモデル名を明記しておく。
引用は公式ページの表記をそのまま写しつつ、自分の側でモデル名を明記しておく。
テキトー教師DotAI 認定講師現場感覚で言うと、コピペしたあとに一回「これは27Bの話か」と読み返すだけで防げます。bibtex以外の本文中の表記も一緒に見ておくと安心ですね。
自分のGPUで動く？量子化レベルごとの必要VRAM・RAM早見表
量子化レベルごとの必要メモリ早見表（27Bモデル）
| 量子化 | 必要メモリ（RAM+VRAM合計／Macは統合メモリ） | 24GB GPUでの可否 | 位置づけ |
|---|---|---|---|
| 1bit | 7〜8GB | ○ | 削りすぎで別物の印象 |
| 2bit | 9〜11GB | ○ | — |
| 3bit | 12〜14GB | ○ | — |
| 4bit | 16〜19GB | ○ | 初めて触る人に無難 |
| 6bit | 23〜26GB | △（際どい） | 「あと少し足りない」ライン |
| 8bit | 31GB | × | GPU1枚に収まらない領域 |
| BF16 | 56GB | × | 公式配布。まず素の挙動を見るならここから |
1bitから4bitまで。16〜19GB級で現実的に載るライン
室谷代表取締役ここ、順番を間違える人が多いところなんですよね。27Bをどの量子化で動かすか、から入るんじゃなくて、自分のマシンに何GB積んでるか、から逆算するのが正しい順序で。
テキトー教師DotAI 認定講師現場でよく聞くのは「24GBのGPUで27Bって動くんですか」なんですよ。これ、4bitなら載ります。
16〜19GBですから。
16〜19GBですから。
室谷代表取締役じゃあ数字を並べておきますか。
| 量子化 | 必要メモリ（RAM+VRAM合計／Macは統合メモリ） |
|---|---|
| 1bit | 7〜8GB |
| 2bit | 9〜11GB |
| 3bit | 12〜14GB |
| 4bit | 16〜19GB |
| 6bit | 23〜26GB |
| 8bit | 31GB |
| BF16 | 56GB |
テキトー教師DotAI 認定講師1bitの7〜8GBは惹かれるんですけど、さすがにそこまで削ると別物になる印象で。初めて触る人は4bitから始めるのが無難なんですよ。
8bitは31GB、BF16は56GB。ここから先は覚悟がいる
室谷代表取締役8bitで31GB、BF16で56GBって、これもうGPU1枚に収まらない領域なんですよね。ここから先は素直に覚悟がいる。
テキトー教師DotAI 認定講師たしかに。最初に戸惑うのが6bitの23〜26GBあたりで、「あと少し足りない」になるパターンなんですよ。
24GBのカードだと際どいんですよね。
24GBのカードだと際どいんですよね。
室谷代表取締役その「あと少し」のためにマシンを足すのか、量子化を落とすのか。設備投資の判断そのものですから、ここは悩みどころで。
テキトー教師DotAI 認定講師ちなみに公式が配布してるのはBF16とFP8だけなんですよ。FP8の必要メモリは今回の目安表には無いので、そこは公式のモデルカードで確認してもらう形ですね。
MTPを使うなら1〜2GBの余裕を足す
室谷代表取締役MTP、学習段階から組み込まれてるやつですよね。あれを効かせて回すなら、表の数字に1〜2GB上乗せして考えたほうがいい。
テキトー教師DotAI 認定講師そうなんですよ。表の数字ぴったりで組むと、そこで落ちる。
ギリギリの見積もりで組んだ人のトラブルが一番もったいないんです。
ギリギリの見積もりで組んだ人のトラブルが一番もったいないんです。
室谷代表取締役余裕を持たせないと、落ちた原因がメモリだって分かるまで時間を溶かすんですよね。時間もコストなんで。
テキトー教師DotAI 認定講師あとネイティブで262,144トークンまで扱えますから、長い文脈を詰め込むとその分も効いてきます。短いプロンプトで試すときと同じ感覚でいると足りなくなるんですよ。
Macの統合メモリとNVFP4（Blackwell世代）の考え方
室谷代表取締役Macは統合メモリなんで、表の数字がそのまま効くんですよね。64GB積んでれば8bitも視野に入る、みたいな読み方で。
テキトー教師DotAI 認定講師現場感覚で言うと、Macは後からメモリを足せないんですよ。買う瞬間に決めるしかないので、そこだけは多めに、と伝えてます。
室谷代表取締役で、NVFP4のほう。これはNVIDIAのBlackwell世代向けで、RTX 50シリーズやDGX Spark、B200/B300が対象。
Unslothの計測だとバッチ1でBF16比およそ1.49倍速、top-1一致率は92〜97%と書かれていて。ただ、これも第三者による変換なんですよね。
Unslothの計測だとバッチ1でBF16比およそ1.49倍速、top-1一致率は92〜97%と書かれていて。ただ、これも第三者による変換なんですよね。
テキトー教師DotAI 認定講師そこが肝なんですよ。GGUFもNVFP4も第三者の変換で、品質の確認は利用者側の責任、と公式が明記してる。
手軽さならGGUF、Blackwell世代で速度を取りに行くならNVFP4、という住み分けになるんですが、まず素の挙動を見たいならBF16かFP8から入るのが安心ですね。
手軽さならGGUF、Blackwell世代で速度を取りに行くならNVFP4、という住み分けになるんですが、まず素の挙動を見たいならBF16かFP8から入るのが安心ですね。
Ollama・llama.cppでローカル実行するときの現実的な手順
公式が配布・保証しているのはBF16とFP8だけ
室谷代表取締役モデルカードを素直に読むと、公式が配布して保証しているのはBF16とFP8の2つだけなんですよね。FP8は別リポジトリで展開されてる形で。
テキトー教師DotAI 認定講師ここ、最初に戸惑うのが「重みはどれを落とせばいいのか」なんですよ。選択肢が無限にあるように見えて、公式が持っているのは2つだけという前提がまずあります。
室谷代表取締役経営目線で言うと、この線引きは導入コストに直結するんですよ。保証外を使うなら、検証の工数を別枠で見積もる必要が出てくるので。
テキトー教師DotAI 認定講師たしかに。BF16は56GBクラスなので、手元のGPUで試すならFP8か、あとで話す変換版という選び方になります。
GGUFは第三者による変換。品質確認は利用者側の責任
室谷代表取締役GGUF、AWQ、NVFP4はどれも第三者の変換で、品質の確認は利用者側の責任、と公式が明記してるんですよ。ここは結構強い書き方で。
テキトー教師DotAI 認定講師現場でよく聞くのは「GGUFとNVFP4のどっちを選べばいいのか」なんですよね。NVFP4はRTX 50シリーズやDGX Spark、B200/B300といったBlackwell世代向けで、vllmの新しいバージョンが必要と。
で、Unslothの計測ではバッチ1でBF16比およそ1.49倍速、BF16に対するtop-1一致率が92〜97%と書かれています。
で、Unslothの計測ではバッチ1でBF16比およそ1.49倍速、BF16に対するtop-1一致率が92〜97%と書かれています。
室谷代表取締役ただ、その数字の出どころが変換元の自己申告なんですよね。GGUF側もDynamic V3.0に更新して同じサイズで精度が約10%上がったという説明だけど、第三者の再検証は確認できていない。
ここは割り引いて読むべきです。
ここは割り引いて読むべきです。
Ollamaやllama.cppで動かす前に確認しておきたいこと
Ollama・llama.cppでローカル実行する手順（GGUF 4bit版の例）
- 01Hugging Face CLIをインストールpip install -U "huggingface_hub[cli]" でダウンロード用CLIを入れる
- 02GGUF 4bit版を取得hf download unsloth/Qwen3.8-27B-GGUF --local-dir unsloth/Qwen3.8-27B-GGUF --include "*UD-Q4_K_XL*"（3bitで試すなら *UD-Q3_K_XL* に変える）
- 03llama.cppで起動./llama.cpp/llama-cli --model unsloth/Qwen3.8-27B-GGUF/Qwen3.8-27B-UD-Q4_K_XL.gguf --temp 1.0 --top-p 0.95 --top-k 20 --min-p 0.0
- 04Unsloth実行環境を使う場合unsloth run --model unsloth/Qwen3.8-27B-GGUF:UD-Q4_K_XL --temp 1.0 --top-p 0.95 --top-k 20 --min-p 0.0
pip install -U "huggingface_hub[cli]"でダウンロード用のCLIを入れるhf download unsloth/Qwen3.8-27B-GGUF --local-dir unsloth/Qwen3.8-27B-GGUF --include "*UD-Q4_K_XL*"で4bit版を取得（3bitで試すなら*UD-Q3_K_XL*に変える）./llama.cpp/llama-cli --model unsloth/Qwen3.8-27B-GGUF/Qwen3.8-27B-UD-Q4_K_XL.gguf --temp 1.0 --top-p 0.95 --top-k 20 --min-p 0.0で起動- Unslothの実行環境を使う場合は
unsloth run --model unsloth/Qwen3.8-27B-GGUF:UD-Q4_K_XL --temp 1.0 --top-p 0.95 --top-k 20 --min-p 0.0
テキトー教師DotAI 認定講師最初に戸惑うのが、llama.cpp本体をどこから持ってくるかがコマンドに書かれてない点なんですよ。ここは量子化版の配布ページの手順に沿って準備する前提で読む必要があります。
室谷代表取締役Ollamaについては、モデルカードに量子化一覧からllama.cppやOllama、LM Studioといった互換アプリで使える、という案内があるだけなんですよね。起動コマンドそのものは載ってないので、配布ページ側の手順を見る形になります。
テキトー教師DotAI 認定講師temp 1.0、top_p 0.95、top_k 20というのはThinkingモードの推奨値なので、そのまま入れておくと挙動のズレが少ないです。
変換版を業務で使うときのセキュリティと再現性のリスク
室谷代表取締役業務で使うなら、どの変換を誰がいつ作ったかを記録しておくべきなんですよ。再現性が切れると、検証がまるごとやり直しになって、そのぶん人件費が乗ってくる。
テキトー教師DotAI 認定講師現場感覚で言うと、変換版は再配布の扱いがまた別論点になりがちで。モデル本体がApache 2.0でも、変換物の条件は別で確認が要ります。
室谷代表取締役あと地味なのが、モデルカードのbibtexがQwen3.8-Max名義になってるんですよね。社内規程や法務確認に落とすとき、モデル名の取り違えは普通に事故になるので。
vLLM・SGLangで社内APIサーバーとして立てる方法
vLLMでAPIサーバーを立てるまでの手順
- ターミナルで
pip install vllmを実行する vllm serve "Qwen/Qwen3.8-27B"を叩く- 起動後に立ち上がるエンドポイントを社内ツールの接続先に設定する
室谷代表取締役vLLM、結局これが社内の標準になるんですかね。モデル名を渡すだけでAPIが立つ手軽さは、正直ずるいなと。
テキトー教師DotAI 認定講師最初に戸惑うのが、起動と同時に重みのダウンロードが走るところで。初回だけ待たされて、2回目からはすっと立ちます。
室谷代表取締役MYUUUの現場でも検証用の箱を1台常駐させてます。毎回ゼロから建てる運用は、人の時間を削るだけで何も生まないんですよ。
テキトー教師DotAI 認定講師常駐は効きますね。社内ツール側はモデル名の指定を1か所にまとめておくと、差し替えが楽になります。
SGLangとDocker Model Runnerという別ルート
室谷代表取締役SGLangは何が違うんです？
テキトー教師DotAI 認定講師起動が
python3 -m sglang.launch_server --model-path "Qwen/Qwen3.8-27B" --host 0.0.0.0 --port 30000 という形で、ホストとポートを自分で決め打ちできます。社内のネットワーク設計に合わせやすいんですよね。室谷代表取締役ポートを自分で握れるのは運用側としてはありがたい。コンテナで揃えたいチームはどうします？
テキトー教師DotAI 認定講師それなら
docker model run hf.co/Qwen/Qwen3.8-27B です。環境ごと固めたいときはこちらのほうが早いです。室谷代表取締役選択肢が3つあるのは、裏を返すと「どれを社内標準にするか決める」のが経営側の仕事なんですよね。2つ混ざると保守が倍になる。
262Kを超える長文脈はYaRNを明示的に有効化する
- config.json の
text_config.rope_parametersを公式の値に書き換える（rope_typeをyarn、factorを 4.0 など） - もしくは vLLM なら
VLLM_ALLOW_LONG_MAX_MODEL_LEN=1、SGLang ならSGLANG_ALLOW_OVERWRITE_LONGER_CONTEXT_LEN=1を付けて起動する - 長文を常用しない環境では設定を戻す
室谷代表取締役262Kを超える長文を扱うとき、設定ファイルを書き換えるのと環境変数で上書きするの、どっちが現実的ですか。
テキトー教師DotAI 認定講師環境変数に寄せたほうが事故は少ないです。コンテナイメージを触らずに済みますし、どの起動でどの長さを許したかが記録に残りますから。
室谷代表取締役なるほど。設定ファイルを触ると再現性が落ちるんですよね。
デプロイのたびに差分が出るのは避けたい。
デプロイのたびに差分が出るのは避けたい。
テキトー教師DotAI 認定講師そこは揃えておきたいところです。書き換える方式は、設定を忘れたまま別の環境に持っていくと差分の原因が追えなくなります。
拡張するほど短文性能が落ちるリスクをどう扱うか
室谷代表取締役公式が「静的なYaRNは短文の性能を落とすことがある」と書いてるのが引っかかるんですよ。上限まで広げたくなるけど、常用はしないほうがいい？
テキトー教師DotAI 認定講師広げっぱなしはやめたほうがいいです。短いプロンプトの精度が落ちたことに気づかないまま本番に出るのが、現場だと一番怖いんですよ。
室谷代表取締役気づかない、が怖いんですよね。長文用と通常用でエンドポイントを分けるくらいがちょうどいいのかも。
テキトー教師DotAI 認定講師分けるのが現実的だと思います。片方を戻すのも簡単ですし、切り分けの手間が減ります。
Thinkingモードとreasoning_effortの調整、出力トークン予算の考え方
思考は既定でON、切り替えはパラメータで明示する
- チャット補完APIを呼ぶとき、
chat_template_kwargsにenable_thinking（思考の有効・無効）とpreserve_thinking（過去ターンの思考を保持、既定ON）を指定する - 同じリクエストに
reasoning_effortを渡し、xhigh/medium/lowから選ぶ
室谷代表取締役思考が既定でONって、地味に効く話なんですよね。何も指定せずに投げると思考が走る前提で待ち時間が積まれる。
ここを把握してないと、あとから「遅い」で騒ぐことになる・・・
ここを把握してないと、あとから「遅い」で騒ぐことになる・・・
テキトー教師DotAI 認定講師最初に戸惑うのがまさにそこですね。切るなら
何も書かなければONのまま動きます。
enable_thinking を明示的に渡す必要がある、と。何も書かなければONのまま動きます。
室谷代表取締役preserve_thinking も既定でONでしたっけ。テキトー教師DotAI 認定講師はい、そこも既定ONです。会話を続けるほど文脈に思考が積まれるので、トークン消費は増える。
残すか切るかは運用判断になります。
残すか切るかは運用判断になります。
xhigh・medium・lowの3段階をどう選ぶか
reasoning_effort の3段階と選び方
xhigh
- 既定の設定
- 複雑なタスク向け
medium
- 精度と速度のバランス
室谷代表取締役段階の説明はシンプルです。xhighが既定で複雑なタスク向け、mediumが精度と速度のバランス、lowが速度とコスト優先。
テキトー教師DotAI 認定講師名前だけ見ると全員lowにしたくなりますよね。ただ公式が「多段のエージェント処理では、分析不足による再試行が増えて総レイテンシも総トークン消費もむしろ増える場合がある」と書いてるんですよ。
室谷代表取締役経営目線だとそこが一番怖くて。1回あたりの単価を下げたのに再試行で3回叩いたら、コストは増えて納期も伸びる。
単価じゃなくタスク完了までの総額で見ないと判断を間違えるんですよね。
単価じゃなくタスク完了までの総額で見ないと判断を間違えるんですよね。
テキトー教師DotAI 認定講師現場感覚でも同じです。1本の作業を最後まで走らせて比べないと、途中の速さだけ見て「lowが速い」と結論づけちゃう。
比較の取り方を間違えるとハマります。
比較の取り方を間違えるとハマります。
出力の枠は262,144と131,072で先に切る
テキトー教師DotAI 認定講師出力長の予算、公式のベストプラクティスは「1Mコンテキストの範囲内で、Reasoning Contentを最大262,144トークン、Final Responseを最大131,072トークンに設定する」という数字なんですよ。
室谷代表取締役思考に使える枠と最終回答の枠が別で、上限も違う。ここを1本の出力上限でまとめて管理しようとすると破綻するんですよね。
テキトー教師DotAI 認定講師枠を決めずに投げるのも危ないです。思考が長引いた分だけ待たされるので、先に上限を切っておく。
初めて触る人が戸惑うのは、この「2つに分かれている」ところですね。
初めて触る人が戸惑うのは、この「2つに分かれている」ところですね。
室谷代表取締役予算を先に決めるのは事業の予算組みと同じで。枠を決めずに走らせると、終わったときに初めてコストが分かる状態になる・・・
サンプリング値は思考時と非思考時で別物
テキトー教師DotAI 認定講師サンプリングの推奨値が、ThinkingとInstructで別々に定義されてるんです。Thinkingがtemperature 1.0、top_p 0.95、top_k 20。
Instruct側はtemperature 0.7、top_p 0.80で、presence_penaltyも1.5と違う。
Instruct側はtemperature 0.7、top_p 0.80で、presence_penaltyも1.5と違う。
室谷代表取締役同じモデルなのに事実上2セットの設定を持ってるわけですよね。テンプレを1個作って両方に使い回すと、どちらかで挙動が崩れる。
テキトー教師DotAI 認定講師現場でも混ざりやすいところです。思考を切ったのにThinking用の値のまま回してる、みたいな。
切り替え時にセットごと差し替えるのが安全ですね。
切り替え時にセットごと差し替えるのが安全ですね。
室谷代表取締役設定は2セット持って、モードと一緒に切り替える。実装としては地味ですが、あとから事故らない一番安い方法なんじゃないですかね。
公式ベンチマークはどこまで上がったのか。数字の読み方まで
コーディング・エージェント系は前世代から大きく伸びた
室谷代表取締役まず前世代との差から見ておきたいんですけど、Terminal-Bench2.1が63.4から73.0、SWE-bench Proが53.5から61.7。で、DeepSWE1.1が13.3から42.2なので、ここだけ跳ね方が異常なんですよね・・・
テキトー教師DotAI 認定講師たしかに、数字の並びを見た瞬間に「え」ってなります。ただ公式の注記を見ると、コーディング系はClaude Code実行環境・temperature1.0・256Kコンテキストで測ってるんですね。
条件を揃えた上での数字なんですよ。
条件を揃えた上での数字なんですよ。
室谷代表取締役なるほど、条件が揃ってるなら素直に読めますね。LiveCodeBench v6も83.9から90.3ですし、27Bクラスがこの水準だと、これまで外部APIに投げる前提だった処理の原価計算、ちょっと引き直した方がいい数字ですよね。
テキトー教師DotAI 認定講師そこはそうなんですけど、点数だけ見て「じゃあ置き換えだ」となる前に、指標が何を測ってるのかを一回確認した方がいいです。
GPQA DiamondとHLEで見るクローズドモデルとの距離
室谷代表取締役クローズド勢との距離が気になるんですけど、GPQA Diamondは89.2で、比較対象のOpus4.6 Maxが91.3。ここはほぼ並んでるわけですよ。
テキトー教師DotAI 認定講師並んでますね。でもHLEは30.8に対して40.0なので、まだ開きがあるんです。
知識を問われる形と、調べながら考える形では、効いてくる力が違うんですよ。
知識を問われる形と、調べながら考える形では、効いてくる力が違うんですよ。
室谷代表取締役指標の性格の差か。前世代が24.0なので、そこから30.8まで上げてきた伸びは素直に評価していいんでしょうけど、フロンティアの土俵とは別物という整理ですね。
テキトー教師DotAI 認定講師そう受け取ってもらえると助かります。1点上がった下がったではなく、どこが埋まってどこが残ってるかで見る。
最初に戸惑うのがまさにそこなんですよ。
最初に戸惑うのがまさにそこなんですよ。
Agents' Last ExamのPass@1 20.4とScore 42.9、この差が意味するもの
室谷代表取締役ここが一番おもしろくて。同じベンチでPass@1が20.4、Scoreが42.9なんですよ。
前世代が10.6と27.3なので、両方とも2倍前後に伸びてる。
前世代が10.6と27.3なので、両方とも2倍前後に伸びてる。
テキトー教師DotAI 認定講師この2つ、意味が全然違うんです。Scoreは部分点の積み上げで、途中まで合っていれば拾われる。
Pass@1は最後まで完遂できた割合だけを見る。だから42.9と20.4の開きは「手応えはあるのに、完走はまだ半分以下」という姿なんですよね。
Pass@1は最後まで完遂できた割合だけを見る。だから42.9と20.4の開きは「手応えはあるのに、完走はまだ半分以下」という姿なんですよね。
室谷代表取締役つまり27Bクラスの中では上位でも、長いタスクを最後までやり切る力はまだ限定的、と。経営目線で言うと、ここが自動化の線引きになるので、成果物の最終確認は人間が持つ前提で組み立てた方が安全なんですよね。
テキトー教師DotAI 認定講師現場でもその線引きは同じです。まず途中までを速くする道具として入れて、完走は人が締める。
その順番なら事故らないと思います。
その順番なら事故らないと思います。
エージェントとして実務で使えるのか。PC操作・コーディングの現実味
PC・スマホ操作のスコアが跳ねた中身
室谷代表取締役OSWorld-Verified が84.3、AndroidWorld が81.9。前の世代が63.9と70.3なので、画面を見て操作する系の数字が一気に跳ねてるんですよね。
ここは素直に「エージェントが実務の射程に入った」と読んでます。
ここは素直に「エージェントが実務の射程に入った」と読んでます。
テキトー教師DotAI 認定講師現場感覚で言うと、画面操作系はこれまで「デモは動くけど実務は無理」が相場だったんですよ。ボタンの位置が少しズレただけで止まってしまうので。
室谷代表取締役ただ、ベンチのスコアがそのまま業務になるかは別で。WebArena-Verified が64.8なので、3回に1回は失敗する前提で組まないといけない・・・
テキトー教師DotAI 認定講師そうなんですよね。失敗したときに何をやり直すかまで設計に入れないと、かえって現場が疲れるやつです。
コーディング実務ではどこに置くか
エージェントの実務スコア比較(前世代比)
| ベンチマーク | 前世代 | 現世代 |
|---|---|---|
| OSWorld-Verified | 63.9 | 84.3 |
| AndroidWorld | 70.3 | 81.9 |
| WebArena-Verified | - | 64.8 |
| SWE-bench Pro | 53.5 | 61.7 |
| Terminal-Bench2.1 | 63.4 | 73.0 |
| DeepSWE1.1 | 13.3 | 42.2 |
室谷代表取締役コーディング側は SWE-bench Pro が61.7、Terminal-Bench2.1 が73.0。前世代が53.5と63.4なので伸びてはいるけど、まだ「任せきり」でいい数字ではない。
テキトー教師DotAI 認定講師初めて触る人は、コマンドを延々と叩いてくれる前提で期待しちゃうんですよ。実際は途中で方針がズレることがあって、そこを人間が戻す前提で見たほうがいい。
室谷代表取締役DeepSWE1.1 が42.2まで上がってるのは注目で。前世代が13.3なので、長い手順を跨ぐタスクの伸びが大きいんですよ。
テキトー教師DotAI 認定講師伸び幅が大きいところは「使いどころが変わった」ポイントなので、導入検討では前世代との差分から見るのがわかりやすいですね。
DeepSeek Harnessと組ませると何が起きるか
室谷代表取締役基盤側の話もしておくと、DeepSeek Harness という、これと同じ8月14日にDeepSeekが出したオープンソースのエージェント基盤があるんですよ。MITライセンスで、モデル・ツール・UIをプラグインとして差し替えられる構成でGitHubに公開されていて。
テキトー教師DotAI 認定講師なるほど、そこでバックエンドのモデルを27Bに挿す、という組み合わせができるわけですか。
室谷代表取締役できますね。ただし注意点があって、公式が「reasoning_effortを下げても、多段のエージェント処理では分析不足による再試行が増えて、総レイテンシや総トークン消費がむしろ増える場合がある」と書いてるんですよ。
ツール呼び出しを往復させる基盤ほど、まさにその状況になりやすい。
ツール呼び出しを往復させる基盤ほど、まさにその状況になりやすい。
テキトー教師DotAI 認定講師安く上げようと落とした設定が、往復回数で跳ね返ってくるやつですね。最初は既定のxhighで組んで、遅さが許容できるかで判断する順番がいいと思います。
27Bを自社で持つ意味をコストで考える
室谷代表取締役27Bを自社サーバーで持つ意味って、まさにここなんですよ。細かいツール呼び出しを何十回も往復させる使い方だと、従量のAPIだと費用が読めなくなる。
MYUUUの現場でも、試算は「1タスクあたり何往復するか」で置くようにしてます。
MYUUUの現場でも、試算は「1タスクあたり何往復するか」で置くようにしてます。
テキトー教師DotAI 認定講師回数で決まるので、体感より試算が効きますよね。
室谷代表取締役あと公式が配布・保証してるのはBF16とFP8だけで、GGUFやAWQは第三者の変換なので品質確認は利用者側の責任、と明記されてます。自社で抱えるなら、そこも含めて検証コストを見ておかないと。
テキトー教師DotAI 認定講師モデルを選ぶというより、運用ごと選ぶ感じですね。
よくある質問
Q1. 日本語の文章、実務でそのまま使える？
室谷代表取締役日本語で聞いても普通に返ってくるんですよね。ただ、そのまま提出できるかっていうと、それは別の話で・・・
テキトー教師DotAI 認定講師現場でよく聞くのは「読めるけど直したくなる」という感想です。敬語の粒度とか固有名詞の表記が微妙にずれるので、下書きとして使って人が整える、という前提が現実的ですね。
室谷代表取締役あと、評価って結局プロンプト依存なんですよ。モデル単体の良し悪しより、指示文と出力フォーマットをどれだけ詰めたかで結果が変わるので。
Q2. 量子化すると品質はどれくらい落ちる？
テキトー教師DotAI 認定講師初めて触る人は「軽くしても同じ」と思いがちなんですけど、そこは割り切ったほうがいいです。ざっくり言うと、軽くするほど指示の細かいニュアンスが抜けやすくなります。
室谷代表取締役用途で分けるのが早いんですよね。要約や分類は軽いのでも回る、長い手順書を最後まで遂行させるのは重いほうが無難、みたいな。
テキトー教師DotAI 認定講師そうなんですよね。同じタスクで2つ動かして比べるのが一番早いです。
表の数字だけ見て決めると、あとで「思ってたのと違う」になりがちなので。
表の数字だけ見て決めると、あとで「思ってたのと違う」になりがちなので。
Q3. クラウドのAPIとローカル、どっちが得？
室谷代表取締役ここは時給で換算すると判断しやすいんですよ。トークン単価だけ見るとローカルが安く見えるけど、セットアップと運用の工数が乗ってきますからね・・・
テキトー教師DotAI 認定講師たしかに。あと現場だと「データを外に出せない」が先に来ることが多いです。
その要件がある時点で選択肢は絞られますし。
その要件がある時点で選択肢は絞られますし。
室谷代表取締役逆に、品質を確かめたい段階でいきなりGPUを積むのは順番が逆なんですよ。PoCはAPIで回して、当たりが出てから手元に持ってくる。
Q4. ファインチューニングは現実的？
テキトー教師DotAI 認定講師最初に戸惑うのがそこなんですけど、いきなり学習にいく前に、プロンプトとRAGでどこまで行けるかを見たほうがいいですね。足りない部分が本当に重みの問題なのか切り分けられます。
室谷代表取締役やるならデータ整備のコストのほうが本体なんですよ。GPUを増やす話より、教師データを誰がいつ作るかのほうが重い。
テキトー教師DotAI 認定講師そうですね。あと重みをいじったものを社外に配る場合は、条件の確認が要ります。
社内で使うだけなら話は軽いんですけど、そこは分けて考えたほうが安全です。
社内で使うだけなら話は軽いんですけど、そこは分けて考えたほうが安全です。
Q5. 社内導入の稟議、何を説明すれば通る？
室谷代表取締役経営側から見ると、稟議で一番効くのは「で、いくら安くなるの」なんですよ。工数が何時間減るかを先に置く。
テキトー教師DotAI 認定講師現場感覚で言うと、そこに「誰が運用するか」を足しておくといいですね。立てた人は褒められるけど、面倒を見る人が決まってないと半年で止まります。
室谷代表取締役あと、ライセンスと社内規程の確認は先に済ませておく。後から「これ配布していいの？」で止まるのが一番もったいないので。
まとめ
室谷代表取締役27Bっていうサイズが、今のローカル実行の現実的な落としどころなんですよね。大きすぎず小さすぎず、手元のGPUで回して仕事に使うライン。
テキトー教師DotAI 認定講師引っかかりやすいのがライセンスとVRAMの確認なんですけど、そこを先に押さえてから手を動かすと早いです。数値は環境で変わるので、公式の最新情報を見てくださいね。
室谷代表取締役で、動かしたあとに「で、何が速くなるの」を一回考えてほしいんですよ。ベンチの数字が良くても、自分の業務が変わらなければ意味がないので。
テキトー教師DotAI 認定講師まずは一番軽い構成で、自分のタスクをひとつ回してみるのが現実的ですね。動いてから量子化を上げるなり、サーバー化するなり、順番に進めればいいので。
