Ollamaのモデルにはどんな種類がある？用途別の地図
「Ollama公式モデル」という前提をまず外す
室谷代表取締役モデルの話に入る前に、前提をひとつ外しておきたいんですよね。Ollamaって自分でモデルを作ってる会社じゃなくて、配るところと動かすところを担当してる。
だから「Ollama公式モデル」みたいな括りは存在しないんです。
だから「Ollama公式モデル」みたいな括りは存在しないんです。
テキトー教師DotAI 認定講師そこ、最初に戸惑う人が多いんですよ。モデルの一覧を見に行ったのに、並んでるのがMetaだったりGoogleだったりして、あれ？ってなる。
室谷代表取締役中身はllama.cpp系の推論エンジンで、Apple SiliconだとMLXも併用される。要は器であって、中身は外から来るんですよね。
だから選ぶときは「誰が作ったか」と「どんな条件で使えるか」をセットで見ることになります。
だから選ぶときは「誰が作ったか」と「どんな条件で使えるか」をセットで見ることになります。
用途で5つに分けると迷わない
Ollamaで扱うモデル5分類＋Decisionの用途マップ
| 系統 | 代表例 | 向いてる使い方 |
|---|---|---|
| 汎用 | llama3.1、qwen3、gemma4 | 文章生成・要約・チャット全般 |
| 推論 | deepseek-r1、thinking対応モデル | 考えてから答えるタスク |
| マルチモーダル | gemma4、llava、glm-ocr | 画像の読み取り・OCR |
| コーディング | qwen3-coder、qwen2.5-coder | コード生成・修正 |
| Embedding | nomic-embed-text、mxbai-embed-large | RAGの検索側 |
| Decision | 分類・ルーティング特化の小型モデル | 分類・ルーティング |
テキトー教師DotAI 認定講師種類なんですが、大きく5つに分けてしまうと整理しやすいです。汎用、推論、マルチモーダル、コーディング、Embeddingですね。
| 系統 | 代表例 | 向いてる使い方 |
|---|---|---|
| 汎用 | llama3.1、qwen3、gemma4 | 文章生成・要約・チャット全般 |
| 推論 | deepseek-r1、thinking対応モデル | 考えてから答えるタスク |
| マルチモーダル | gemma4、llava、glm-ocr | 画像の読み取り・OCR |
| コーディング | qwen3-coder、qwen2.5-coder | コード生成・修正 |
| Embedding | nomic-embed-text、mxbai-embed-large | RAGの検索側 |
室谷代表取締役この5分類、事業側から見ると優先順位がはっきりするんですよ。RAGを組むならEmbeddingは必須で、汎用モデルだけ入れても検索精度は上がらない。
用途を先に決めてから引く、が正しい順番なんですよね。
用途を先に決めてから引く、が正しい順番なんですよね。
テキトー教師DotAI 認定講師あとDecisionという分類もあって、分類・ルーティングみたいな地味な処理に特化した小型モデルが並んでます。派手じゃないけど、業務に組み込むと効いてくるやつです。
日本語で使うならどれを選ぶ？
室谷代表取締役日本語、ってなると話が変わってくるんですよね。多言語対応をうたってるモデルでも、日本語の出方はけっこう差が出ます。
テキトー教師DotAI 認定講師現場感覚で言うと、まずQwen3系かgemma4あたりから試すのが素直だと思います。どちらも多言語対応で、日本語の入出力に対応してます。
ただ、そのまま投げると英語のクセが残るので、SYSTEM命令で日本語で答えるよう指示を入れる。これだけで体感が変わるんですよ。
ただ、そのまま投げると英語のクセが残るので、SYSTEM命令で日本語で答えるよう指示を入れる。これだけで体感が変わるんですよ。
室谷代表取締役Modelfileに書いておけば毎回プロンプトに足さなくていい、と。地味ですが効くコスト削減なんですよね。
毎回食ってたトークンを固定化できるわけですから。
毎回食ってたトークンを固定化できるわけですから。
商用利用できるかはライセンスで決まる
室谷代表取締役ここが一番事故りやすいところなんですが、商用で使えるかはモデルごとのライセンスで決まります。Apache 2.0は商用・改変・再配布が自由、MITは商用可だけど帰属表示が要る。
テキトー教師DotAI 認定講師Llama系はMetaのコミュニティライセンスで、月間アクティブユーザーが7億人を超える規模だと別途申請が必要になります。そこまで行かないサービスなら商用可、という整理ですね。
Gemmaは利用規約で、競合するAIサービスへの組み込みに制限がかかります。
Gemmaは利用規約で、競合するAIサービスへの組み込みに制限がかかります。
室谷代表取締役MYUUUの現場だと、この確認を後回しにするとリリース直前に止まるんですよ。モデルを選んだ時点でライセンスを一行メモする、みたいに決めておくのが結局いちばん速い。
gpt-ossみたいに詳細を公式で確認しないといけないものもあるので、配布元のページは必ず見たほうがいいです。
gpt-ossみたいに詳細を公式で確認しないといけないものもあるので、配布元のページは必ず見たほうがいいです。
最新のモデル一覧はどこで確認する？
探す入口は3つに分かれている
室谷代表取締役種類の地図は見たので、次は「どこで一覧を見るか」なんですが・・・ここ、入口が3つに分かれてるんですよ。人気順のライブラリ、新着順、それと検索です。
テキトー教師DotAI 認定講師最初に戸惑うのがまさにそこなんですよね。「同じサイトなのに並び順が違うのか」と。
人気順だけ眺めてると、新しく出たモデルにずっと出会わないんですよ。
人気順だけ眺めてると、新しく出たモデルにずっと出会わないんですよ。
室谷代表取締役手元に落としたものは
この3つ、用途がはっきり違うんです。
ollama list で見る。クラウド側は手元に降りてこないので、ブラウザで見るしかない。この3つ、用途がはっきり違うんです。
テキトー教師DotAI 認定講師現場でよく聞くのは「入れたはずのモデルが見当たらない」なんですが、だいたい見る場所がずれてるだけだったりします。
タグと容量で絞り込む
室谷代表取締役絞り込みはカテゴリと機能タグで切れます。Tools、Thinking、Vision、Embedding、Decision・・・この5つですね。
テキトー教師DotAI 認定講師Decisionは聞き慣れない人が多いと思います。分類とかルーティングみたいな地味な用途に効く枠で、チャット用とは別物なんですよ。
室谷代表取締役ダウンロード容量でも絞れます。ライブラリ全体が256モデル、うちローカルが241でクラウドが20。
この規模だと、タグで切らないと探す気が失せる数字なんですよね。
この規模だと、タグで切らないと探す気が失せる数字なんですよね。
テキトー教師DotAI 認定講師数が増えると「とりあえず人気の上から」になりがちなので、先に用途で絞る癖をつけるといいですね。
2026年10月、ローカルで存在感があるモデル
室谷代表取締役実際に今動いてるのは、llama3.1が8B/70B/405Bでtools対応、更新は1年前でも利用数はトップ層なんですよ。qwen3は0.6Bから235BまでdenseとMoEが混在、gemma4は12B/26B/31Bでvision・tools・thinking・audio、gpt-ossは20B/120BでOpenAIのオープンウェイトです。
テキトー教師DotAI 認定講師世代で選ぶと外すんですよね。更新が古くても使われ続けてるモデルはあって、逆に新しくても触られてないものもある。
初めて触る人は更新日の新しさだけで判断しがちです。
初めて触る人は更新日の新しさだけで判断しがちです。
室谷代表取締役OpenAIがオープンウェイトを出してる時点で、ローカル前提のモデルが一気に増えたんですよ。業界構造として、配布する側が「自社APIに来なくてもいい」を許容し始めたのが大きい。
テキトー教師DotAI 認定講師gemma4は更新が5日前、gpt-ossは1週間前なので、追いかけるなら新着順を見たほうが早いですね。
クラウド側は数日単位で入れ替わる
室谷代表取締役クラウドは更新が数日単位で動いてて、GLM-5.3、GLM-5.3-flash、DeepSeek-V4.1-Flash、Mistral Large 4あたりが直近で並んでるんですよね。
テキトー教師DotAI 認定講師ローカルのつもりで検索を開くと上にクラウドのモデルが出てくるので、「これ自分のPCで動くの？」と混ざる人が多いです。cloudタグが付いてたら別物だと思ったほうがいい。
室谷代表取締役cloudタグはトークン課金です。1Mトークンあたりの単価を並べるとこうなります。
で、ROIで見るなら出力側の単価を先に見たほうがいいんですよね。agenticに回すと出力が膨らむので、入力の安さだけ見てると読み違えます。
で、ROIで見るなら出力側の単価を先に見たほうがいいんですよね。agenticに回すと出力が膨らむので、入力の安さだけ見てると読み違えます。
| モデル | 入力/1M | 出力/1M |
|---|---|---|
| glm-5.3-flash | $0.15 | $0.50 |
| deepseek-v4.1-flash | $0.30 | $1.20 |
| mistral-large-4 | $0.68 | $2.09 |
| muse-spark-open | $1.25 | $4.25 |
| glm-5.3 | $1.40 | $4.40 |
テキトー教師DotAI 認定講師同じ「flash」でも単価がかなり違うので、名前で選ぶと危ないですね。公式の一覧は更新が早いので、数日前の情報でも鵜呑みにせず見直す前提でいたほうがいいと思います。
モデルを探してダウンロードし、実行するまでの手順
モデルを探してダウンロードし、実行するまでの手順
- 01ollama pullで取得ターミナルで `ollama pull <モデル名>:<タグ>` を実行。タグを省略すると既定のタグ(latest)が取得される
- 02ollama listで確認手元に何が落ちたかを `ollama list` で確認する
- 03ollama runで実行未取得のモデル名を指定すると自動でpullから始まる。先にpullで落としておくと挙動が読みやすい
- 04Hugging FaceのGGUFを直接指定`ollama pull hf.co/<ユーザー名>/<リポジトリ名>:<タグ>` を実行。例: `ollama pull hf.co/bartowski/Athene-V2-Agent-GGUF:Q4_K_M`
- 05ollama showで素性確認`ollama show --modelfile <モデル名>` でパラメータや能力タグ(ツール呼び出し対応など)を確認する
ollama pullで取る、タグ指定でサイズを選ぶ
- ターミナルで
ollama pull <モデル名>:<タグ>を実行する - タグを省略した場合は既定のタグ（latest）が取得される
- 手元に何が落ちたかは
ollama listで確認する
室谷代表取締役名前を打つだけなので、ここ自体は詰まらないんですよね。ただタグを省略すると既定のタグが落ちてくるので、サイズを選びたい人は
それだけです。
:タグ まで書く。それだけです。
テキトー教師DotAI 認定講師最初に戸惑うのがまさにそこで、「名前だけ打ったら想定より重いものが降りてきた」というのは現場でよく聞きます。タグがサイズと量子化の指定を兼ねている、と捉えると腹落ちしやすいんですよ。
室谷代表取締役同じ名前で中身が別物、ってことですもんね。ライブラリ側もタグ単位で別物として並んでいますから、選ぶときに見るべきは名前よりタグなんですよ。
ollama runは未取得なら自動でpullしてくれる
テキトー教師DotAI 認定講師run だけで済むケースも多くて、まだ取っていないモデル名を指定すると取得から始まります。まず触ってみたいだけなら、pull を飛ばして run から入ってもいいんですよ。
室谷代表取締役それは知らない人が多いと思います。裏を返すと、run した瞬間にダウンロードが走るので、回線が細いと「固まった？」に見える。
先に pull で落としておくほうが挙動は読みやすいですね。
先に pull で落としておくほうが挙動は読みやすいですね。
テキトー教師DotAI 認定講師たしかに。プロンプトが出てこない間は取得中だと割り切ってもらえれば、落ち切ったところでそのまま対話が始まります。
Hugging FaceのGGUFを直接持ってくる
- Hugging Face側でGGUFのリポジトリ名と量子化タグを確認する
ollama pull hf.co/<ユーザー名>/<リポジトリ名>:<タグ>を実行する- 実際の書き方は
ollama pull hf.co/bartowski/Athene-V2-Agent-GGUF:Q4_K_Mのような形
室谷代表取締役ライブラリに無いモデルは、hf.co から始まる書き方で直接指定できます。
ollama pull hf.co/bartowski/Athene-V2-Agent-GGUF:Q4_K_M みたいに、リポジトリ名の後ろへ量子化のタグを付ける形ですね。テキトー教師DotAI 認定講師hf.co/LiquidAI/LFM2.5-2.6B-GGUF:Q8_0 という書き方もあって、run でも同じ記法が通ります。この記法はあくまでGGUFのリポジトリ向けで、Safetensors 形式は重みの入ったディレクトリを Modelfile の FROM で指定する別の手順になるんですよ。室谷代表取締役そこは混ざりやすいので、GGUFなら hf.co の直指定、それ以外は FROM でディレクトリ、と分けて覚えたほうが早いですね。
動いたら次にやるのはollama showでの素性確認
テキトー教師DotAI 認定講師動いたら終わりにしないでほしいのが、
ollama show --modelfile <モデル名> での確認です。どんなパラメータで動いているかが見えるので、出力が思ったのと違うときに原因を追いやすくなります。室谷代表取締役ツール呼び出しに対応しているかも
うちの現場だと、まず素性を確認してから次の検証に進むのが当たり前になってます。
ollama show の能力タグで分かるんですよね。エージェントから呼ぶ前提なら、そこが見えていないと後で詰まる。うちの現場だと、まず素性を確認してから次の検証に進むのが当たり前になってます。
テキトー教師DotAI 認定講師手元のモデルが何者かを把握しておくと、相性のいい組み合わせを探すときも迷わないんですよ。地味ですけど、たぶん一番のショートカットです。
室谷代表取締役自分のPCに合うモデルサイズは？メモリ別の目安と量子化の選び方
8GB／16GB／32GB以上、メモリ別に現実的なサイズ感
室谷代表取締役サイズ選びで一番多い失敗が、スペックを見ずに大きいモデルから入ることなんですよね。手元のメモリから逆算した方が早いです。
テキトー教師DotAI 認定講師たしかに。現場でよく聞くのも「14Bを入れたら返事が返ってこない」みたいな話で、だいたい積みすぎが原因なんですよ。
室谷代表取締役目安を置くとこうなります。
| メモリ・構成 | 現実的なサイズ | 主な用途 |
|---|---|---|
| 8GB・GPUなし | 1B〜3B | 軽いテキスト生成・コーディング補助 |
| 16GB | 4B〜8B | 開発補助・要約・RAG |
| 32GB以上 | 14B〜30B以上 | 本格的な推論・複雑なエージェント |
テキトー教師DotAI 認定講師16GBで4B〜8Bなら、要約やRAGの下調べには十分戦えます。数字を追うより、1段下のサイズで慣れる方が失敗しないです。
Apple Siliconは統合メモリをVRAMとして使う
室谷代表取締役Macの人は事情が違って、統合メモリをVRAMと共有する形で推論するんですよ。Ollama 0.30以降はMLXエンジンも併用されるので、同じメモリ量でも体感が変わってきます。
テキトー教師DotAI 認定講師初めて触る人が戸惑うのがまさにそこなんですよ。「GPUメモリが16GB」みたいに区切られていないので、どこまで載るのか感覚が掴みにくいんですよね。
室谷代表取締役だからMacは増設できない前提で、メモリ量を先に決めてからサイズを選ぶ。この順番が一番安全です。
テキトー教師DotAI 認定講師納得です。後から積めない前提にすると、選び方もぶれないですね。
量子化タグは精度と速度のトレードオフで選ぶ
テキトー教師DotAI 認定講師タグの話も整理したいんですけど、同じモデル名でも後ろに付く量子化で重さと精度が変わるんですよ。Q4_K_Mのようなタグがそれですね。
室谷代表取締役Ollamaの内部はllama.cppと同じGGUF形式の重みを扱うんですが、Ollama自身はインポート時に量子化まではしないんですよね。量子化前の変換はllama-quantizeのような外部ツールでやる必要がある。
テキトー教師DotAI 認定講師なので配布されているタグを選ぶ側は、精度を取るか、速度と容量を取るかの判断になるんです。最初は真ん中あたりの量子化で試すのが無難です。
室谷代表取締役迷ったら小さいサイズで量子化を上げる方が、大きいサイズをきつく量子化するより扱いやすい印象はあります。まあ用途次第ですけど。
本番で使うならlatestを避けてタグを固定する
室谷代表取締役ここからは運用の話で。本番で回すなら
ある日pullしたら中身が変わっていて、出力が再現しないという事故が起きます。
:latestは避けた方がいいんですよね。ある日pullしたら中身が変わっていて、出力が再現しないという事故が起きます。
テキトー教師DotAI 認定講師現場感覚で言うと、検証時と結果が違うのに原因が分からず、延々とプロンプトを疑い続けるパターン。これ、ハマる人多いんですよ。
室谷代表取締役明示的なバージョンと量子化のタグを固定しておけば、少なくともモデル側は動かない。切り分けの土台ができるわけです。
テキトー教師DotAI 認定講師試してる間は気軽に触って、固まったらタグを固定する。その順番がちょうどいいですね。
コーディングに向くモデルはどれ？エージェントから呼び出す方法
コード特化モデルの系譜、今はどっちを使う？
qwen3-coder と qwen2.5-coder の比較
qwen3-coder
- 現行の主力
- 30Bと480Bの2サイズ
- 長いコンテキストを扱うagenticコーディング向け
- tools対応
- pulls: 10.1M
qwen2.5-coder
- 旧世代(更新は1年前)
- 0.5B〜32Bのシリーズ
- コード生成・修正に特化
- tools対応
- pulls: 22.6M
- 小さいサイズが揃っており非力なマシンでも選択可
室谷代表取締役コーディング用途で名前が上がるのは qwen3-coder なんですよね。30Bと480Bの2つで、長いコンテキストを扱うagenticコーディング向け、toolsにも対応してる。
現行の主力はこっちです。
現行の主力はこっちです。
テキトー教師DotAI 認定講師ただ、現場でよく聞くのは「qwen2.5-coder の情報を見て入れました」という声で。コード生成・修正に特化した 0.5B〜32B のシリーズで、こちらも tools 対応なんですよ。
室谷代表取締役pulls で見ると 2.5 のほうが多いんですよね、22.6M に対して 10.1M。でも更新は1年前で、位置づけとしては旧世代なんです。
数字だけ見ると判断を誤る典型というか。
数字だけ見ると判断を誤る典型というか。
テキトー教師DotAI 認定講師小さいサイズが揃ってるのは 2.5 の強みで、手元のマシンが非力なときは選択肢になります。そこはサイズの話とセットで考えるところですね。
ollama launch でエージェントを一行起動
ollama pull <モデル名>で使いたいモデルを先に取得するollama launch claude --model <モデル名>のように、エージェント名とモデル名を指定して起動する- Hermes Agent なら
hermes、OpenClaw ならopenclawをエージェント名の位置に置く
室谷代表取締役これ、2026年6月の Ollama 0.30 で入った機能で。
ollama launch にエージェント名を渡すだけで、Claude Code、Hermes Agent、OpenClaw が立ち上がるんですよ。テキトー教師DotAI 認定講師最初に戸惑うのが、どのモデル名を渡せばいいのか分からないところで。先に pull して
ollama list に出てくる名前をそのまま使えばいいんですけど、そこが繋がらないんですよね。室谷代表取締役動くかどうかはtoolsタグで先に確かめる
テキトー教師DotAI 認定講師起動する前に必ず見てほしいのが
ollama show <モデル名> の能力タグなんです。tools が付いていないモデルだと、エージェントから呼んでもツールを叩けません。室谷代表取締役ここが選定の分かれ目で。モデル単体の賢さで選ぶと、いざエージェントに繋いだときに動かない、ということが起きるんですよね。
テキトー教師DotAI 認定講師ベンチの数字が良く見えるモデルほど、この確認を飛ばしがちで。現場感覚だと、まず tools の有無、そのあとサイズ、の順で見るほうが失敗が少ないです。
室谷代表取締役開発チームに配る立場だと、この一行の確認を外したまま「じゃあエージェントで」と進めるのが一番コスト高いんですよ。手戻りがモデル選びからやり直しになりますから。
複数のモデルを切り替えて使うには？
接続先とモデル名を差し替えるだけで済む
室谷代表取締役切り替えって、コードを書き直す話になりがちなんですけど、Ollamaは
http://localhost:11434/v1でOpenAI互換の口を出してるんですよね。だからクライアント側のbase_urlをそこに向けて、リクエストのmodelを変えるだけで別モデルに切り替わるんですよ。テキトー教師DotAI 認定講師そこ、最初に戸惑うのが「モデルごとにSDKを入れ替えるのか」というところで。実際はmodelの文字列を変えるだけなので、現場でよく聞くのも「こんなに簡単でいいんですか」という反応です。
室谷代表取締役ストリーミングもJSONモードもseedもlogprobsも、ツール呼び出しもこの口で通るので、比較用のスクリプトを1本作れば同じ土俵で並べられる。検証の設計が一気に楽になるんですよね。
テキトー教師DotAI 認定講師条件を揃えて比べられるのが大きいですね。体感値だけで語らなくて済みますし。
Pythonクライアントから呼ぶ
pip install ollamaでクライアントを入れるollama.chat(model="<モデル名>", messages=[{"role": "user", "content": "..."}])の形で呼ぶ- modelの部分だけ差し替えれば、同じコードで別のモデルを呼べる
テキトー教師DotAI 認定講師手順としてはこれだけで、あとはmodel名の在庫を
ollama listで見ながら変えていく感じです。室谷代表取締役ここでやりがちなのが、
modelをベタ書きして散らかすパターン。設定ファイルか環境変数に追い出しておくと、後から差し替えが効きますよ。テキトー教師DotAI 認定講師初めて触る人は、どのmodel名が正しいのか分からずにエラーを出しがちですね。タグまで含めて正確に書くのがコツです。
室谷代表取締役あと、本番で使うなら
:latestは避けて、バージョンと量子化タグを固定した方がいい。出力の再現性が変わってくるので。同時ロード数と保持時間を調整する
室谷代表取締役切り替えで一番ハマるのがメモリなんですよ。モデルは既定で5分間メモリに保持されたあとにアンロードされる。
頻繁に切り替えると、その間ずっと積み上がっていくわけです。
頻繁に切り替えると、その間ずっと積み上がっていくわけです。
テキトー教師DotAI 認定講師現場感覚で言うと、大きいモデルを2つ3つ並べた瞬間にファンが唸り出すやつですね。ここで気づく人が多いんですよ。
室谷代表取締役なので環境変数で上限を締める。既定値はこうなってます。
| 環境変数 | 役割 | 既定値 |
|---|---|---|
OLLAMA_MAX_LOADED_MODELS | 同時にロードできるモデル数の上限 | GPU数×3（CPU推論のみなら3） |
OLLAMA_KEEP_ALIVE | メモリ保持時間の既定値 | 5分 |
OLLAMA_NUM_PARALLEL | 1モデルが同時に処理する並列リクエスト数 | 1 |
OLLAMA_MAX_QUEUE | 処理待ちでキューイングする最大数 | 512 |
テキトー教師DotAI 認定講師保持時間はAPI側の
即座に落としたいときは
keep_aliveでも指定できて、-1で常時保持、0で応答後すぐアンロード。APIの指定が環境変数より優先されるので、常用するモデルだけ-1にする使い方が分かりやすいですね。即座に落としたいときは
ollama stop <モデル名>です。モデルの保存場所はどこ？不要なモデルの削除と容量管理
OS別のデフォルト保存先とOLLAMA_MODELSでの変更
OS別のデフォルト保存先とOLLAMA_MODELSでの変更
macOS
- ホーム配下の .ollama/models
- OLLAMA_MODELS で丸ごと移行可能
Windows
- ユーザーフォルダ配下の .ollama\models
- OLLAMA_MODELS で丸ごと移行可能
室谷代表取締役保存先の話、先にデフォルトを押さえておきたいんですよね。macOSはホーム配下の
ここ、覚えておかないと後で探せなくなります。
.ollama/models、Windowsはユーザーフォルダ配下の .ollama\models、Linuxだけ /usr/share/ollama/.ollama/models と置き場所が違う。ここ、覚えておかないと後で探せなくなります。
テキトー教師DotAI 認定講師そこ、初めて触る人がかなり戸惑うところで。「ホームを見ても無いんですけど」って声をよく聞きます。
Linuxだけ別系統なんですよね。
Linuxだけ別系統なんですよね。
室谷代表取締役で、丸ごと移したいときは
OLLAMA_MODELS で指定する。ただしLinuxの標準インストーラだと、移した先の読み書き権限を ollama ユーザーに渡す必要があって、sudo chown -R ollama:ollama <ディレクトリ> を忘れると読めないまま起動します。テキトー教師DotAI 認定講師順番が大事なんですよ。先にディレクトリを作る、次に所有権を変える、最後に環境変数。
逆にすると大体つまずきます。
逆にすると大体つまずきます。
ollama rmで消す、タグ指定と-fの使いどころ
ollama listで今あるモデルとサイズを確認するollama rm <モデル名>:<タグ>で削除する（タグを省略するとデフォルトタグのみが消える）- 依存関係で消せないときは
ollama rm -f <モデル名>を使う
テキトー教師DotAI 認定講師タグを省略したときの挙動、これ知らないと「消したのに残ってる」ってなるんですよね。同じモデル名で複数タグを持っていると、片方だけ消えてる状態になります。
室谷代表取締役ですね。で、
乱用すると何を消したのか分からなくなるので、まず通常の削除で試す。
-f は最終手段で、依存が絡んでどうしても消えないとき用。乱用すると何を消したのか分からなくなるので、まず通常の削除で試す。
テキトー教師DotAI 認定講師削除じゃなくて、メモリから降ろしたいだけなら
目的が違うので混同しやすいところです。
ollama stop ですもんね。ディスクは減らないけど、VRAMやRAMは空く。目的が違うので混同しやすいところです。
ディスクを圧迫する前に確認しておくこと
室谷代表取締役削除より先にやるべきは棚卸しで、
ollama list でサイズを見て使っていないものを落とす。モデルは1つが数GBから数十GBまで行くので、いくつか試しているうちに静かに埋まります。テキトー教師DotAI 認定講師よくあるのが、保存先を変えたのに前の場所の分を消し忘れているパターン。二重に持っているだけで、空き容量は増えていないんですよ。
室谷代表取締役そこ、地味に効きますよね。移行したら旧ディレクトリの中身を確認する。
あと、大きいモデルを試す前に空き容量を見る癖をつけておくと事故が減ります。
あと、大きいモデルを試す前に空き容量を見る癖をつけておくと事故が減ります。
テキトー教師DotAI 認定講師たしかに。試すと削除を一回の作業でまとめてやるのが、結局いちばん早いですね。
Modelfileで自分用のモデルを作る。新しい命令と注意点
基本の命令と、作成までの3ステップ
Modelfileで自分用モデルを作る3ステップ
- 01Modelfileを書いて保存テキストファイルにFROM・PARAMETER・TEMPLATE・SYSTEMなどを記述。FROMのみ必須
- 02ollama create を実行ollama create <モデル名> -f <Modelfileのパス>
- 03ollama run で起動確認ollama run <モデル名> で挙動を確認する
- テキストファイルに Modelfile を書いて保存する
ollama create <モデル名> -f <Modelfileのパス>を実行するollama run <モデル名>で起動して挙動を確認する
code
FROM llama3.2
PARAMETER temperature 0.4
PARAMETER num_ctx 8192
SYSTEM 日本語で簡潔に答えるアシスタントとして振る舞う基本の命令はFROM・PARAMETER・TEMPLATE・SYSTEMの4つを押さえれば足ります。FROMだけが必須で、残りは必要なときだけ書き足す形ですね。
室谷代表取締役temperatureの既定が0.8、num_ctxが2048なんですよね。「思った通りに動かない」の原因が、だいたいこの2つの初期値だったりします。
テキトー教師DotAI 認定講師現場でよく聞くのは「同じ質問なのに毎回答えが変わる」なんですけど、それtemperatureを下げるだけで落ち着くことが多いんです。TEMPLATEはGoテンプレート構文なので、慣れるまでは触らない方が安全です。
室谷代表取締役あとSYSTEMですね。日本語の出力品質を上げたいなら、ここに日本語で指示を書くのが一番効く。
毎回プロンプトを貼る手間が消えますから。
毎回プロンプトを貼る手間が消えますから。
REQUIRESとCAPABILITYという追加された命令
室谷代表取締役で、最近のModelfileはこれだけじゃないんですよ。REQUIRESとCAPABILITYが増えてて、ネットの解説はここまで書いてないものが多いんですよね。
テキトー教師DotAI 認定講師REQUIRESは、そのモデルが動くのに必要なOllamaの最低バージョンを書く命令です。
自分だけで使う分には意識しなくても済みますけど。
REQUIRES 0.14.0 のように指定します。自分だけで使う分には意識しなくても済みますけど。
室谷代表取締役それが、社内で配る話になった瞬間に効いてくるんですよ。古い環境に配って動かない、みたいな事故が一番もったいないので。
テキトー教師DotAI 認定講師もうひとつのCAPABILITYは、GGUFやMLXのモデルに能力を宣言で足せる命令です。
既存の能力を消さずに追加できるのがポイントですね。
CAPABILITY decision と書くと分類・ルーティング向けの能力が加わる。既存の能力を消さずに追加できるのがポイントですね。
既存モデルの中身は覗ける
室谷代表取締役書く前に見るのが一番早いんですよ。
ollama show --modelfile <モデル名> で、そのモデルがどんな設定で動いてるか丸ごと見えます。テキトー教師DotAI 認定講師これ、最初に戸惑うのが「pullしたモデルって中身が見えないと思ってる」ところなんです。実際はパラメータもテンプレートも出てくるので、そのまま自分のModelfileの土台にできます。
室谷代表取締役一から書くより、動いてる設定を写して1行だけ変える。この方が早いし壊れにくいんですよね。
テキトー教師DotAI 認定講師たしかに。temperatureだけ変えて
ollama create し直す、みたいな回し方が現実的です。GGUFは量子化されない
室谷代表取締役ここが一番の落とし穴で。GGUFをFROMで指定してインポートしても、Ollama側は量子化してくれないんですよ。
テキトー教師DotAI 認定講師そうなんです。量子化済みのファイルを用意してから持ってくる必要があって、変換自体はllama.cppの
ここを知らないと「サイズが減らない」で詰まります。
llama-quantizeのような外部ツールの仕事になる。ここを知らないと「サイズが減らない」で詰まります。
室谷代表取締役あと本番で効くのが、
:latestを避けてバージョンや量子化タグを固定すること。MYUUUの現場でも、出力が再現しないトラブルの原因がだいたいここなんですよね。テキトー教師DotAI 認定講師人に配る前提なら、タグ固定は最初からやっておいた方がいいですね。あとから揃えるのは本当に面倒なので。
よくある質問
Q1. ネットに繋がっていない環境でも使えますか？
テキトー教師DotAI 認定講師そこ、聞かれること多いんですよね。一度ダウンロードしてしまえば、その後はネットが無くても動きます。
オフライン前提の現場だと、むしろそこが選ばれる理由になってますね。
オフライン前提の現場だと、むしろそこが選ばれる理由になってますね。
室谷代表取締役社外にデータを出したくない案件だと、その一点で決まるんですよ。クラウドのAPIに投げるのと手元で回すのとでは、社内の稟議の通り方がまったく違いますから。
Q2. GPUが載っていないPCでも動きますか？
テキトー教師DotAI 認定講師動きますよ。ただCPUだけで回すと、小さいモデルなら我慢できる程度、大きいモデルだと待ち時間が気になる、という感じです。
初めて触る人は、まず小さめのモデルで試すのが安全ですね。
初めて触る人は、まず小さめのモデルで試すのが安全ですね。
室谷代表取締役そこは投資判断なんですよね。GPUを積むか、待ち時間を許容するか。
時給で換算すると待ち時間のコストが見えてくるので、私はそこで線を引くことが多いです。
時給で換算すると待ち時間のコストが見えてくるので、私はそこで線を引くことが多いです。
Q3. モデルのライセンスは気にした方がいいですか？
テキトー教師DotAI 認定講師気にした方がいいです。モデルごとに配布元が条件を決めているので、業務で使うなら配布ページを一度見ておくのが確実ですよ。
「無料で落とせる＝自由に使える」ではないので、そこは最初に戸惑うところですね。
「無料で落とせる＝自由に使える」ではないので、そこは最初に戸惑うところですね。
室谷代表取締役個人で遊ぶ分にはいいんですけど、顧客の案件に組み込む段になると、そこで止まるケースがあります。導入前のチェック項目として先に潰しておくのが楽です。
Q4. 動かない、あるいは反応が遅いときは何から疑えばいいですか？
テキトー教師DotAI 認定講師まずはサイズです。大きすぎるモデルを選んでいると、メモリに載りきらずに落ちたり、極端に遅くなったりします。
あとはディスクの残量も見ておくと早いですよ。
あとはディスクの残量も見ておくと早いですよ。
室谷代表取締役あと、裏で別の作業をしていると体感が一気に悪くなるので、そこも疑ってほしいですね。機械のせいにしていたら、実は自分が重い作業を並走させていた、みたいな話はよくあります。
Q5. 他のローカルで動かすツールと何が違うんですか？
テキトー教師DotAI 認定講師コマンドで扱えるところが大きいですね。画面のアプリから入る人には取っつきにくいかもしれませんが、慣れると自動化に組み込みやすいです。
黒い画面が怖いという声は現場でよく聞きますけど、そこを越えると早いです。
黒い画面が怖いという声は現場でよく聞きますけど、そこを越えると早いです。
室谷代表取締役手順をスクリプトに落とせるのが効くんですよね。属人的な作業を減らす方向に倒せるので、チームで使うならそこが効いてきます。
まとめ
室谷代表取締役結局、最初から完璧な一台を組もうとしない方がいいんですよね。手元にある機械で動く範囲から始めて、足りない部分だけ足していく。
その順番の方が、たぶん失敗が少ないです。
その順番の方が、たぶん失敗が少ないです。
テキトー教師DotAI 認定講師たしかに。一覧を眺めて一番大きいものを選びたくなるんですけど、そこで重さに負れて心が折れるパターンが多いんですよ。
小さく試して、物足りなくなったら上げる。その方が続きます。
小さく試して、物足りなくなったら上げる。その方が続きます。
室谷代表取締役あと、モデルは入れ替わるので固定観念を持たない方がいいですね。今日のベストが来月も同じとは限らないので、入れ替え前提で運用を組んでおくと楽です。
テキトー教師DotAI 認定講師そうですね。まずは気になるモデルを1つ落として、短い質問を投げてみる。
それだけで随分イメージが変わると思いますよ。
それだけで随分イメージが変わると思いますよ。
