コンテンツにスキップ

モデルカタログと仕様

Waired は、ノートパソコンからマルチ GPU サーバーまでをカバーするモデルカタログを バンドルしています。初回起動時には、お使いのハードウェアに合うモデルを自動選択します。 いつでも切り替え可能です。詳しくは バンドルモデルを切り替える を参照してください。

カタログは 2 つの軸で分割してあり、お使いのマシンに該当する行へすぐ辿り着けます:

  1. ランタイム別 — Ollama か vLLM か。 OS と GPU によってどちらのエンジンがモデルを 配信するかが決まるため、ランタイムごとに節を分けています。自分の節だけを読んでください:

    • Ollama — macOS (Metal)、Windows、Linux、CPU、低 VRAM / 統合 GPU。GGUF(量子化) ビルドを配信し、見るべき数値は システム RAM です。
    • vLLM — Linux 上の NVIDIA (CUDA) / AMD (ROCm) の単体 GPU サーバー。safetensors (awq/fp8/mxfp4)ビルドを配信し、見るべき数値は GPU VRAM です。

    両エンジン向けにビルドを持つファミリーは、両方の節に掲載されます。

  2. アーキテクチャ別 — Dense か MoE か。 各ランタイムの中では Dense を先に、続いて Mixture-of-Experts(MoE)を並べています:

    • Dense — すべてのパラメータが毎トークン計算されます。計算力 / VRAM に余裕が ある環境(単体 GPU)向きで、同じ品質ならディスク占有は小さめです。
    • MoE — 総サイズは巨大ですが、トークンあたりにアクティブなのは数十億パラメータ だけなのでデコードは高速です。大きなモデルをメモリに載せられるメモリリッチな Unified メモリ機(Apple Silicon、AMD Strix Halo)に最適です。

品質ティア は 1〜100 のランキング(高いほど高品質)で、Auto-Selector はお使いの マシンに収まり、かつ大きなコーディングコンテキスト(~20万トークン)を保持できる中で 最も高いティアを配信します — コーディングエージェントは日常的に 10 万トークン超の コンテキストを使うため、それを切り詰めてしまうモデルより、フル窓を持てる少し小さな モデルが優先されます。その窓をどのモデルも配れないハードウェアでは、最良の適合を 選んだうえで waired status にその旨を表示します。選ばれたモデルはクライアントから 安定したハンドル waired/default で指定できます (チャットクライアント を参照)。

下の各表は、各モデルのバンドルマニフェスト(min_ram_gb / min_vram_mb / quality_tier / param_count / active_params)からビルド時に生成されるため、 クライアントが同梱するカタログと常に一致します。

Mac、Windows、CPU、低 VRAM / 統合 GPU 向け。メモリ列は GGUF(q4)ビルドに必要な最小 システム RAM で、メモリが小さいマシン向けのものから順に並びます。

すべてのパラメータが毎トークン計算されます。RAM、次いで品質で選びます。

モデルパラメータ品質ティアOllama RAM
qwen2.5-coder-0.5b-instruct494M102 GB
qwen3.5-0.8b800M122 GB
qwen2.5-coder-3b-instruct3.1B314 GB
qwen3.5-2b2B274 GB
qwen2.5-coder-7b-instruct7.6B508 GB
qwen3.5-4b4B428 GB
qwen3.5-9b9B5212 GB
qwen2.5-coder-14b-instruct14.7B5816 GB
qwen3.5-27b27B6924 GB
qwen3.6-27b27B7224 GB

ディスク上は大きくてもデコードは高速。大容量の Unified メモリ機(Apple Silicon、 Strix Halo)に最適です。

モデルパラメータ(アクティブ)品質ティアOllama RAM
gpt-oss-20b20.9B (3.6B active)6216 GB
qwen3-coder-30b-a3b-instruct30.5B (3.3B active)6832 GB
qwen3.5-35b-a3b35B (3.3B active)7332 GB
qwen3.6-35b-a3b35B (3.3B active)9032 GB
qwen3-coder-next-80b-a3b-instruct80.1B (3.3B active)8656 GB
gpt-oss-120b117B (5.1B active)8896 GB
qwen3.5-122b-a10b122B (10B active)83128 GB
qwen3-coder-480b-a35b-instruct480B (35B active)95320 GB

Linux 上の NVIDIA (CUDA) / AMD (ROCm) の単体 GPU サーバー向け。メモリ列は量子化 (awq/fp8/mxfp4)ビルドに必要な最小 GPU VRAM で、VRAM が小さい GPU 向けのものから 順に並びます。同一 NVIDIA GPU を複数積んだホストでは vLLM がモデルを分割して 載せる(テンソル並列)ため、合算 VRAM が要件にカウントされます。比較的新しい NVIDIA GPU(Ada / Hopper 以降 — 例: L4、RTX 40 系)では KV キャッシュを fp8 で 配信し、ほぼ同等の品質のまま同じ VRAM で収まるコンテキスト窓が約 2 倍になります。 それでもモデルのフルコンテキストウィンドウが GPU メモリに収まらない場合は、起動 失敗ではなく縮小したウィンドウで配信され、waired status / waired doctor に その旨が表示されます。

計算律速。VRAM に余裕のある単体 GPU を持っている場合の自然な選択です。

モデルパラメータ品質ティアvLLM VRAM
qwen2.5-coder-3b-instruct3.1B314 GB
qwen2.5-coder-7b-instruct7.6B508 GB
qwen2.5-coder-14b-instruct14.7B5816 GB
qwen3.6-27b27B7224 GB

総サイズは巨大でもアクティブな割合は小さく、マルチ GPU サーバーと好相性です。

モデルパラメータ(アクティブ)品質ティアvLLM VRAM
gpt-oss-20b20.9B (3.6B active)6220 GB
qwen3-coder-30b-a3b-instruct30.5B (3.3B active)6824 GB
qwen3-coder-next-80b-a3b-instruct80.1B (3.3B active)8655 GB
gpt-oss-120b117B (5.1B active)8879 GB
glm-4.5-air-106b-a12b106B (12B active)75118 GB
deepseek-v4-flash284B (13B active)93192 GB
glm-5.2744B (40B active)97547 GB
qwen3-coder-480b-a35b-instruct480B (35B active)95547 GB

Waired によるモデル選択の仕組み

Section titled “Waired によるモデル選択の仕組み”

Auto-Selector は、お使いのマシンのメモリに収まる中で最も高品質なモデルを選びます。 共有メモリシステム(Apple Silicon、AMD Strix Halo)では、デコード速度が総サイズでは なくアクティブパラメータに連動するため、アクティブパラメータ数の少ない MoE モデルが 優先されます。何も変更せずにルーティングの判断をプレビューするには:

Terminal window
waired infer --explain "say hi"

waired models ls --detail を実行すると お使いの ハードウェアに対する同じ適合状況と 推奨スペックを、waired models ls でディスク使用量を、waired runtimes status で ロード済みモデルが実際に使用している VRAM を確認できます。

統合 GPU(Strix Halo、Intel)を使用していてモデルが Ollama でロードできない場合は、 トラブルシューティング → 統合 GPU を参照してください。