モデル検索

手法

オープンウェイトモデルの選び方

多くのモデル選定は「どのモデルがベストか」という問いから始まりますが、ベストという性質はモデル単体に備わるものではありません。モデル、タスク、ライセンス、そして特定のハードウェアを総合的に考慮して決まるものです。制約条件の中で最も厳しく、妥協できないものから順に並べるのが賢明です。この表のモデルに適用すれば、通常2ステップ以内で候補を絞り込めます。

1. メモリ予算はパラメータ数ではなくギガバイト単位で設定してください。精度とコンテキスト長を指定しない限り、パラメータ数は意味を成しません。ここにある63モデルのうち、Q4_K_Mかつ4Kコンテキストで24GBに収まるのは44モデル、16GBなら35モデル、8GBなら24モデルです。上の予算ボックスに実際の数値を入力して、表が絞り込まれる様子を確認してください。
2. コンテキスト長は選定後に決めるのではなく、事前に決めてください。コンテキストはKVキャッシュを消費し、アーキテクチャによってはそのコストが膨大になります。Command R 35Bは4Kで27.4GBですが、128Kでは194.8GBになります。Qwen3 32Bも同様に21.7GBから55.2GBへ増加します。4Kで選定し128Kでデプロイすると、最悪のタイミングでその差を痛感することになります。
3. 能力で絞り込む前に、ライセンスでフィルタリングしてください。能力は程度の問題であり、多少の妥協は可能ですが、ユースケースを禁止するライセンスは越えられない壁となります。これらのモデルのうち39個はApache 2.0、MIT、またはModified MITですが、残りの24個には帰属表示の義務から商用利用の全面禁止まで、様々な条件が付いています。
4. ここで初めて、モデルの得意分野で絞り込みます。上記の能力タグは、ラボやコミュニティが実際に使用しているものです（code, reasoning, vision, agents, multilingual, rag, edge, long-context）。タグは5つではなく1つか2つ選んでください。タグを増やすほど、本来の業務に必要なサイズよりも大きなモデルを選択することになります。
5. モデルは1つではなく3つ候補に挙げ、自身のデータでテストしてください。実際のワークロードから30〜50の例を用いる方が、公開されているリーダーボードよりも迅速かつ正確に候補を評価できます。選外となった2つのモデルも保持しておきましょう。モデルは数ヶ月で入れ替わりますが、評価環境こそが維持すべき資産です。

トラブルを避けるためのもう一つのルール：品質基準を満たす最小のモデルを選んだら、そこで止めることです。使わない余力は、すべてのリクエストにおけるレイテンシ、電力消費、そしてリクエストの合間にアイドル状態となるGPUカードのコストとして跳ね返ってきます。

Dense、Mixture of Experts、およびハードウェアを決定する数値

この表のすべてのモデルには2つのパラメータ数が記載されており、それぞれ異なる問いに答えるものです。Total parametersは必要なメモリ量を決定します。すべての重みはGPUが即座にアクセスできる場所に配置される必要があるためです。Active parametersは実行速度を決定します。1つのtokenを生成する際、そのtokenがルーティングされる重みのみを読み込むためです。Denseモデルではこれら2つの数値は同一であり、考慮する必要はありません。Mixture of expertsでは最大30倍の差が生じることがあり、その差を有効活用することこそが設計の目的です。

この表はランキングではなく、トレードオフとして読み解いてください。Mixture of expertsはメモリを速度に変換します。すべてのexpertを保持するのに十分なVRAMを用意し、各tokenに対してその一部のみを使用することで、デコードを高速化し、Active parameters数から期待される以上の知能を実現します。メモリに余裕があり、レイテンシを削減したい場合には有効なトレードオフです。

逆に、多くのユーザーが直面する状況では、これは悪いトレードオフとなります。24GBカードが1枚しかない場合、MoEは最も貴重なリソースをほとんど使用しない重みに費やしてしまいます。Qwen3 30B-A3B（19.7 GB）とQwen3 32B（21.7 GB）はほぼ同じメモリを占有しますが、Denseモデルは各tokenに対して10倍の計算量を投入します。スループットの圧力がかからない単一カード環境ではDense 32Bが通常は適していますが、多数の同時ユーザーを抱えるマシンではMoEが圧倒的に有利です。

もう1つ知っておくべき効果があります。MoEはtokenあたりの読み込み重みが非常に少ないため、メモリ帯域幅の影響を受けにくくなります。この帯域幅こそが、コンシューマー向けハードウェアやAppleシリコン上で大型Denseモデルが遅く感じる原因です。そのため、gpt-oss 120Bは72 GBを必要とするにもかかわらず、45 GBのDense 70Bよりも大容量ユニファイドメモリマシン上で高速に生成できます。容量と速度は異なる数値によって決定されるため、上記のMixture of expertsフィルターを使用してこれらを切り分けて考えることができます。

同じサイズのモデルでも異なるマシンが必要になる理由

Attention列は些細な情報に見えますが、そうではありません。これはcontextのコストを決定するものであり、長いcontextではパラメータ数よりも重要になる場合があります。本カタログの4つのAttention設計において、4Kから128Kへの拡張がモデルにどのような影響を与えるかを以下に示します。

Phi-3.5 miniは、モデル選びの基準を変えるべきエントリーです。3.8Bモデルであり、どこでも動作すると思われがちですが、公称の128K contextをフルに使うと、各層で32個のフルKVヘッドをキャッシュするため約55 GBを必要とします。一方、671BのDeepSeek R1は、4Kから128Kへの拡張でわずか9 GBの増加に留まります。これはMulti-head latent attentionが、層ごとのtokenあたりキーと値を単一の小さなベクトルに圧縮するためです。結果を分けたのはサイズではなく、ジオメトリ（構造）です。

実用的な読み方は単純です。ワークロードが短いプロンプトであれば、Attention列は完全に無視して重みで選んでください。長いドキュメント、リポジトリ全体、あるいは大規模な検索ペイロードを扱う場合は、まずAttention設計でソートしてください。Gemma 3ファミリーやgpt-ossのようなSliding-windowモデルはcontextが増えてもコストがほぼ一定であり、Grouped-queryモデルは管理可能な範囲で増加します。一方、Full multi-headモデルは、紙面上では小さく見えても32Kから128Kの間でコストが許容できなくなります。

Licence列が意味すること

Open weightsとOpen sourceは同じではありません。そのギャップに法的な落とし穴が潜んでいます。このページのすべてのモデルは誰でもダウンロードできますが、その後の利用範囲は、完全に制限なしのものから明示的に非商用とされているものまで様々です。本カタログにおけるライセンスファミリーと、それぞれの要件を以下に示します。

注意すべき点が3つあります。1つ目は、ライセンス体系がラボ内で統一されていないことです。DeepSeek は R1 と V3 を MIT ライセンスで公開していますが、Coder V2 Lite は独自の規約を適用しています。また、Alibaba は Qwen のほぼすべてを Apache 2.0 で提供していますが、Qwen2.5 3B と Qwen2.5 72B には条件が付与されています。ブランド名ではなく、ダウンロードした特定のチェックポイントを確認してください。

2つ目は、多くのライセンスがモデルの重みだけでなく出力結果についても言及しており、特に生成されたテキストを別のモデルの学習に使用できるかどうかが規定されている点です。合成学習データの生成を計画している場合、デプロイに関する条項よりもこの条項が重要になります。

3つ目は、ファインチューニング後も継続する義務です。Gemma の禁止事項は、重みから派生したあらゆるものに適用されます。Llama の命名要件は、派生モデルの名前にも適用されます。独自のデータで学習させた後も、ベースとなる重みが含まれている限り、非商用ライセンスは非商用ライセンスのままです。上記のチェックボックスで Apache および MIT ライセンスに絞り込むのが、これらの問題を回避する最も早い方法であり、それでも39個のモデルが選択肢として残ります。これは法的助言ではありません。ライセンス列は、一度は読んでおくべき文書の要約に過ぎません。

得意分野別に分類した、知っておくべきモデルファミリー

ここでは14のラボのモデルを紹介していますが、適切な判断を下すために必要なのは約6つのモデル系列を把握することだけです。以下の VRAM 数値は、テーブルのデフォルト設定である 4K context、Q4_K_M での計算値です。

コーディング

21.7 GB の Qwen2.5 Coder 32B は、24GB カード1枚に収まる最も強力な許容ライセンスのコーディングモデルです。5.5 GB の 7B モデルは、深さよりもレイテンシが重視されるインライン補完の標準的な選択肢です。15.7 GB の Devstral Small 24B は、単一関数の補完ではなく、複数ファイルにわたるエージェント的な編集向けに調整されています。DeepSeek Coder V2 Lite は速度重視の選択肢で、15.7B パラメータのうち 2.4B をアクティブ化します。Codestral 22B は優秀ですが非商用ライセンスであるため、ほとんどの商用製品には使用できません。ワークステーション層を超えると、DeepSeek V3 と Kimi K2 が本格的なオープンコーディングモデルとなり、いずれもサーバーが必要です。

推論

21.7 GB の QwQ 32B は、コンシューマー向けカード1枚で長文の熟考を実用レベルにした最初のオープンモデルです。DeepSeek R1 の蒸留モデルは、7B、14B、32B、70B の各サイズで MIT ライセンスにて同様のスタイルを提供しており、このクラスとしては異例の寛大さです。Qwen3 の dense ラインはリクエストごとに熟考のオン/オフを切り替えられるため、1回のダウンロードで両方のモードに対応できます。gpt-oss 20B および 120B は推論特化型で Apache 2.0 ライセンスです。10.5 GB の Phi-4 14B は数学においてサイズ以上の性能を発揮しますが、context が 16K に制限されており、2026年の基準では短めです。

ロングコンテキスト

Llama 4 Scout は 10M token のウィンドウを持つ異例のモデルで、Llama 4 Maverick は 1M を提供します。DeepSeek R1 および V3 は 163840 token に対応しており、最新モデルの多くは 131072 token で落ち着いています。重要なのはリストにないモデルです。Gemma 2 シリーズは 8192 token、Phi-4 は 16384 token、TinyLlama は 2048 token で制限されます。長いドキュメントを入力する場合、何よりもまず context 列を確認してください。入力内容を保持できないウィンドウでは、モデルの品質がどれほど高くても意味がないからです。

ビジョン

ここでは6つのモデルが画像を読み取れます。5.9 GB の Qwen2.5-VL 7B は、ドキュメント、スクリーンショット、チャートを扱うための小型の主力モデルです。Gemma 3 は 4B、12B、27B のビジョン対応サイズがあり、すべて Gemma 規約が適用されます。3.5 GB の 4B モデルはメモリ効率が非常に優れています。Llama 4 Scout および Maverick はネイティブなマルチモーダルですが、強力なハードウェアが必要です。画像 token はテキストと同じ context budget を消費するため、ビジョンタスクではページ数から予想されるよりも早くウィンドウが埋まることに注意してください。

多言語および検索

8.8 GB の Mistral Nemo 12B は、Llama シリーズよりも英語以外のテキストを公平に扱う tokenizer を備えており、品質の向上と文あたりの token 数削減を実現しています。GLM-4 9B は中国語と英語の両方に強みがあります。インライン引用を伴う検索拡張生成（RAG）において、Command R および Command R+ は依然としてリファレンスデザインですが、両者とも非商用であり、Command R はフルマルチヘッドアテンションを使用するため、検索タスクで発生する長い context では非常にコストが高くなるという大きな注意点があります。

エッジおよび組み込み

13のモデルに edge タグが付いています。Qwen2.5 0.5B は約 1.0 GB、Qwen3 0.6B は約 1.6 GB、TinyLlama 1.1B は約 1.4 GB、SmolLM2 1.7B は約 2.5 GB を必要とし、これらはすべてスマートフォン、ブラウザのタブ、またはアクセラレータ付きの Raspberry Pi で動作可能です。3.5 GB の Phi-4 mini 3.8B と 3.1 GB の Llama 3.2 3B は、このカテゴリにおける実用的な上限であり、指示追従性能が信頼できるレベルに達するポイントです。

ベンチマーク結果を懐疑的に読む方法

すべてのリリース投稿には、新しいモデルが勝利しているテーブルが含まれています。これは不誠実というよりは選択の結果です。テーブルは結果が判明した後に作成されており、モデルにとって都合の悪い行は静かに除外されています。ベンチマークの数値に基づいて決定を下す前に、以下の点を確認してください。

• 汚染。公開ベンチマークは時間の経過とともに学習コーパスに漏洩します。ベンチマークが古いほど、モデルが記憶している可能性が高くなります。長年使用されているテストセットでの非常に高いスコアは、先月リリースされたものの中程度のスコアよりも証拠能力が低いです。
• 比較スナップショット。クローズドモデルは常に変化しています。フロンティアモデルを上回ったという主張は、通常、特定の月の特定のバージョンを指しており、投稿が公開される前にすでに更新されている可能性があります。
• Token budget。推論モデルは回答前に数千の隠し token を消費することがあります。一方のモデルが熟考を許可され、もう一方が許可されていない場合、その比較はスキルだけでなくコストも測定していることになります。
• プロンプト形式とサンプリング。同じモデルでも、チャットテンプレート、システムプロンプト、temperature、回答の解析方法によって、同じベンチマークで数ポイント変動することがあります。報告された数値がこれら4つすべてを開示することは稀です。
• 集計。単一の平均値は、どのカテゴリが変動したかを隠してしまいます。数学で向上し、指示追従で低下したモデルは、平均値は変わらなくても、あなたの用途にとっては明らかに悪化している可能性があります。
• Pass at one と best of many。複数回サンプリングして最良の回答を採用する方法は、コーディングスコアを大幅に水増ししますが、実際のアプリケーションの動作とは異なります。

これらすべてに代わる地味ですが効果的な方法は、実際のタスクの例を30〜50個集め、良い回答の基準を書き出し、自分で候補を評価することです。半日あれば完了し、モデルのリリースに左右されず、最も重要な問い、つまり「このモデルは公開試験ではなく、自分の仕事において優秀か」という問いに答えてくれます。

リーダーボードではなく、タスクに合わせてモデルを選ぶ

実務における言語モデルの作業の多くは、大規模なモデルを必要としません。これらのタスクは、3B〜8B クラスのモデルで日常的に十分に処理可能です。例えば、3.1 GB の Llama 3.2 3B、3.5 GB の Gemma 3 4B、3.7 GB の Qwen3 4B、5.5 GB の Qwen2.5 7B などがあり、これらはすべて 8GB カードに context 用の余裕を持って収まります。

• 分類とルーティング：サポートチケットを6つのキューのどれに割り当てるか、またはメッセージに人間による対応が必要かを判断する。
• 固定スキーマへの抽出：半構造化ドキュメントから日付、金額、当事者名、識別子を抽出する。
• 再フォーマット：メモをテンプレート化する、マークアップ形式を変換する、住所を正規化する。
• 短い要約：ソースが存在し、判断ではなく圧縮が目的である場合に、1ページから1段落に要約する。
• タグ付けとメタデータ：タイトル、キーワード、感情分析、言語検出、コンテンツ警告。
• 検索のためのクエリ書き換え、および大規模モデルに渡す前の検索結果の再ランキング。

サイズが真に報われるタスクは異なります。モデルがアーキテクチャを把握する必要がある複数ファイルのコード変更、意図の推論が必要な曖昧な指示、矛盾する長いドキュメント間の統合、数ステップ以上の数学、初期のミスが20ターンにわたって蓄積されるエージェントループなどです。あなたのワークロードがこのリストにない場合、より大きなモデルに費やすコストは品質ではなくレイテンシを買っていることになります。

実務上、最も強力なアーキテクチャは通常、混合型です。小規模モデルが日常的な量を処理し、確信が持てない場合にのみ大規模モデルにエスカレーションします。エスカレーション率は通常数パーセントであり、これがカード1枚に収まるワークロードとそうでないワークロードの分かれ目となります。

ローカルで実行するか、ホストされた API を呼び出すか？

このページのすべてのモデルはダウンロード可能であり、その多くはこのゲートウェイを含むホストされたエンドポイントとしても利用可能です。どちらを選ぶかは、イデオロギーの問題ではなく、どのリソースが不足しているかという問題です。

データが外部に出せない場合、動作が変化しないように重みを固定する必要がある場合、オフラインや不安定な接続環境で作業する場合、所有している GPU に対して安定した大量のトラフィックがある場合、またはファインチューニングを行う場合は、ローカルで実行してください。ローカル推論では、API では公開されない raw logits、文法に基づいた制約付きデコード、カスタムサンプリング、推論デコードなども利用可能です。

トラフィックが突発的な場合、欲しいモデルが手頃な価格で買えるメモリを超える場合、数週間ごとにモデルを切り替える予定の場合、チーム内に推論サーバーを運用したくない場合はホスト型エンドポイントを利用する。カタログがメモリの差を明確に示す：63モデル中44が24GBカードに収まるが、DeepSeek R1は410GB、Kimi K2は611GBでマルチノード展開が必要。この2グループ間のギャップは工夫で埋められるものではない。

経済性は通常、レートよりも稼働率で決まる。10%のデューティサイクルで動作するカードは、ハードウェアが安価であっても有効なトークンあたりのコストが高くなる。常時稼働するカードは価格面で非常に優位に立つ。購入前に1日のトークン数を正直に見積もり、ほとんどのサイドプロジェクトや社内ツールでは無料または安価なホスト型エンドポイントが圧勝することを認識する。

実際に寄せられる質問

オープンウェイトモデルの選び方は？

制約条件を厳しい順に並べる。パラメータ数ではなくギガバイト単位のメモリ予算を設定し、ショートリスト作成前に実際に必要な文脈長を決め、ライセンスで絞り込み、その後に機能で絞り込む。63モデル中44がQ4_K_M、4K文脈で24GBに収まり、8GBに収まるのは24のみ。メモリ予算の段階だけでリストは半分に絞られる。その後、実際の作業から30～50例を用いて3つの候補をテストする。

MoEモデルにおけるアクティブパラメータとは？

総パラメータ数はメモリ使用量を決定する（全ての重みが常駐する必要があるため）。アクティブパラメータは処理速度を決定する（1トークン生成時にルーティングされた専門家のみ読み込まれるため）。Qwen3 30B-A3Bは30.5Bのパラメータを保持するが、1トークンあたり3.3Bをアクティブ化し、Q4_K_Mで約19.7GBを占有するが、3Bモデルと同等の速度でデコード。

MoEモデルは密モデルよりも実行コストが安い？

計算と時間は安いが、メモリは高い。VRAMが制約条件の場合、MoEは価値が低い（全ての専門家にコストを支払い、その一部しか使用しないため）。メモリに余裕がありスループットを求める場合は優秀。gpt-oss 120BはQ4_K_Mで約72GBを要するが、1トークンあたり5.1Bのパラメータしか読み込まない。

商用利用に許可不要なオープンウェイトモデルは？

Apache 2.0とMITライセンスのもの。このカタログでは63モデル中39が該当し、Qwen3シリーズ、Qwen2.5 Coder、QwQ 32B、Mistral Small 24B、Devstral、Mixtralシリーズ、gpt-oss 20B/120B、DeepSeek R1/V3、R1ディスティル、Phi-4、GLM-4.5 Airを含む。残り24は帰属表示から商用利用の完全な禁止まで、さまざまな条件が付帯。

Llamaコミュニティライセンスは商用ライセンス？

商用利用は許可されるが、オープンソースライセンスではない。無償利用は月間アクティブユーザー7億人に制限され、Built with Llamaの表示と派生モデル名へのLlama名の継承が義務付けられ、利用規約が付帯。ほとんどのチームにとって問題にならないが、契約であるため製品開発前に確認する。

Command RまたはCommand R+を商用製品で使用できる？

リリースされた重みでは不可。Cohereの両モデルはCC-BY-NC（非商用のみ）のため。検索や引用モデルとして優秀で研究や評価には問題ないが、有償または収益化製品に組み込むにはCohereと別契約が必要。

なぜ同じモデルが128K文脈でVRAMを大幅に必要とする？

KVキャッシュは文脈に比例して増加し、その傾きはアテンションジオメトリに依存する。Command R 35Bは完全マルチヘッドアテンションを使用し、4K文脈で27.4GB、128K文脈で194.8GBに増加。Qwen3 32B（グループ化クエリアテンション）は21.7GBから55.2GBに。Gemma 3 27B（6層中5層でスライディングウィンドウ）は18.1GBから28.6GBに。

実用的な最小のオープンモデルは？

分類、ルーティング、固定スキーマへの抽出、フォーマット変換には3B～4Bモデルで既に信頼性がある。Llama 3.2 3BはQ4_K_Mで約3.1GB、Gemma 3 4Bは約3.5GB、Qwen3 4Bは約3.7GBで、いずれも8GBカードで実用的な文脈を確保できる。2B以下では流暢に書くが、マルチステップ指示への従順性が低下。

推論モデルは必要？

検証可能なステップチェーンを要する問題に限る：数学、アルゴリズムコード、制約パズル、マルチホップ分析。推論モデルは回答前に多くの隠れトークンを消費するため、レイテンシと生成トークン数が増加。抽出、要約、書き換え、チャットには同サイズの非推論モデルの方が通常高速で同等の品質。

どのオープン重みモデルがコーディングに最適ですか？

24GBの単一GPUでは、Qwen2.5 Coder 32B（約21.7GB）が最も強力な許諾ライセンスのモデルです。Devstral Small 24B（約15.7GB）は、単一の生成よりもエージェント的なマルチファイル編集向けにチューニングされています。高速なインラインコンプリートには、Qwen2.5 Coder 7BまたはDeepSeek Coder V2 Lite（15.7B中2.4Bのみ活性化）が適しています。最上位モデルのDeepSeek V3とKimi K2は強力ですが、数百GBのVRAMを必要とします。

広告されている長いコンテキスト長は、モデルがそれをうまく活用できることを意味しますか？

いいえ。公開されている重みが受け入れる長さであって、品質が維持される長さではありません。Llama 4 Scoutは10Mトークンを宣伝していますが、ほとんどの現代モデルは128Kを掲載しています。しかし、検索精度は通常、公表された最大値よりもかなり前に低下します。その数値を絶対的な上限とみなし、実際に使用する長さで実性能を測定してください。

モデルリリース記事のベンチマーク表を信頼すべきですか？

実数を含むマーケティング資料として扱ってください。リリース時の表は事後的に選ばれたもので、比較対象のモデルは古いスナップショットであることが多く、プロンプト形式やサンプリング設定が行間で異なります。また、人気ベンチマークは時間とともにトレーニングデータに漏れ込みます。選択の決め手となる数値は、自身のワークロードで30～50例をテストしたスコアです。

4ビット量子化で品質はどれくらい低下しますか？

大規模モデルでは多くの人が予想するよりも低下が少なく、小規模モデルでは多くの人が予想するよりも低下が大きくなります。Q8_0は実質的に元の重みと区別がつきません。Q4_K_Mは13B以上のモデルではわずかで通常気付かれない程度のコストですが、1B～3Bのモデルでは冗長性が少ないため顕著になります。4ビット未満のQ3やQ2では品質低下が現実的な問題です。なお、gpt-ossはネイティブでMXFP4を採用しているため、4ビットは圧縮ではなく公表された精度です。

ホスト型APIを呼ぶ代わりに、モデルをローカルで実行すべきはいつですか？

データを自機外に出せない場合、重みを固定して動作が変わらないようにしたい場合、オフラインの場合、または既に所有するGPUで安定した高負荷がある場合はローカルで実行してください。トラフィックが突発的な場合、必要なモデルが所有するメモリを超える場合、頻繁にモデルを切り替えたい場合はホスト型APIを呼んでください。1日中アイドル状態の24GBカードは、有効なトークンあたりのコストがどのAPIよりも高くなります。