要点

対象:Hugging Faceでモデルを選ぶ人

  1. 「/」の前が公開した人か組織
  2. 量子化した版は元のモデルの記載を見る
  3. ゲート付きは申請と承認が要る

この記事は、ローカルAIの講座「1からの道のり」の11回目です。

この記事の目次(7節)
  1. 公式版とほかの人が量子化した版の見分け方
  2. モデルカードで確かめること
  3. ファイル形式と使うソフト
  4. 申請が要るモデル(ゲート付きモデル)
  5. 安全でないファイルの見分け方
  6. つまずきやすいところ
  7. 次に読む回

Hugging Face(公開されたAIのモデルが集まるサイト)でダウンロードしてよいファイルかを見分けるには、誰が公開したか、モデルカード、ファイル形式、検査の印の4つを確かめます。

Ollama(手元でモデルを動かすソフト)で使うなら、GGUFのファイルを選びます。12 GGUFは、重み(学習で決まった数値)とモデルの情報の両方を入れる形式です。9

Ollamaなら、「Use this model」から出るコマンドでファイルが自動で選ばれます。12 自分で選ぶなら、名前が Q4_K_M.gguf で終わるファイル(例: Qwen_Qwen3-8B-Q4_K_M.gguf)から始めるとよいと考えています。6

この記事の数字と画面の表示は、2026年11月1日に確かめたものです。

確かめる順番 01 02 03 04 誰が公開したか モデルカード ファイル形式 検査の印 モデルの名前の「/」の前 「License:」の欄と、本文の対応言語 「Files and versions」の拡張子 ファイルごとの「Safe」「Unsafe」の印 「Model tree」で元のモデル 条件まで本文で読む .gguf → Ollama・LM Studio .safetensors → Python Unsafe はダウンロードしない 2026-11-01
モデルのページで確かめる順番です。

公式版とほかの人が量子化した版の見分け方

モデルの名前は「Qwen/Qwen3-8B」のような形で、「/」の前が公開した人か組織の名前です。1214

開発元のGitHubからたどる

Qwen3のGitHubのページ(QwenLM/Qwen3)のREADMEには、Hugging FaceのQwenのページへのリンクがあります。4 開発元のGitHubや公式サイトからリンクされているページを選ぶとよいと考えています。

「Model tree」で元のモデルをたどる

量子化した版(数値を少ないビットで表して、ファイルを小さくした版)は、元のモデルとは別のページで公開されることがあります。21 そのため、開いたページが元のモデルとどうつながっているかを、「Model tree」の欄で確かめます。

量子化した版のページを開くと、「Model tree」の欄に元のモデルの名前が出ます(量子化した人がモデルカードに書いた場合)。2 元のモデルのページを開くと、同じ欄に量子化した版の数が出ます。3

表のQ4_K_MやQ8_0は量子化の種類の名前で、読み方は講座の5回目(量子化の回)で扱っています。

ページ公開した人ファイル形式ファイルサイズ
Qwen/Qwen3-8BQwensafetensors(量子化する前の16ビットの版)5つに分かれ、合わせて16.4GB
Qwen/Qwen3-8B-GGUFQwenGGUFQ4_K_Mで5.03GB。Q4_K_M〜Q8_0の5種類
bartowski/Qwen_Qwen3-8B-GGUFbartowski(Qwen以外の人)GGUFQ4_K_Mで5.03GB。Q2_Kの3.28GBなど、より小さいものもある

Qwen公式のGGUFでいちばん小さいのはQ4_K_Mです。もっと小さいファイルが要るときは、ほかの人が量子化した版から選べます。56

bartowskiの版のモデルカードには、「Original model:」として元のモデルへのリンクがあります。量子化に使ったllama.cpp(GGUFを作って動かすソフト)のリリースの番号(b5200)も書かれています。6

ほかの人が量子化した版では、元のモデルへのリンクと、量子化に使ったソフトの名前が書かれているかを見ます。

モデルカードで確かめること

モデルカードは、モデルのページに出る説明で、中身はファイル一覧にある README.md です。2 下の表は、2つのモデルのモデルカードから取りました。37

項目Qwen/Qwen3-8Bmeta-llama/Llama-3.1-8B-Instruct
ライセンスapache-2.0llama3.1(Meta独自のライセンス)
対応言語100を超える言語と方言英語・ドイツ語・フランス語など8つ。日本語は入っていない
パラメータ数(重みの数)8.2B(約82億)8B(約80億)
コンテキスト長(一度に扱える文章の長さ)32,768トークン(トークンはAIが文章を区切って数える単位)。長さを延ばすYaRNという方法で131,072トークン128k(カードの表記のまま)
ダウンロード前の申請要らない要る

必要なメモリの量は、パラメータ数とコンテキスト長から見積もれます。計算のしかたは、必要なメモリの計算式の記事にまとめました。

ライセンスは条件まで読む

ライセンスの名前は「License:」の欄に出ます。other と出ているときは、カードに付いたリンクからライセンスの本文を開きます。2

Llama 3.1のライセンスには、たとえば次の決まりがあります。細かい条件は、ライセンスの本文で確かめてください。8

  • Llama 3.1の公開日の時点で、その前の月の月間アクティブユーザーが関連会社の分を含めて7億人を超えていた会社は、Metaにライセンスを申請し、許可されるまでは使えない
  • Llama 3.1やそれを作り変えたもの、それを含む製品やサービスを人に配布・提供するときは、ライセンスの写しを添え、「Built with Llama」と目立つように表示する

Llama 3.1を日本語で使うとき

モデルカードは、8つの対応言語以外での利用を「想定の範囲外(Out-of-scope)」に挙げています。追加の学習や安全の仕組みを入れずに、対応していない言語で会話に使うことは、開発者に強く勧めないとしています。7

そのため、日本語で使うなら、日本語を対応言語に挙げているモデルから選ぶとよいと考えています。

ファイル形式と使うソフト

ファイル形式ごとの中身と、主に使うソフトは次のとおりです。91017

ファイル形式見分け方中身主に使うソフト
GGUF拡張子が .gguf重みとモデルの情報の両方llama.cpp・LM Studio・Ollama・GPT4All
picklepytorch_model.bin などPyTorchの標準の保存形式。読み込むと、仕組まれたプログラムが動くことがあるPyTorch(Python)
safetensors拡張子が .safetensors重みだけ。pickleと違って、安全に保存する形式Pythonのライブラリ(transformersなど)

pickleの危うさは、ローカルAIを手元で動かす理由の記事に書きました。

Appleシリコン搭載のMacなら、LM StudioでMLX向けのモデルも使えます。1113

Ollamaでダウンロードする

  1. Hugging Faceにログインし、設定の「Local Apps」のページでOllamaを有効にする
  2. モデルのページで「Use this model」を押し、Ollamaを選ぶ
  3. 出てきたコマンド(ollama run hf.co/ のあとにモデルの名前が続く)をコピーする
  4. ターミナルに貼り付けて実行する

量子化の種類を指定しないと、Q4_K_Mが選ばれます(ページにある場合)。無いときは、ページにある別の種類から、妥当なものが1つ選ばれます。

別の種類にするなら、コマンドの後ろに :Q8_0 のように種類の名前を付けます。12

LM Studioでダウンロードする

  1. Hugging Faceにログインし、設定の「Local Apps」のページでLM Studioを有効にする
  2. モデルのページで「Use this model」を押し、LM Studioを選ぶ
  3. モデルがLM Studioに入っていればそのまま動き、無ければダウンロードの画面が出る

申請が要るモデル(ゲート付きモデル)

ゲート付きモデルは、利用を申請して承認された人だけが、ファイルをダウンロードできるモデルです。15

申請は、ログインしてブラウザでモデルのページを開き、入力欄を埋めて「Agree」を押します。このとき、ユーザー名とメールアドレスが公開した人(モデルの作成者)に渡ります。集めない設定のモデルなら渡りません。15

自動で承認する設定なら、申請してすぐにダウンロードできます。手で承認する設定なら、承認を待つので、時間がかかることがあります。15

ブラウザでは、ログインしていれば、そのままダウンロードできます。15

コマンドでダウンロードするときは、アクセストークン(コマンドからアカウントを示すための鍵)を作ります。そして、hf auth login(ターミナルでHugging Faceにログインするコマンド)で登録しておきます。15

安全でないファイルの見分け方

Hugging Faceは、ファイルがアップロードされるたびに検査し、結果をファイル一覧(「Files and versions」)に出します。ダウンロードする人が見るのは、その結果の印です。1617

Hugging Face自身のマルウェア(悪意のあるプログラム)の検査は、2GBより小さいファイルが対象です。16 ほかの会社(Protect AIとJFrog)も、モデルのファイルを検査し、結果を画面に出しています。1819

「Safe」と「Unsafe」の印

検査が済んだファイルには、「Safe」か「Unsafe」の印が付きます。16 Qwen/Qwen3-8Bのファイル一覧では、4GBのファイルを含めて、どのファイルにも「Safe」が付いていました。22

見本のページ(mcpotato/42-eicar-street)には、危ないファイルがわざと置いてあります。一覧の上には「This model has 3 files scanned as unsafe.」(安全でないファイルが3つある)と出ていました。20

「Unsafe」が付いたファイルは、ダウンロードしないでください。

「Safe」も「Unsafe」も付いていないファイルは、まだ検査中か、検査待ちか、検査に失敗したのかもしれません。検査には数分かかることがあるので、少し待ってからページを読み込み直しましょう。16

pickleのファイルを使う前に

pickleの検査は100%確実ではなく、安全かどうかを確かめるのは使う人の責任です。Hugging Faceは、信頼できる人や組織のモデルを読み込むよう勧めています。17

つまずきやすいところ

「Use this model」にOllamaやLM Studioが出ないときは、設定の「Local Apps」で、そのソフトを有効にしているかを確かめます。1213

GGUFかMLXのモデルでは、「Use this model」の一覧からLM Studioを選べます。13

次に読む回

前の回は「ローカルLLMのおすすめは?メモリ・用途・日本語・ライセンスの4つで選ぶ手順」です。モデルの名前や「8B」の読み方は、ローカルLLMの用語の記事で扱っています。

次の回は「日本語で使う — 日本語に強いモデルと、トークナイザの違い」で、日本語の得意不得意の見方を扱います。

出典

  1. Hugging Face Hub documentation(Hub のドキュメントの最初のページ)(参照 2026-11-01)
  2. Model Cards(Hub のドキュメント。メタデータ・base_model・ライセンスの節)(参照 2026-11-01)
  3. Qwen/Qwen3-8B のモデルカードとファイルの一覧(Hugging Face)(参照 2026-11-01)
  4. QwenLM/Qwen3 の README(GitHub)(参照 2026-11-01)
  5. Qwen/Qwen3-8B-GGUF のモデルカードとファイルの一覧(Hugging Face)(参照 2026-11-01)
  6. bartowski/Qwen_Qwen3-8B-GGUF のモデルカード(Hugging Face)(参照 2026-11-01)
  7. meta-llama/Llama-3.1-8B-Instruct のモデルカード(Hugging Face)(参照 2026-11-01)
  8. Llama 3.1 Community License Agreement(Meta。Llama 3.1 の公開日 2024年7月23日)(参照 2026-11-01)
  9. GGUF(Hub のドキュメント)(参照 2026-11-01)
  10. Safetensors(Hugging Face のドキュメント)(参照 2026-11-01)
  11. Using MLX at Hugging Face(Hub のドキュメント)(参照 2026-11-01)
  12. Use Ollama with any GGUF Model on Hugging Face Hub(Hub のドキュメント)(参照 2026-11-01)
  13. GGUF usage with LM Studio(Hub のドキュメント)(参照 2026-11-01)
  14. Getting Started with Repositories(Hub のドキュメント。リポジトリの持ち主は自分か所属する組織)(参照 2026-11-01)
  15. Gated models(Hub のドキュメント)(参照 2026-11-01)
  16. Malware Scanning(Hub のドキュメント)(参照 2026-11-01)
  17. Pickle Scanning(Hub のドキュメント)(参照 2026-11-01)
  18. Third-party scanner: Protect AI(Hub のドキュメント)(参照 2026-11-01)
  19. Third-party scanner: JFrog(Hub のドキュメント)(参照 2026-11-01)
  20. mcpotato/42-eicar-street のファイルの一覧(Hub のドキュメントが検査の表示の見本に挙げるページ)(参照 2026-11-01)
  21. Model(s) Release Checklist(Hub のドキュメント。量子化した版と Model tree の節)(参照 2026-11-01)
  22. Qwen/Qwen3-8B のファイル一覧(Files and versions。Hugging Face)(参照 2026-11-01)