要点
対
- 「/」の
前が 公開した 人か 組織 - 量子化した
版は 元の モデルの 記載を 見る - ゲート付きは
申請と 承認が 要る
この
この記事の目次(7節)
Hugging Face(公開されたAIの
Ollama(手元で
Ollamaなら、Q4_K_M.gguf でQwen_Qwen3-8B-Q4_K_M.gguf)から
この
公式版とほかの人が量子化した版の見分け方
モデルの
開発元のGitHubからたどる
Qwen3のGitHubの
「Model tree」で元のモデルをたどる
量子化した
量子化した
表のQ4_K_MやQ8_0は
| ページ | 公開した | ファイル形式 | ファイルサイズ |
|---|---|---|---|
| Qwen/Qwen3-8B | Qwen | safetensors(量子化する | 5つに |
| Qwen/Qwen3-8B-GGUF | Qwen | GGUF | Q4_K_Mで5.03GB。Q4_K_M〜Q8_0の5種類 |
| bartowski/Qwen_Qwen3-8B-GGUF | bartowski(Qwen以外の | GGUF | Q4_K_Mで5.03GB。Q2_Kの3.28GBなど、 |
Qwen公式のGGUFで
bartowskiの
ほかの
モデルカードで確かめること
モデルカードは、README.md です。2 下の
| 項目 | Qwen/Qwen3-8B | meta-llama/Llama-3.1-8B-Instruct |
|---|---|---|
| ライセンス | apache-2.0 | llama3.1(Meta独自の |
| 対応言語 | 100を | 英語・ドイツ |
| パラメータ数 | 8.2B(約82億) | 8B(約80億) |
| コンテキスト長 | 32,768トークン | 128k(カードの |
| ダウンロード | 要らない | 要る |
必要な
ライセンスは条件まで読む
ライセンスのother と
Llama 3.1の
- Llama 3.1の
公開日の 時点で、 その前の 月の 月間 アクティブユーザーが 関連会社の 分を 含めて7億人を 超えていた 会社は、Metaに ライセンスを 申請し、 許可されるまでは 使えない - Llama 3.1や
それを 作り 変えた もの、 それを 含む 製品や サービスを 人に 配布・提供する ときは、 ライセンスの 写しを 添え、 「Built with Llama」 と 目立つように 表示する
Llama 3.1を日本語で使うとき
モデルカードは、8つの
その
ファイル形式と使うソフト
ファイル
| ファイル形式 | 見分け方 | 中身 | 主に |
|---|---|---|---|
| GGUF | 拡張子が .gguf | 重みと | llama.cpp・LM Studio・Ollama・GPT4All |
| pickle | pytorch_model.bin など | PyTorchの | PyTorch(Python) |
| safetensors | 拡張子が .safetensors | 重みだけ。pickleと | Pythonの |
pickleの
Appleシリコン
Ollamaでダウンロードする
- Hugging Faceに
ログインし、 設定の 「Local Apps」 の ページでOllamaを 有効に する - モデルの
ページで 「Use this model」 を 押し、Ollamaを 選ぶ - 出てきた
コマンド ( ollama run hf.co/のあとに モデルの 名前が 続く)を コピーする - ターミナルに
貼り付けて 実行する
量子化の
別の:Q8_0 のように
LM Studioでダウンロードする
- Hugging Faceに
ログインし、 設定の 「Local Apps」 の ページでLM Studioを 有効に する - モデルの
ページで 「Use this model」 を 押し、LM Studioを 選ぶ - モデルがLM Studioに
入っていれば そのまま 動き、 無ければ ダウンロードの 画面が 出る
申請が要るモデル(ゲート付きモデル)
ゲート
申請は、
自動で
ブラウザでは、
コマンドでhf auth login(ターミナルでHugging Faceに
安全でないファイルの見分け方
Hugging Faceは、
Hugging Face自身の
「Safe」と「Unsafe」の印
検査が
見本の
「Unsafe」が
「Safe」も
pickleのファイルを使う前に
pickleの
つまずきやすいところ
「Use this model」
GGUFかMLXの
次に読む回
前の
次の
出典
- Hugging Face Hub documentation(Hub のドキュメントの最初のページ)(参照 2026-11-01)
- Model Cards(Hub のドキュメント。メタデータ・base_model・ライセンスの節)(参照 2026-11-01)
- Qwen/Qwen3-8B のモデルカードとファイルの一覧(Hugging Face)(参照 2026-11-01)
- QwenLM/Qwen3 の README(GitHub)(参照 2026-11-01)
- Qwen/Qwen3-8B-GGUF のモデルカードとファイルの一覧(Hugging Face)(参照 2026-11-01)
- bartowski/Qwen_Qwen3-8B-GGUF のモデルカード(Hugging Face)(参照 2026-11-01)
- meta-llama/Llama-3.1-8B-Instruct のモデルカード(Hugging Face)(参照 2026-11-01)
- Llama 3.1 Community License Agreement(Meta。Llama 3.1 の公開日 2024年7月23日)(参照 2026-11-01)
- GGUF(Hub のドキュメント)(参照 2026-11-01)
- Safetensors(Hugging Face のドキュメント)(参照 2026-11-01)
- Using MLX at Hugging Face(Hub のドキュメント)(参照 2026-11-01)
- Use Ollama with any GGUF Model on Hugging Face Hub(Hub のドキュメント)(参照 2026-11-01)
- GGUF usage with LM Studio(Hub のドキュメント)(参照 2026-11-01)
- Getting Started with Repositories(Hub のドキュメント。リポジトリの持ち主は自分か所属する組織)(参照 2026-11-01)
- Gated models(Hub のドキュメント)(参照 2026-11-01)
- Malware Scanning(Hub のドキュメント)(参照 2026-11-01)
- Pickle Scanning(Hub のドキュメント)(参照 2026-11-01)
- Third-party scanner: Protect AI(Hub のドキュメント)(参照 2026-11-01)
- Third-party scanner: JFrog(Hub のドキュメント)(参照 2026-11-01)
- mcpotato/42-eicar-street のファイルの一覧(Hub のドキュメントが検査の表示の見本に挙げるページ)(参照 2026-11-01)
- Model(s) Release Checklist(Hub のドキュメント。量子化した版と Model tree の節)(参照 2026-11-01)
- Qwen/Qwen3-8B のファイル一覧(Files and versions。Hugging Face)(参照 2026-11-01)
