Very Large GGUFs - a DevQuasar Collection

DevQuasar 's Collections

Very Large GGUFs

Llama 4

Nvidia AceInstruct and AceMath

HuggingFaceTB.finemath GUFFs

IBM Granite3.1 GGUF

tiiuae Falcon3 GGUF

Analytical Reasoning

IBM Granite3 GGUF

GGUFs

Very Large GGUFs

updated 3 days ago

GGUF quantized versions of very large models - over 100B parameters

DevQuasar/nvidia.Llama-3_1-Nemotron-Ultra-253B-CPT-v1-GGUF

Text Generation • 253B • Updated Aug 6 • 170
DevQuasar/meta-llama.Llama-4-Maverick-17B-128E-Instruct-GGUF

Text Generation • 401B • Updated Apr 18 • 86
DevQuasar/meta-llama.Llama-4-Scout-17B-16E-Instruct-GGUF

Text Generation • 108B • Updated Apr 11 • 677 • 3
DevQuasar/nvidia.Llama-3_1-Nemotron-Ultra-253B-v1-GGUF

Text Generation • 253B • Updated Apr 16 • 539 • 7
DevQuasar/huihui-ai.DeepSeek-V3-0324-Pruned-Coder-411B-GGUF

Text Generation • 426B • Updated May 15 • 125 • 2
DevQuasar/deepseek-ai.DeepSeek-V3-Base-bf16

Text Generation • 684B • Updated Apr 8 • 7
DevQuasar/deepseek-ai.DeepSeek-V3-0324-GGUF

Text Generation • 671B • Updated Mar 30 • 703 • 2
DevQuasar/deepseek-ai.DeepSeek-R1-Zero-GGUF

Text Generation • 671B • Updated Feb 1 • 42 • 2
DevQuasar/deepseek-ai.DeepSeek-R1-Zero-bf16

Text Generation • 684B • Updated Feb 1 • 1
DevQuasar/Snowflake.snowflake-arctic-instruct-GGUF

Text Generation • 479B • Updated Feb 1 • 39
DevQuasar/deepseek-ai.DeepSeek-V3-Base-GGUF

Text Generation • 671B • Updated Feb 1 • 41 • 8
DevQuasar/bigscience.bloom-GGUF

Text Generation • 180B • Updated Mar 17 • 108 • 1
DevQuasar/bigscience.bloomz-p3-GGUF

Text Generation • 176B • Updated May 25 • 54 • 1
DevQuasar/perplexity-ai.r1-1776-GGUF

Text Generation • 671B • Updated Feb 21 • 134 • 3
DevQuasar/microsoft.MAI-DS-R1-GGUF

Text Generation • 671B • Updated May 2 • 72
DevQuasar/nicoboss.Hermes-3-Llama-3.1-405B-Uncensored-GGUF

Text Generation • 406B • Updated May 20 • 138 • 1
DevQuasar/Qwen.Qwen3-235B-A22B-GGUF

Text Generation • 235B • Updated Jul 19 • 290
DevQuasar/tngtech.DeepSeek-R1T-Chimera-GGUF

Text Generation • 671B • Updated May 20 • 126 • 2
DevQuasar/deepseek-ai.DeepSeek-Prover-V2-671B-GGUF

Text Generation • 671B • Updated May 24 • 4
DevQuasar/CohereLabs.c4ai-command-r-plus-GGUF

Text Generation • 104B • Updated Jul 18 • 383
DevQuasar/inclusionAI.Ling-plus-GGUF

Text Generation • 293B • Updated May 24 • 39 • 3
DevQuasar/NousResearch.Hermes-3-Llama-3.1-405B-GGUF

Text Generation • 406B • Updated Jun 8 • 127 • 2
DevQuasar/deepseek-ai.DeepSeek-R1-0528-GGUF

Text Generation • 671B • Updated Jun 2 • 467 • 6
DevQuasar/shisa-ai.shisa-v2-llama3.1-405b-GGUF

Text Generation • 406B • Updated Jun 15 • 132
DevQuasar/tngtech.DeepSeek-TNG-R1T2-Chimera-GGUF

Text Generation • 671B • Updated Jul 18 • 140 • 1
DevQuasar/Qwen.Qwen3-235B-A22B-Instruct-2507-GGUF

Text Generation • 235B • Updated Jul 22 • 104 • 2
DevQuasar/Qwen.Qwen3-235B-A22B-Thinking-2507-GGUF

Text Generation • 235B • Updated Jul 26 • 104
DevQuasar/ai21labs.AI21-Jamba-Large-1.7-GGUF

Text Generation • 399B • Updated Aug 6 • 1.14k
DevQuasar/ai21labs.AI21-Jamba-Large-1.6-GGUF

Text Generation • 399B • Updated Aug 1 • 237
DevQuasar/Qwen.Qwen3-Coder-480B-A35B-Instruct-GGUF

Text Generation • 480B • Updated Jul 24 • 1.01k • 1
DevQuasar/zai-org.GLM-4.5-Air-GGUF

Text Generation • 110B • Updated Aug 5 • 940 • 4
DevQuasar/zai-org.GLM-4.5-GGUF

Text Generation • 358B • Updated Aug 5 • 210 • 2
DevQuasar/openai.gpt-oss-120b-GGUF

Text Generation • 117B • Updated Aug 6 • 2.06k • 1
DevQuasar/deepcogito.cogito-v2-preview-deepseek-671B-MoE-GGUF

Text Generation • 671B • Updated Aug 11 • 64
DevQuasar/deepseek-ai.DeepSeek-V3.1-GGUF

Text Generation • 671B • Updated Aug 23 • 1.82k
DevQuasar/CohereLabs.command-a-reasoning-08-2025-GGUF

Text Generation • 111B • Updated Aug 27 • 538 • 3
DevQuasar/chutesai.Qwen3-235B-A22B-Instruct-2507-1M-GGUF

Text Generation • 235B • Updated Aug 26 • 581 • 1
DevQuasar/NousResearch.Hermes-4-405B-GGUF

Text Generation • 406B • Updated Sep 1 • 2.28k
DevQuasar/CohereLabs.command-a-translate-08-2025-GGUF

Text Generation • 111B • Updated Sep 2 • 1.07k • 4
DevQuasar/moonshotai.Kimi-K2-Instruct-0905-GGUF

Text Generation • 1T • Updated Sep 8 • 285 • 1
DevQuasar/baidu.ERNIE-4.5-300B-A47B-PT-GGUF

Text Generation • 299B • Updated Sep 10 • 187
DevQuasar/xai-org.grok-2-GGUF

Text Generation • 270B • Updated Sep 24 • 857 • 3
DevQuasar/deepseek-ai.DeepSeek-V3.1-Terminus-GGUF

Text Generation • 671B • Updated Sep 24 • 497 • 1
DevQuasar/zai-org.GLM-4.6-GGUF

Text Generation • 357B • Updated 24 days ago • 727 • 1
DevQuasar/inclusionAI.Ring-1T-GGUF

Text Generation • 1000B • Updated 3 days ago • 5.7k • 2
DevQuasar/inclusionAI.Ling-1T-GGUF

Text Generation • 1000B • Updated 1 day ago • 2.98k
DevQuasar/inclusionAI.Ring-flash-2.0-GGUF

Text Generation • 103B • Updated 1 day ago • 1.28k