nerkyor / Qwen3-4B-Thinking-2507-GGUF-imatrix

Text Generation580Updated May 23, 2026

Downloads

58

Likes

0

Last updated

May 23, 2026

License

apache-2.0

这是 Lynn 端侧极速路线使用的 Qwen3-4B-Thinking-2507 GGUF 量化包,面向 llama.cpp / 本地 OpenAI-compatible endpoint,专为内存紧张 / 极致速度场景优化。

Tasks & library

  • text generation

Tags

  • gguf
  • qwen
  • qwen3
  • qwen3-thinking
  • q4_k_m
  • imatrix

Technical specifications

ParametersNot available
LibraryNot available
Languageszh, en
Licenseapache-2.0