Unsloth 宣布通过优化解码和新增 MTP 支持,让 GLM-5.3-Flash 的本地 GGUF 推理提速 1.6 至 3.4 倍,长上下文下最高达 3.3 倍。
技巧
·X:Unsloth (@UnslothAI)
Unsloth 让 GLM-5.3-Flash 本地推理提速最高 3.3 倍并发布 GGUF
— We made GLM-5.3-Flash run 3.3x faster locally! Local GGUF inference is now 1.6–3.4× faster with opt...