类目 全部 模型 产品 行业 论文 技巧
  1. 01

    vLLM 发布 vllm-metal v0.28.0:在 Apple Silicon 上支持并发推理服务

    Announcing vllm-metal: Concurrent Serving on Apple Silicon

    vLLM 官方发布 vllm-metal v0.28.0,把 vLLM 的 V1 调度器、paged KV cache 和 OpenAI 兼容服务器带到 Apple Silicon,由 MLX 和 Metal 执行模型,版本号与上游 vLLM 对齐。

    阅读全文 → 原文 ↗
  2. 02

    transformers 支持直接加载 GGUF 量化模型,本地推理性能接近 llama.cpp

    Transformers now runs llama.cpp quants

    Hugging Face 宣布 transformers 支持直接运行 GGUF 量化模型,通过 from_pretrained 传入 gguf_file 即可加载 Hub 上的 GGUF checkpoint,并复用 ggml 的 Metal 内核。

    阅读全文 → 原文 ↗
  3. 03

    OpenRouter 推出 Batch API,批量推理可享半价

    Batch API: half-price inference by bundling requests

    OpenRouter 发布 Batch API,异步批量请求由供应商在 24 小时窗口内完成,通常按正常 per-token 价格的 50% 或更低收费,目前已支持 70 多个模型。

    阅读全文 → 原文 ↗
  4. 04

    Kimi 发布浏览器扩展,由 Kimi WebBridge 更名而来

    Meet the new Kimi Browser Extension, formerly Kimi WebBridge. From your browser sidebar, you can ch...

    Kimi 发布新的 Kimi Browser Extension,前身为 Kimi WebBridge。用户可在浏览器侧边栏与 Kimi 对话,让它导航网页、填写表单并完成任务;对重复性任务,可录制一次操作步骤保存为 skill,下次由 Kimi 接手执行。产品现已在 kimi.com/products/kimi-browser-extension 和 Chrome Web Store 上线。

    阅读全文 → 原文 ↗
  5. 05

    Seedance 2.5 API 上线 Draft 模式,480P 试错后 1080P 一次成片

    Seedance 2.5上线Draft模式:480P高效试错,1080P一次成片

    火山引擎为 Seedance 2.5 API 推出 Draft(样片)模式,先用 480P 快速生成样片验证创意,选中后再通过样片 ID 生成 1080P 成片,复用提示词、参考素材、seed、ratio、duration 等参数保证一致性。

    阅读全文 → 原文 ↗
  6. 06

    LiteParse 9 月更新:PDFium 提速 20-25%,新增视觉定位与 is-complex 路由 API

    LiteParse Updates: September 2026

    LlamaIndex 发布 LiteParse 2.14.6 更新,通过对自维护 PDFium fork 做内存分配优化(内置 mimalloc)等手段,将文本提取耗时降低 20-25%,平均 2.76ms/页,markdown 渲染 3.94ms/页。

    阅读全文 → 原文 ↗
  7. 07

    Apple 新款 Mac mini(M6/M5 Pro)与 Mac Studio(M5 Max/M5 Ultra)今日开售

    The new Mac mini and Mac Studio are available today

    Apple 宣布新款 Mac mini 和 Mac Studio 于 9 月 22 日开售。Mac mini 搭载 M6 和 M5 Pro,AI 性能最高提升 4 倍。

    阅读全文 → 原文 ↗
  8. 08

    Google 发布 Gemini 3.8 Flash TTS 与 Flash-Lite TTS 并正式开放 Gemini API Voices 端点

    September 22, 2026

    Google 宣布 Gemini 3.8 Flash TTS(gemini-3.8-flash-tts)和 Gemini 3.8 Flash-Lite TTS(gemini-3.8-flash-lite-tts)正式可用,并发布 Gemini API Voices 端点(/v1beta/voices)。

    阅读全文 → 原文 ↗
  9. 09

    Fireworks AI 推出 Specialized Intelligence Index 领域基准索引

    Introducing The Specialized Intelligence Index

    Fireworks AI 推出 Specialized Intelligence Index(SII),汇集开放、闭源与专用模型在真实工作任务基准上的表现,首批覆盖医疗、法律、网络安全、金融、客服、生产力和软件七个领域。

    阅读全文 → 原文 ↗
  10. 10

    vLLM 引入硬件无关层以兼容 torch.compile 与 OOT 加速器

    Hardware-Agnostic Models in vLLM

    vLLM 为追求前沿性能正转向硬件专用的 flat 模型定义,与 fullgraph torch.compile 不兼容,影响 OOT 加速器、旧 GPU 和较冷门模型的支持。

    阅读全文 → 原文 ↗