跳到正文
热点事件持续更新

Liquid AI开源端侧推理模型LFM2.5-24B-A2B

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Liquid AI 在 Hugging Face 开源发布了端侧推理模型 LFM2.5-24B-A2B 及基座版本权重。该模型总参数为 24B,运行时代仅激活 2B 参数,且为在给出最终答案前输出显式思维链的纯推理模型,上下文窗口为 131K tokens。 该模型在 Apple M5 Max 上的解码速度达 184 tok/s,在单张 NVIDIA B300 上输出达 2.1 万 tok/s,并在 LiveClaw 评测中取得 48.09 分。模型支持 llama.cpp、MLX 和 vLLM 等推理生态,依赖 transformers 5.0.0 及以上版本运行。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. Hugging Face · 开源研究
    利用 LFM2.5-24B-A2B 在端侧运行快速且私密的智能体

    LFM2.5-24B-A2B 是一款拥有 24B 总参数、仅 2B 激活参数的端侧推理模型,上下文窗口扩展至 131K tokens。该模型在 Apple M5 Max 上解码速度达 184 tok/s,在单张 NVIDIA B300 上输出达 2.1 万 tok/s。在 LiveClaw 评测中取得 48.09 分,并支持 llama.cpp、MLX 和 vLLM 等推理生态。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。