跳到正文

端侧 AI

跑在手机、电脑与边缘设备上的 AI:小模型、本地推理与端侧芯片的进展。

最新精选

第 1–3 条 · 共 3 条
10月13日周二
6月23日周二
  1. Hugging Face Blog63

    在 Transformers.js 中试验跨源存储 API 以优化缓存

    Transformers.js 支持通过实验性标志启用跨源存储(COS)API,利用 SHA-256 哈希在不同网站间共享 AI 模型和 Wasm 运行时文件,从而避免重复下载并节省存储空间。开发者可通过安装 Chrome 扩展或设置 `env.experimental_useCrossOriginStorage = true` 来测试该功能,实现毫秒级的模型加载体验。

    推荐理由:文章演示了如何在 Transformers.js 中启用跨源存储 API,通过哈希识别共享模型资源以消除浏览器端的重复下载。

4月3日周五
  1. Google DeepMind87

    Google DeepMind 发布 Gemma 4:号称每字节最强开源模型

    Google DeepMind 正式发布 Gemma 4 系列开源模型,采用 Apache 2.0 许可证,旨在提供先进的推理能力和智能体工作流支持。该系列包含 E2B、E4B、26B MoE 和 31B Dense 四种尺寸,其中 31B 模型在 Arena AI 文本排行榜上位列全球第三。

    推荐理由:官方发布了基于 Apache 2.0 许可的 Gemma 4 系列,涵盖从移动端到工作站的多种规格,开发者可据此评估其在本地推理和智能体工作流中的实际部署潜力。