跳到正文

#开源/仓库

今日 9 条
7月25日周五
7月24日周四
7月23日周三
7月18日周五
7月17日周四
7月10日周四
7月9日周三
7月8日周二
  1. Hugging Face Blog42

    Hugging Face 生产基础设施背后的三大警报系统

    Hugging Face 的基础设施团队分享了其生产基础设施的内部运作细节,重点介绍了三个关键的警报系统。这些系统包括监控 NAT 网关吞吐量、日志存档成功率和 Hub 请求日志,旨在确保平台的高性能和稳定性。通过这些警报,Hugging Face 能够及时识别并响应潜在问题,优化基础设施配置,降低成本。

  2. Hugging Face Blog85

    Hugging Face 发布 SmolLM3:小型、多语言、长上下文推理模型

    Hugging Face 发布了 SmolLM3,一个具有 3B 参数的小型语言模型,支持多语言和长上下文推理。该模型在多个基准测试中表现出色,并提供了详细的工程细节和训练方法。

    推荐理由:SmolLM3 是一个开源的 3B 模型,具有多语言和长上下文推理能力,读者可以了解其性能和工程细节。

7月4日周五
7月1日周二
6月24日周二
6月19日周四
6月12日周四
6月4日周三
  1. Hugging Face Blog62

    nanoVLM中KV Cache从零开始

    nanoVLM团队在nanoVLM仓库中实现了KV Caching,提高了生成速度38%。文章详细介绍了KV Caching的原理和实现过程,适用于所有自回归语言模型的生成。

    推荐理由:原文详细介绍了KV Caching在nanoVLM中的实现,读者可以学习到如何优化自回归语言模型的生成效率。

6月3日周二
5月29日周四
5月25日周日
5月23日周五
5月22日周四
5月21日周三
  1. Hugging Face Blog85

    Falcon-Arabic:阿拉伯语语言模型的突破

    Falcon-Arabic 是一个 70 亿参数的语言模型,支持阿拉伯语、英语和其他语言。它在阿拉伯语语法、数学推理、复杂问题解决和阿拉伯方言理解方面表现出色。Falcon-Arabic 在阿拉伯语自然语言处理领域取得了突破性进展,为阿拉伯语社区带来了先进的语言理解和生成能力。

    推荐理由:Falcon-Arabic 是首个针对阿拉伯语设计的语言模型,具有多语言能力,在阿拉伯语自然语言处理领域取得了突破性进展,对阿拉伯语社区具有重要意义。

  2. Hugging Face Blog45

    Hugging Face Diffusers 中的量化后端探索

    Hugging Face Diffusers 探索了多种量化后端,如 bitsandbytes、GGUF、torchao、Quanto 和 native FP8,以降低大型扩散模型的内存和计算资源需求,同时保持性能。通过实验,用户可以识别出不同量化版本的模型生成的图像,展示了量化技术在保持图像质量的同时显著降低内存消耗的优势。

5月15日周四
  1. Hugging Face Blog85

    Transformers库:标准化模型定义

    Transformers库支持300+模型架构,与流行训练框架和推理引擎集成,提高模型可互操作性。

    推荐理由:Transformers库成为Python生态系统中LLMs和VLMs的默认库,支持300+模型架构,并与其他流行训练框架和推理引擎集成,提高了模型的可互操作性。

5月14日周三
5月12日周一
5月11日周日
5月8日周四
5月7日周三
4月30日周三
  1. Hugging Face Blog42

    Gradio 如何构建 MCP 服务器

    Gradio 最新版本支持构建 Model Context Protocol (MCP) 服务器,使 Gradio 应用成为 LLM 的工具。通过简单的 Python 代码,Gradio 可将任何 Python 函数转换为 LLM 可用的工具,如字母计数器。Gradio 还支持资源(数据)和提示(模板),并允许创建仅存在于 MCP 服务器中的函数。