跳到正文

推理能力

模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。

最新精选

第 41–43 条 · 共 43 条
2月2日周五
  1. Hugging Face Blog65

    NPHardEval 推理能力排行榜:通过复杂度和动态更新评估大型语言模型

    NPHardEval 是由密歇根大学和罗格斯大学研究人员开发的一种评估大型语言模型推理能力的基准,通过计算复杂度对 LLM 进行评估,并每月更新以防止过拟合。

    推荐理由:NPHardEval 通过计算复杂度评估大型语言模型的推理能力,为读者提供了评估 LLM 推理能力的全新视角。

10月12日周三
  1. Hugging Face Blog60

    Hugging Face 优化 BLOOM 模型推理服务器

    Hugging Face 优化了 BLOOM 模型的推理服务器,实现了 5 倍的延迟降低和 50 倍的吞吐量提升,并分享了优化过程中的挑战和经验。

    推荐理由:本文详细介绍了如何优化 BLOOM 模型的推理服务器,包括多种优化策略和技术,读者可以从中学习到模型优化的方法和经验。

3月1日周日
  1. Hugging Face Blog60

    Hugging Face 详解 Transformers 库中不同文本生成解码方法

    Hugging Face 发布教程,详细介绍如何使用 transformers 库实现 Greedy search、Beam search、Sampling、Top-K 和 Top-p 等文本生成解码方法。文章通过 GPT2 模型演示各方法的代码配置及输出差异,并分析了重复生成等问题及 temperature、no_repeat_ngram_size 等参数的调节作用。

    推荐理由:原文结合代码演示了多种解码策略在 transformers 库中的具体配置与效果对比,适合开发者快速掌握文本生成参数调优方法。