跳到正文

#评测/基准

今日 12 条
10月9日周四
10月1日周三
  1. Hugging Face Blog65

    Hugging Face 推出检索嵌入基准 (RTEB) - 新标准

    Hugging Face 推出了检索嵌入基准 (RTEB),这是一个新的基准,旨在可靠地评估嵌入模型在现实世界应用中的检索准确性。RTEB 采用开放和私有数据集的混合策略,旨在创建一个公平、透明且以应用为导向的标准,以衡量模型在未见过的数据上的表现。

    推荐理由:RTEB 提供了一个混合数据集策略,旨在评估嵌入模型的检索准确性,对开发者来说是一个重要的工具。

9月29日周一
9月25日周四
9月15日周一
9月5日周五
9月2日周二
8月27日周三
8月12日周二
8月5日周二
8月4日周一
7月24日周四
7月23日周三
  1. Hugging Face Blog70

    TimeScope:评估视频大模型理解长视频的能力

    TimeScope 是一个开源的评测基准,用于衡量视觉-语言模型理解长视频的能力。通过在视频中插入短视频片段,评估模型在局部检索、信息综合和细粒度时间感知方面的能力。

    推荐理由:TimeScope 评测基准揭示了当前视频大模型在理解长视频方面的不足,为模型训练和评估提供了新的视角。

7月17日周四
7月4日周五
6月12日周四
  1. Hugging Face Blog45

    如何优化大型语言模型性能:处理长提示词的挑战

    TNG在24个H100 GPU集群上自托管多个大型语言模型,处理超过50个应用,每天消耗超过1亿个token并生成超过1000万个token。文章探讨了在处理长提示词时,如何优化LLM性能,包括长提示词阻塞队列的问题和并行预填充策略的改进。通过并行预填充不同请求,可以缩短请求的等待时间,但总完成时间仅略有改善。

6月5日周四
5月12日周一
5月7日周三
5月2日周五
4月30日周三
4月23日周三
4月16日周三
  1. Hugging Face Blog72

    HELMET:全面评估长上下文语言模型

    HELMET 是一个用于评估长上下文语言模型的综合基准,通过多样化的任务、可控的长度和复杂性以及可靠的评估方法,对 59 个 LCLMs 进行了评估,发现长上下文语言模型在复杂任务上仍有局限性。

    推荐理由:原文提出了 HELMET 评测框架,旨在评估长上下文语言模型,读者可以了解其在不同任务上的表现和局限性。

4月10日周四
4月9日周三
4月2日周三
3月21日周五
3月20日周四
3月10日周一
2月28日周五
2月21日周五
2月18日周二
  1. OpenAI News40

    OpenAI 推出 SWE-Lancer 基准测试

    OpenAI 推出 SWE-Lancer 基准测试,旨在评估前沿大语言模型在真实世界自由职业软件工程任务中赚取 100 万美元的能力。该基准通过模拟实际工作场景,量化衡量 LLM 解决复杂工程问题的经济价值与实用性能。

2月14日周五
  1. Hugging Face Blog70

    Hugging Face 修复 Open LLM 排行榜的数学验证问题

    Hugging Face 使用 Math-Verify 重新评估了 Open LLM Leaderboard 上的所有模型,解决了之前评估中的问题,导致排行榜发生重大变动,许多模型在分数上显示出显著改进。

    推荐理由:Math-Verify 的引入显著提高了 Open LLM Leaderboard 评估的准确性和公平性,导致排行榜发生重大变动,许多模型在分数上显示出显著改进。

2月13日周四
1月17日周五
1月9日周四
  1. Hugging Face Blog60

    开源语言模型碳排放与性能分析:来自 Open LLM 排行榜的洞察

    Hugging Face 对 Open LLM 排行榜上的 3000 多个模型进行了碳排放评估,分析了模型推理过程中的碳排放,并探讨了社区微调模型在降低碳排放方面的优势。

    推荐理由:分析了开源语言模型在推理过程中的碳排放,揭示了社区微调和官方模型之间的差异,为模型创建者提供了性能与环保平衡的参考。