跳到正文

评测基准

模型到底谁强:Benchmark 成绩、评测方法论争议与排行榜变化的持续记录。

最新精选

第 21–35 条 · 共 35 条
12月4日周三
12月3日周二
  1. Hugging Face Blog67

    Hugging Face 案例研究:利用 LLM 优化金融数据命名实体识别

    Hugging Face 案例研究:Hugging Face 与 Capital Fund Management 合作,利用大型语言模型和 Hugging Face 生态系统优化金融数据中的命名实体识别,通过 LLM 辅助标注和微调小型模型,提高了准确率并降低了运营成本。

    推荐理由:该案例展示了如何利用大型语言模型优化金融数据中的命名实体识别,为读者提供了实际应用中的性能和成本效益分析。

11月20日周三
  1. Hugging Face Blog70

    FlagEval Debate:首个多语言大型语言模型辩论竞赛平台

    BAAI 推出 FlagEval Debate 平台,支持英语、中文、阿拉伯语和韩语辩论竞赛,旨在评估大型语言模型在交互式场景中的推理能力和语言能力。

    推荐理由:FlagEval Debate 平台通过多语言支持和开发者定制功能,为大型语言模型提供了一种新的评估方法,有助于了解模型在交互式场景中的表现。

11月19日周二
  1. Hugging Face Blog67

    Hugging Face 发布 Judge Arena:LLM 评估基准平台

    Hugging Face 发布了 Judge Arena,一个用于比较不同 LLM 作为评估者的表现的平台。用户可以选择样本进行评估,平台将提供两个 LLM 评估者的评分和理由,用户可以根据自己的判断进行投票。平台收集的投票结果将显示在排行榜上,帮助开发者选择合适的模型进行评估。

    推荐理由:Judge Arena 提供了一个平台,让用户可以比较不同 LLM 作为评估者的表现,有助于开发者选择合适的模型进行评估。

7月16日周二
  1. Hugging Face Blog85

    Hugging Face 发布 SmolLM 模型:高效且强大的小语言模型家族

    Hugging Face 发布了 SmolLM 模型,这是一系列具有 135M、360M 和 1.7B 参数的最先进的小语言模型。这些模型在精心策划的高质量训练语料库上训练,并在多个基准测试中表现出色。

    推荐理由:SmolLM 模型展示了小语言模型在高质量数据集上的高效训练,实现了性能和规模的强平衡,为读者提供了关于小语言模型性能的参考。

6月6日周四
5月24日周五
  1. Hugging Face Blog62

    CyberSecEval 2 - 大型语言模型网络安全风险全面评估框架

    Hugging Face 发布了 CyberSecEval 2 评测框架,用于评估大型语言模型(LLM)的网络安全风险,包括代码解释器滥用、攻击性网络安全能力和提示注入攻击等。该框架旨在帮助开发者提高 LLM 的网络安全安全性。

    推荐理由:CyberSecEval 2 评测框架为评估大型语言模型(LLM)的网络安全风险提供了全面的基准,揭示了行业改进和持续挑战。

5月14日周二
5月3日周五
  1. Hugging Face Blog65

    Hugging Face发布LLM性能排行榜

    Hugging Face发布了一个LLM性能排行榜,旨在帮助AI工程师在AI应用中选择合适的LLM和API提供商,考虑了质量、价格和速度等多个指标。

    推荐理由:该排行榜提供了关于不同LLM的全面指标,帮助AI工程师做出决策,具有参考价值。

4月16日周二
  1. Hugging Face Blog70

    Hugging Face 推出 LiveCodeBench 评测基准,全面评估代码 LLMs

    Hugging Face 推出 LiveCodeBench 评测基准,基于 LiveCodeBench,由加州大学伯克利分校、麻省理工学院和康奈尔大学的研究人员开发,用于衡量 LLMs 的代码生成能力。

    推荐理由:LiveCodeBench 评测基准的发布为代码 LLMs 提供了更全面、无污染的评估,有助于了解不同模型的能力和泛化能力。

3月5日周二
  1. Hugging Face Blog65

    Hugging Face 发布 ConTextual 数据集,评估多模态模型在文本丰富场景中的推理能力

    Hugging Face 发布了 ConTextual 数据集,用于评估多模态模型在文本丰富场景中的推理能力。该数据集包含 506 个具有挑战性的指令,涵盖了 8 个现实世界的视觉场景。

    推荐理由:ConTextual 数据集的发布为评估多模态模型在文本丰富场景中的推理能力提供了新的基准,有助于推动相关领域的研究进展。

10月24日周一
  1. Hugging Face Blog62

    Hugging Face 发布评估语言模型偏见的工具 🤗 Evaluate

    Hugging Face 发布了 🤗 Evaluate 工具,用于评估大型语言模型的偏见。该工具提供了多种指标和测量方法,帮助用户分析模型在有害语言、语言极性和性别刻板印象等方面的表现。

    推荐理由:该工具提供了评估大型语言模型偏见的方法,有助于读者了解模型在偏见方面的表现。

10月19日周三
  1. Hugging Face Blog60

    MTEB:大规模文本嵌入基准发布

    MTEB 是一个用于衡量文本嵌入模型在多样化嵌入任务上性能的大规模基准。它包含了 56 个数据集和 8 个任务,目前汇总了超过 2000 个结果。MTEB 还支持多语言模型,并提供了开源代码库供用户提交模型和结果。

    推荐理由:MTEB 提供了一个全面的文本嵌入模型性能基准,读者可以了解不同模型在不同任务上的表现,从而选择最适合自己的模型。

10月3日周一
  1. Hugging Face Blog70

    Hugging Face 推出零样本评估工具

    Hugging Face 推出零样本评估工具,支持研究人员评估大型语言模型,无需编写代码,并支持开源生态和评测基准。

    推荐理由:该工具使研究人员能够轻松评估大型语言模型,并支持零样本评估,有助于推动开源生态和评测基准的发展。