跳到正文

#评测/基准

今日 10 条
12月1日周五
  1. Hugging Face Blog45

    Open LLM Leaderboard: DROP 深度分析

    Open LLM Leaderboard 添加了 DROP 模型评测,但发现多数模型 f1 分数低于 10。分析发现,模型在处理浮点数答案时存在中断问题,且高质量模型生成长答案时 f1 分数反而更低。通过使用换行符作为生成结束标记,新分数与平均性能相关性更好。

11月7日周二
10月24日周二
9月29日周五
  1. Hugging Face Blog45

    Hugging Face 在 AI 伦理和社会议题上的行动与发声

    Hugging Face 积极参与 AI 伦理讨论,向欧盟、英国和美国立法者提供 AI 监管建议,CEO Clem 向美国国会作证,首席伦理科学家 Meg 向民主党核心小组发表评论。此外,Hugging Face 与媒体合作,就 AI 能源使用、偏见、性别问题等发表观点,并推出 AI 音频课程、开放访问临床语言模型资源等。

9月26日周二
9月12日周二
8月28日周一
8月8日周二
7月21日周五
7月1日周六
6月28日周三
6月20日周二
6月16日周五
5月16日周二
3月30日周四
3月14日周二
3月2日周四
3月1日周三
2月7日周二
2月6日周一
12月15日周四
12月5日周一
11月7日周一
10月24日周一
  1. Hugging Face Blog62

    Hugging Face 发布评估语言模型偏见的工具 🤗 Evaluate

    Hugging Face 发布了 🤗 Evaluate 工具,用于评估大型语言模型的偏见。该工具提供了多种指标和测量方法,帮助用户分析模型在有害语言、语言极性和性别刻板印象等方面的表现。

    推荐理由:该工具提供了评估大型语言模型偏见的方法,有助于读者了解模型在偏见方面的表现。

10月19日周三
  1. Hugging Face Blog60

    MTEB:大规模文本嵌入基准发布

    MTEB 是一个用于衡量文本嵌入模型在多样化嵌入任务上性能的大规模基准。它包含了 56 个数据集和 8 个任务,目前汇总了超过 2000 个结果。MTEB 还支持多语言模型,并提供了开源代码库供用户提交模型和结果。

    推荐理由:MTEB 提供了一个全面的文本嵌入模型性能基准,读者可以了解不同模型在不同任务上的表现,从而选择最适合自己的模型。

10月3日周一
  1. Hugging Face Blog70

    Hugging Face 推出零样本评估工具

    Hugging Face 推出零样本评估工具,支持研究人员评估大型语言模型,无需编写代码,并支持开源生态和评测基准。

    推荐理由:该工具使研究人员能够轻松评估大型语言模型,并支持零样本评估,有助于推动开源生态和评测基准的发展。

8月3日周三
7月29日周五
6月28日周二
  1. Hugging Face Blog53

    Hugging Face 发布 Evaluation on the Hub 无代码模型评估工具

    Hugging Face 推出 Evaluation on the Hub,这是一项由 AutoTrain 驱动的新功能,允许用户在 Hub 上无需编写代码即可对任意模型在任意数据集上进行评估。该工具通过 Pull Request 自动将验证后的性能结果写入模型卡片元数据,并提供排行榜以辅助模型对比。目前支持文本分类、命名实体识别等任务,旨在解决现代 AI 评估中的繁琐与可复现性问题。

1月31日周一
9月23日周四
12月10日周四
11月17日周二
9月14日周一
9月1日周二
8月21日周五
  1. Ethereum Blog42

    Eth2 测试网 Medalla:客户端多样性为何重要

    Medalla 测试网因客户端多样性不足导致网络拥堵和节点故障,Prysm 节点时间错误导致网络瘫痪。Eth2 设计了激励机制,如活跃度惩罚和安全性惩罚,以鼓励验证者做出对网络最有利的选择。目前,Lighthouse、Teku、Nimbus 和 Prysm 等客户端相对稳定,鼓励用户尝试不同客户端以促进网络健康分布。

6月20日周六
5月6日周三
3月31日周二
  1. Ethereum Blog45

    Ethereum 2.0 Phase 0 安全审计完成及预发布赏金计划启动

    Least Authority 完成了 Ethereum 2.0 Phase 0 的全面安全审计,发现了多个潜在问题并提出改进建议;同时,Ethereum 基金会启动了 Phase 0 预发布赏金计划,奖励发现并报告核心规格中漏洞的用户,最高奖励可达 1 万美元。此外,eth1+eth2 通信已被统一至 Eth R&D Discord 服务器,以促进生态系统内的协作。

3月17日周二
  1. Ethereum Blog47

    Ethereum 2.0 v0.11.0 发布:多客户端测试网稳定,GHOST 和 Casper 研究论文发布

    Ethereum 2.0 v0.11.0 版本发布,为多客户端测试网提供稳定目标;GHOST 和 Casper 研究论文正式发布,为 eth2 的核心共识组件提供理论支持;多项研究显示多项式承诺有望实现无状态以太坊,减少状态证明所需空间;IETF BLS 标准更新,但预计不会影响以太坊 2.0 的主网部署。