Open LLM 领导板上的情况如何？
Hugging Face 博客文章探讨了 Open LLM 领导板上的 MMLU 评估结果差异，分析了不同评估方法对模型性能的影响。
推荐理由：原文探讨了不同评估方法对模型性能的影响，读者可以了解如何选择合适的评估方式。
#论文/研究
#论文/研究
今日 0 条Hugging Face Blog精选AI 评分6565
Hugging Face BlogAI 评分4242 Autoformer 模型在时间序列预测中的有效性分析
Hugging Face Blog 发布了关于 Autoformer 模型在时间序列预测中的有效性分析，指出该模型在三个数据集上的表现优于 DLinear 模型，并介绍了其分解层和自相关机制。
Hugging Face Blog精选AI 评分6565 大型语言模型能否像人类一样标注数据？
Hugging Face 博客发布了一篇论文，探讨了大型语言模型在数据标注方面的能力，并介绍了 Open LLM Leaderboard 评估套件的扩展。
推荐理由：该研究探讨了大型语言模型在数据标注方面的能力，为读者提供了对模型性能的评估方法。
OpenAI NewsAI 评分5252 OpenAI 发布过程监督提升模型推理能力研究
OpenAI 发布了一项新研究，提出使用过程监督（Process Supervision）来改进大型语言模型的数学推理能力。该方法通过对模型生成的中间步骤进行奖励建模，而非仅关注最终答案，从而显著提升了模型在复杂推理任务上的准确性和可解释性。
OpenAI NewsAI 评分4343 GPT-4 自动解释并评分大语言模型神经元行为
OpenAI 利用 GPT-4 自动生成并评估大型语言模型中神经元行为的解释。团队发布了包含 GPT-2 所有神经元的不完美解释及评分数据集。
Hugging Face Blog精选AI 评分6565 文本到视频模型研究进展
本文深入探讨了文本到视频模型的研究进展，包括挑战、方法和最新成果，如Phenaki、Make-A-Video、NUWA、VideoGPT、CogVideo、Video Diffusion Models (VDM)、MagicVideo、Tune-a-Video、Video LDM、Text2Video-Zero、Runway Gen1和Gen2、NUWA-XL等。
推荐理由：本文深入探讨了文本到视频模型的研究进展，包括挑战、方法和最新成果，对了解该领域的发展具有重要意义。
Hugging Face BlogAI 评分4242 Informer 模型在 Hugging Face Transformers 中实现多变量概率时间序列预测
Hugging Face 在其 Transformers 库中实现了 Informer 模型，用于多变量概率时间序列预测。该模型基于 Transformer 架构，采用 ProbSparse 注意力和 Distilling 操作，有效降低计算复杂度和内存占用，适用于长序列时间序列预测。
Hugging Face Blog精选AI 评分7070 深入探讨视觉-语言模型
本文介绍了视觉-语言模型的研究进展，包括训练策略、应用领域和开源资源，对了解该领域有重要价值。
推荐理由：本文介绍了视觉-语言模型的研究进展，包括训练策略、应用领域和开源资源，对了解该领域有重要价值。
Hugging Face Blog精选AI 评分6565 对话智能体有何用途？
本文详细介绍了对话智能体的技术，包括RLHF、IFT、CoT等，并分析了这些技术在对话智能体中的应用和效果。
推荐理由：文章详细介绍了对话智能体的技术，包括RLHF、IFT、CoT等，对了解对话智能体的发展具有重要意义。
OpenAI NewsAI 评分3131 OpenAI 联合研究预测语言模型在虚假信息中的潜在滥用及风险缓解
OpenAI 与乔治城大学、斯坦福互联网观察站合作，发布报告预测大语言模型被用于虚假信息的潜在威胁。该研究基于2021年10月汇集30位专家的研讨会及逾一年调研，提出分析潜在缓解措施的框架。
Hugging Face Blog精选AI 评分8585 从人类反馈中进行强化学习：RLHF技术详解
本文详细介绍了从人类反馈中进行强化学习（RLHF）的技术，包括其原理、训练过程、应用案例以及开源工具。
推荐理由：本文详细介绍了RLHF技术及其应用，对理解语言模型的发展具有重要意义。
Hugging Face Blog精选AI 评分7070 使用 🤗 Transformers 进行概率时间序列预测
Hugging Face 博客发布了一篇关于使用 🤗 Transformers 进行概率时间序列预测的研究论文，介绍了该方法在时间序列预测领域的应用。
推荐理由：该研究介绍了使用 Transformer 进行概率时间序列预测的方法，为读者提供了对时间序列预测领域最新进展的了解。
Hugging Face Blog精选AI 评分7070 VQ-Diffusion：一种基于离散潜在空间的图像生成模型
VQ-Diffusion 是由中国科学院大学和微软共同开发的一种条件潜在扩散模型，它使用离散潜在空间进行噪声和去噪过程，为图像生成领域带来了新的研究方向。
推荐理由：VQ-Diffusion 是一种新颖的图像生成模型，其独特的离散潜在空间处理方式为图像生成领域带来了新的研究方向。
Hugging Face Blog精选AI 评分6262 OpenRAIL：迈向开放和负责任的 AI 许可框架
OpenRAIL 是一种针对 AI 模型的开放和负责任的许可框架，旨在解决当前开源许可在 AI 模型使用中的不足，并推动 AI 模型的负责任使用。
推荐理由：OpenRAIL 提出了一种新的 AI 许可框架，旨在促进 AI 模型的开放和负责任的使用，读者可以了解其具体内容和潜在影响。
Hugging Face BlogAI 评分5555 Nyströmformer：通过 Nyström 方法近似自注意力机制
Nyströmformer 通过 Nyström 方法近似自注意力机制，在 NLP 和 CV 任务上表现优异，并提供了开源实现。
OpenAI NewsAI 评分4747 OpenAI 通过 Video PreTraining 训练神经网络玩 Minecraft
OpenAI 利用海量无标签人类游戏视频进行 Video PreTraining，仅结合少量标注数据即训练出能玩 Minecraft 的神经网络。该模型经微调后可完成制作钻石工具任务，通常需熟练人类耗时超 20 分钟（约 24,000 次操作）。其直接模拟人类键鼠输入接口，具备通用性，是迈向通用计算机使用智能体的一步。
OpenAI NewsAI 评分2929 OpenAI 训练 AI 撰写批评以助人类发现摘要缺陷
OpenAI 训练了“撰写批评”模型来描述摘要中的缺陷，人类评估者在看到这些批评后更频繁地发现错误。实验显示，更大规模的模型在自我批评方面表现更佳，且规模对提升批评能力的效果优于提升摘要生成能力。这一结果展示了利用 AI 系统辅助人类监督困难任务中 AI 系统的潜力。
Hugging Face BlogAI 评分4141 TAPEX：基于合成 SQL 数据的高效表格预训练模型
TAPEX 通过让 BART 模型学习执行合成 SQL 查询，实现了无需真实标注数据的高效表格预训练。该模型在 WikiSQL、TabFact、SQA 和 WikiTableQuestions 四个基准测试中均取得 SOTA 成绩，其中 WikiSQL 准确率达 89.6%，TabFact 达 84.2%。
OpenAI NewsAI 评分3030 OpenAI 探讨 Goodhart's law 在目标优化中的影响
OpenAI 指出 Goodhart's law 表明当指标成为目标时，该指标便不再是好的衡量标准。这一源自经济学的定律是 OpenAI 在优化难以或昂贵测量的目标时必须面对的问题。
Hugging Face BlogAI 评分3838 Hugging Face 提出 DeDLOC 方法实现互联网协作训练语言模型
Hugging Face 推出 DeDLOC 算法，利用志愿者设备在互联网上协作预训练语言模型。该方法通过累积超大梯度批次适应网络与硬件限制，成功训练出 sahajBERT。在孟加拉语任务中，sahajBERT 性能接近 SOTA，媲美使用数百高端加速器的更大模型。
OpenAI NewsAI 评分3030 OpenAI Scholars 2021：完成六个月导师计划并产出开源研究项目
OpenAI Scholar 2021学员完成六个月导师计划，产出开源研究项目，获得OpenAI资助和支持。
Hugging Face BlogAI 评分2626 Hugging Face 解读长程 Transformer：Longformer、Compressive Transformer、Linformer 与 Performer
Hugging Face 二月阅读小组聚焦长程注意力机制，深入解析 Longformer、Compressive Transformer、Linformer 和 Performer 四种高效 Transformer 方案。Longformer 通过结合窗口局部稀疏与全局注意力，将内存消耗从二次方降至线性，支持预训练模型直接微调以处理长序列任务。
OpenAI NewsAI 评分4040 CLIP 模型中的多模态神经元发现
OpenAI 发现 CLIP 模型中的神经元能够对概念进行多模态识别，无论以文字、符号还是概念形式呈现，这有助于解释 CLIP 在分类视觉概念时的准确性，并推动对模型学习关联和偏差的理解。
OpenAI News精选AI 评分6262 OpenAI 发布 AI 与效率分析报告
OpenAI 发布报告显示，自 2012 年以来，训练神经网络所需的计算量每 16 个月减少一倍，算法进步带来的收益超过传统硬件效率提升。
推荐理由：原文展示了 AI 训练效率的提升，读者可以了解算法进步对 AI 任务的贡献。
OpenAI NewsAI 评分3838 OpenAI 揭示 CNN、ResNet 和 Transformer 中的深度双重下降现象
OpenAI 研究表明，CNN、ResNet 和 Transformer 均存在“双重下降”现象：随着模型规模、数据量或训练时间增加，性能先提升后恶化再提升。该效应通常通过正则化避免，其成因尚不明确，被视为重要研究方向。
OpenAI NewsAI 评分3030 OpenAI 基于人类偏好微调 GPT-2
OpenAI 利用人类反馈对 774M 参数 GPT-2 模型进行微调，成功匹配外部标注员偏好。摘要任务需 60k 标签且导致模型倾向复制原文，简单续写任务仅需 5k 标签。此举旨在将安全技术融入“机器与人对话”以提取人类价值观信息。
OpenAI NewsAI 评分4040 OpenAI 多智能体互动涌现工具使用
OpenAI 观察到智能体在简单捉迷藏游戏中通过训练发现逐步复杂的工具使用行为。这些智能体构建了六种不同策略与反策略，其中部分策略是环境原本未支持但被意外发现的。这种自监督的涌现复杂性表明，多智能体协同适应未来可能产生极其复杂和智能的行为。
OpenAI NewsAI 评分2727 OpenAI 提出 UAR 指标评估神经网络对未知对抗攻击的鲁棒性
OpenAI 开发了一种新方法，用于评估神经网络分类器能否可靠防御训练期间未见过的对抗攻击。该方法引入了名为 UAR（Unforeseen Attack Robustness）的新指标，专门衡量单个模型针对未预期攻击的鲁棒性。研究结果凸显了需要在更多样化的未知攻击范围内测量模型性能的重要性。
OpenAI NewsAI 评分2121 OpenAI 提出四项策略促进 AI 安全领域的行业合作
OpenAI 发布政策研究论文，提出沟通风险与收益、技术协作、增加透明度及激励标准四项策略，以改善 AI 安全规范的长期行业合作。分析指出竞争压力可能导致集体行动困境，使企业减少安全投入，而加强合作对确保 AI 系统安全有益至关重要。
OpenAI NewsAI 评分2323 OpenAI 提出能量模型隐式生成与泛化方法
OpenAI 在能量模型（EBMs）的稳定可扩展训练方面取得进展，其样本质量与泛化能力优于现有模型。该方法通过持续计算优化答案，低温下生成效果可与 GAN 竞争，同时具备似然模型的模式覆盖保证。
OpenAI NewsAI 评分1212 OpenAI 推出 Activation Atlases 神经元可视化技术
OpenAI 与 Google 研究人员合作推出 Activation Atlases，这是一种用于可视化神经元交互所代表含义的新方法。该技术旨在帮助开发者理解 AI 系统的内部决策过程，从而识别弱点并调查故障，特别是在 AI 部署于敏感场景时提升透明度。
OpenAI NewsAI 评分2828 OpenAI 呼吁 AI 安全研究引入社会科学家
OpenAI 发表论文主张长期 AI 安全研究需引入社会科学家，以确保对齐算法在涉及真实人类时成功。正确对齐高级 AI 系统需解决人类理性、情感及偏见等心理学不确定性。OpenAI 计划全职招聘社会科学家并推动机器学习与社会科学研究者协作。
OpenAI NewsAI 评分3131 OpenAI 发现梯度噪声尺度可预测神经网络训练的并行化能力
OpenAI 发现梯度噪声尺度这一统计指标能预测神经网络训练在广泛任务上的并行化能力。由于复杂任务的梯度通常更嘈杂，未来更大的批次大小将变得有用，从而消除 AI 系统进一步增长的一个潜在限制。
OpenAI NewsAI 评分2121 OpenAI 发布 CoinRun 强化学习环境以量化泛化能力
OpenAI 推出名为 CoinRun 的强化学习训练环境，旨在提供衡量智能体将经验迁移至新情境能力的指标。该环境复杂度介于传统平台游戏与简单任务之间，既比《索尼克》等游戏更简洁，又能为当前最先进算法带来有效的泛化挑战，有助于厘清强化学习领域的长期难题。
OpenAI NewsAI 评分3131 OpenAI 开发基于能量函数的模型以快速学习概念
OpenAI 开发出一种基于能量的模型，仅需五次演示即可快速学习并生成近、上、之间等二维点集概念。该模型还展示了跨域迁移能力，利用在二维粒子环境中学到的概念解决三维物理机器人的任务。
OpenAI NewsAI 评分3737 OpenAI 提出 RND 方法，强化学习智能体首次超越人类在 Montezuma’s Revenge 的表现
OpenAI 开发了基于预测的随机网络蒸馏（RND）方法，通过好奇心驱动强化学习智能体探索环境。该方法首次在 Montezuma’s Revenge 游戏中实现超过人类平均水平的表现。
OpenAI NewsAI 评分1818 OpenAI 提出 iterated amplification AI 安全方法
OpenAI 提出名为 iterated amplification 的 AI 安全技术，旨在通过演示任务分解而非提供标注数据或奖励函数，来指定超越人类尺度的复杂目标。该方法目前处于早期阶段，仅在简单玩具算法领域完成实验，但被认为可能成为可扩展的 AI 安全方案。
OpenAI NewsAI 评分5555 OpenAI 提出基于无监督学习的语言理解改进方法
OpenAI 发布了一篇论文，提出了一种结合监督学习和无监督预训练的新方法，在多个语言任务上取得了最先进的成果，并计划开源。
OpenAI News精选AI 评分6565 OpenAI发布最新研究进展
OpenAI于2018年5月16日发布了最新的研究进展。该内容由OpenAI官方渠道直接公布，具体涉及当时的技术研究细节。
推荐理由：OpenAI官方发布的早期研究动态，反映了其在2018年对模型训练或相关技术方向的探索，可作为理解其技术演进路径的历史参考。
OpenAI NewsAI 评分3737 Reptile：可扩展的元学习算法
OpenAI 开发了名为 Reptile 的元学习算法，该算法通过重复采样任务、在任务上执行随机梯度下降并更新初始参数，使其向最终参数学习。Reptile 是将最短下降算法应用于元学习环境，与仅需要黑盒访问优化器（如 SGD 或 Adam）的第一阶 MAML 算法在数学上相似，具有相似的计算效率和性能。