Hugging Face 推出伦理开放机器学习计划
Hugging Face 推出伦理开放机器学习计划,旨在通过促进伦理机器学习工具和案例,帮助用户发现和参与伦理相关的机器学习工作。该计划包括六个高层次的伦理类别标签,以及一系列保障措施,如标记功能、社区讨论板监控、模型卡片详细记录等,以降低潜在危害。
Hugging Face 推出伦理开放机器学习计划,旨在通过促进伦理机器学习工具和案例,帮助用户发现和参与伦理相关的机器学习工作。该计划包括六个高层次的伦理类别标签,以及一系列保障措施,如标记功能、社区讨论板监控、模型卡片详细记录等,以降低潜在危害。
Intel Xeon Sapphire Rapids CPU 通过 Optimum Intel 和 OpenVINO 工具包,将 Stable Diffusion 模型推理速度提升至 4.7 秒,相比 Ice Lake Xeon 提升近 10 倍。此外,通过 jemalloc 和 libiomp 等系统级优化,进一步提升了内存操作和并行处理效率。
本教程展示了如何利用 Hugging Face 和 Flower 在多个客户端上联合训练语言模型。以对 IMDB 评分数据集进行序列分类为例,微调预训练的 Transformer 模型(distilBERT),以检测电影评分是正面还是负面。
Stripe 引入 GPT-4 模型,提升用户体验并加强欺诈防御能力。
Witty Works利用Hugging Face的专家加速计划,通过迁移学习预训练的spaCy模型,构建了写作助手,用于检测和过滤潜在偏见词汇。Hugging Face专家建议使用Sentence Transformers架构和SetFit库进行微调,以减少标注数据量并提高效率。最终,Witty Works在Azure上部署了模型,实现了低延迟。
本教程介绍了如何使用ChatGPT等AI工具创作游戏故事,通过实际案例展示了AI在游戏开发中的应用。教程强调了语言模型在创作故事时的局限性,并提供了使用AI进行故事创作的实用技巧。
Hugging Face 推出 AI vs. AI,一个基于深度强化学习的多智能体竞赛系统,通过匹配算法、数据集和排行榜评估强化学习模型在多智能体环境中的性能。该系统采用 ELO 评分系统,通过模型间对抗性比赛生成相对技能评分,为多智能体环境提供一种稳健的评估技术。
Intel Sapphire Rapids CPU通过结合集群服务器和Intel Extension for PyTorch库,实现了与上一代Xeon相比的8倍速度提升,并展示了在Hugging Face Optimum Intel库支持下,对NLP模型进行推理的性能测试。
Hugging Face 博客发布了一篇关于使用 AI 工具生成 2D 资产的游戏开发教程,介绍了如何利用 Stable Diffusion 模型在 2D 工作流程中生成 2D 资产,并提供了具体的案例和步骤。教程适用于熟悉图像编辑和 2D 资产创建的读者,同时对于初学者和专家也具有参考价值。
本文探讨了AI在游戏开发中生成3D资产的应用。虽然目前文本到3D技术尚未成熟,但已有如DreamFusion、CLIPMatrix、CLIP-Mesh-SMPLX等工具在生成3D模型方面取得进展。然而,这些技术生成的模型需要大量后期处理才能用于游戏开发。未来,随着NeRF到网格的转换和网格生成技术的改进,文本到3D技术有望在游戏开发中发挥更大作用。
在5天内使用AI工具创建一个完整的农场游戏,本教程介绍了如何利用ChatGPT等AI工具进行游戏设计,包括作物多样性、挑战性进阶系统、动态交互环境、社交和多人游戏功能以及沉浸式故事或主题。同时,探讨了语言模型的工作原理及其在游戏开发中的应用,并讨论了ChatGPT的局限性。
CLIPSeg,一款零样本图像分割模型,使用🤗 transformers,可创建粗略分割掩码,适用于机器人感知、图像修复等多种任务。该模型基于CLIP模型,通过Transformer解码器实现零样本分割,支持视觉提示功能,但输出分辨率较低。若需更精确的分割,可使用Segments.ai等工具进行微调。
Hugging Face团队探讨了机器学习中的偏见问题,并分享了他们的工具和方法,以帮助识别和减轻偏见,构建更公平、更安全的机器学习系统。
推荐理由:文章深入探讨了机器学习中的偏见问题,并提供了Hugging Face团队开发的工具和方法,读者可以了解如何识别和减轻偏见,以及如何构建更公平、更安全的机器学习系统。
Hugging Face发布2023实习生招聘计划,涵盖开源团队、科学团队及其他职位,旨在推动AI和机器学习领域的发展,并强调多元化和包容性。实习生将参与前沿项目,如加速库集成、文本到语音、具身AI、分布式训练框架等。申请者可通过Hugging Face招聘门户直接申请。
Hugging Face 博客介绍了一种使用 Concrete-ML 库在完全同态加密(FHE)环境下进行机器学习模型训练的方法,通过结合 transformers 和 XGBoost 实现对加密数据的情感分析,并提供了详细的教程和示例。
Hugging Face 与 arXiv 合作,将 Hugging Face Spaces 集成到 arXivLabs,通过演示标签提供社区或作者创建的演示链接。自 2021 年 10 月推出以来,Hugging Face Spaces 已被用于构建和分享超过 12,000 个开源机器学习演示。用户现在可以在 arXiv 摘要页面上找到最受欢迎的演示。
Hugging Face 发布了 Dreambooth 技术训练 Stable Diffusion 模型的脚本,并提供了优化建议。实验表明,低学习率与合适的训练步数能提高图像质量,训练人脸模型时需更多步数。此外,使用先验保持技术可减少人脸训练中的过拟合问题。
OpenAI 发布的 Whisper 模型,基于 680,000 小时的标注音频转录数据进行预训练,支持 96 种语言,包括许多低资源语言。本文详细介绍了使用 Hugging Face 🤗 Transformers 对 Whisper 进行微调的步骤,包括数据准备、特征提取、微调和评估。通过微调, Whisper 模型在低资源语言上表现出色,仅需 8 小时微调数据即可达到良好性能。
rinna Co., Ltd. 开发了名为 "Japanese Stable Diffusion" 的日本特定文本到图像模型,通过在日语标题图像上微调 Stable Diffusion 模型实现。该模型接受日语提示并生成反映日本文化风格的图像,可在 Hugging Face 和 GitHub 上使用。
Hugging Face 发布了首期 Ethics and Society Newsletter,强调公司对协作、责任和透明度的重视,并探讨了AI伦理与透明度的重要性。该刊由公司内部一群关注AI社会影响和Hugging Face角色的平等成员共同编写,旨在通过社区讨论、工具开发等方式,推动AI伦理的实践和价值观的体现。
Microsoft 和 NVIDIA 推出的 Megatron-Turing NLG 530B 虽参数巨大,但训练需耗资近 $100 million 且碳足迹显著。文章主张放弃盲目追求超大模型,转而使用 DistilBERT、T0 等经知识蒸馏或更小的预训练模型,以在保持性能的同时大幅降低硬件成本与能耗。
OpenAI 的 GPT-4.0 引入人类反馈机制,以增强对难以评估任务的AI系统监督,旨在提升AI系统的评估准确性。
OpenAI 发现 CLIP 模型中的神经元能够对概念进行多模态识别,无论以文字、符号还是概念形式呈现,这有助于解释 CLIP 在分类视觉概念时的准确性,并推动对模型学习关联和偏差的理解。
OpenAI 的 GPT-4 模型通过人类反馈的强化学习,提升了总结能力。
OpenAI 与 AIcrowd、卡内基梅隆大学和 DeepMind 共同组织了 NeurIPS 2020 竞赛,采用 Procgen Benchmark 和 MineRL 作为竞赛基准。
OpenAI推出Glow模型,采用可逆1x1卷积,简化架构,生成高分辨率图像,支持高效采样,并发现可操控数据属性的特征。同时提供模型代码和在线可视化工具,供用户探索和构建。
OpenAI 训练的智能体通过单次人类演示学会玩 Montezuma’s Revenge,得分高达74,500分,优于之前任何已发布结果;采用与 OpenAI Five 相同的强化学习算法 PPO 进行游戏得分优化。
OpenAI 推出 Gym Retro 全版本,游戏数量从70款Atari游戏和30款Sega游戏增至超过1000款,涵盖多种支持模拟器。同时,发布用于添加新游戏的工具。
OpenAI 推出实验性元学习方法 Evolved Policy Gradients,该方法通过进化学习代理的损失函数,实现新任务上的快速训练。使用 EPG 训练的代理在测试时能成功完成基本任务,如从训练时放置位置不同的房间另一侧导航到物体。
OpenAI 发布 Requests for Research 2.0,包含七个在研究过程中出现的未解问题。
OpenAI 推出针对块稀疏神经网络架构的GPU内核,该内核能实现比cuBLAS或cuSPARSE快数个数量级的运行速度;已应用于文本情感分析和文本及图像生成模型,取得业界领先成果。