PaddlePaddle 加入 Hugging Face Hub
PaddlePaddle,自2016年起由百度开源的深度学习平台,已拥有超过535万开发者和20万家企业用户。PaddlePaddle提供多种开源库,如PaddleOCR、PaddleDetection、PaddleNLP等,并计划逐步将其库与Hugging Face Hub集成,预计将提供全系列预训练模型。
PaddlePaddle,自2016年起由百度开源的深度学习平台,已拥有超过535万开发者和20万家企业用户。PaddlePaddle提供多种开源库,如PaddleOCR、PaddleDetection、PaddleNLP等,并计划逐步将其库与Hugging Face Hub集成,预计将提供全系列预训练模型。
Hugging Face 博客介绍了如何使用 🤗 Transformers 和 datasets 库构建图像相似度系统,通过计算图像嵌入并使用余弦相似度来比较查询图像和候选图像的相似度。该系统使用基于 ViT 的模型和 Beans 数据集,并支持扩展到其他视觉模型和图像数据集。
本文介绍了图机器学习的基本概念、应用和代表性方法,包括图的结构、表示、预神经方法、图神经网络和图 Transformer。
推荐理由:本文介绍了图机器学习的基本概念、应用和代表性方法,对于想要了解该领域的读者具有参考价值。
Hugging Face 博客介绍了如何使用 Intel Sapphire Rapids 服务器集群加速 PyTorch Transformers 的训练。通过 Intel oneAPI Collective Communications Library (CCL) 和 Intel Extension for PyTorch (IPEX) 库,可以在不修改代码的情况下实现加速。
CLIPSeg,一款零样本图像分割模型,使用🤗 transformers,可创建粗略分割掩码,适用于机器人感知、图像修复等多种任务。该模型基于CLIP模型,通过Transformer解码器实现零样本分割,支持视觉提示功能,但输出分辨率较低。若需更精确的分割,可使用Segments.ai等工具进行微调。
Hugging Face 推出模型卡片创建工具和指南,旨在提高机器学习模型的文档质量,包括模型卡片创建工具、更新模板、注释模板、用户研究和文献综述。
推荐理由:Hugging Face 推出模型卡片创建工具和指南,旨在提高机器学习模型的文档质量,对开发者、学生、政策制定者等不同背景的用户都有价值。
Hugging Face 推出 Bumblebee 库,实现 Hugging Face Transformers 在 Elixir 中的纯 Elixir 实现,助力 Elixir 社区 AI 发展。
本文详细介绍了从人类反馈中进行强化学习(RLHF)的技术,包括其原理、训练过程、应用案例以及开源工具。
推荐理由:本文详细介绍了RLHF技术及其应用,对理解语言模型的发展具有重要意义。
本文介绍了深度学习在蛋白质研究中的应用,包括蛋白质折叠预测和分类任务,并提供了相关工具和资源。
Hugging Face Blog 发布了 Stable Diffusion Core ML 版本,兼容 Apple Silicon,提供了转换脚本和推理代码,并支持 CPU、GPU 和 Apple 的 Neural Engine。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 博客发布了一篇关于使用 🤗 Transformers 进行概率时间序列预测的研究论文,介绍了该方法在时间序列预测领域的应用。
推荐理由:该研究介绍了使用 Transformer 进行概率时间序列预测的方法,为读者提供了对时间序列预测领域最新进展的了解。
VQ-Diffusion 是由中国科学院大学和微软共同开发的一种条件潜在扩散模型,它使用离散潜在空间进行噪声和去噪过程,为图像生成领域带来了新的研究方向。
推荐理由:VQ-Diffusion 是一种新颖的图像生成模型,其独特的离散潜在空间处理方式为图像生成领域带来了新的研究方向。
Hugging Face 发布了关于扩散模型的免费教程,并组织了直播活动,邀请多位专家分享扩散模型的理论和应用。
Hugging Face 提供免费推理小部件和 API,支持模型快速测试和部署;Inference Endpoints 可在 AWS 或 Azure 上部署模型,支持自动扩展和多种安全级别;Spaces 可在简单 UI 框架上部署模型,支持硬件升级。
Hugging Face发布了Contrastive Search文本生成工具,该工具基于Transformer架构,旨在提高文本生成的质量和连贯性。
推荐理由:原文介绍了Contrastive Search在文本生成中的优势,读者可以了解其如何改进现有工作流。
Hugging Face 正式取消 Inference API 服务的付费层级,推出 Inference Endpoints 提供快速、企业级推理服务。Spaces 引入硬件升级,支持用户选择硬件运行 ML 演示。付费服务使用需添加信用卡,账单设置集中管理个人 PRO 订阅、支付方式及过去三个月的使用情况。
OpenAI 发布的 Whisper 模型,基于 680,000 小时的标注音频转录数据进行预训练,支持 96 种语言,包括许多低资源语言。本文详细介绍了使用 Hugging Face 🤗 Transformers 对 Whisper 进行微调的步骤,包括数据准备、特征提取、微调和评估。通过微调, Whisper 模型在低资源语言上表现出色,仅需 8 小时微调数据即可达到良好性能。
Hugging Face 和 Intel 合作推出 Optimum Intel 和 OpenVINO,支持在多种 Intel 处理器上使用 OpenVINO Runtime 进行推理,并可通过 OpenVINO Neural Network Compression Framework 对模型进行量化,减少模型大小和预测延迟。
Hugging Face 发布了 🤗 Evaluate 工具,用于评估大型语言模型的偏见。该工具提供了多种指标和测量方法,帮助用户分析模型在有害语言、语言极性和性别刻板印象等方面的表现。
推荐理由:该工具提供了评估大型语言模型偏见的方法,有助于读者了解模型在偏见方面的表现。
Hugging Face 推出 Inference Endpoints,简化机器学习模型部署流程,支持从 Hugging Face hub 一键部署至云基础设施,提供简单、安全、可扩展的模型部署服务。用户可选择公共、受保护或私有访问权限,并通过 API 调用或界面测试模型。
Hugging Face Diffusers 从 0.5.1 版本开始支持 Flax,可在 Google TPUs 上实现超快推理,如 Colab、Kaggle 或 Google Cloud Platform。本文介绍了如何使用 JAX/Flax 运行推理,并提供了相关 Colab 笔记本链接。
Hugging Face 优化了 BLOOM 模型的推理服务器,实现了 5 倍的延迟降低和 50 倍的吞吐量提升,并分享了优化过程中的挑战和经验。
推荐理由:本文详细介绍了如何优化 BLOOM 模型的推理服务器,包括多种优化策略和技术,读者可以从中学习到模型优化的方法和经验。
Hugging Face 推出 DOI 标识符功能,允许用户直接从 Hub 生成模型或数据集的 DOI,方便学术社区引用和分享。DOI 与对象元数据绑定,提供永久链接,确保信息持久可用。通过与 DataCite 合作,用户可轻松申请 DOI,并更新模型或数据集的新版本。
rinna Co., Ltd. 开发了名为 "Japanese Stable Diffusion" 的日本特定文本到图像模型,通过在日语标题图像上微调 Stable Diffusion 模型实现。该模型接受日语提示并生成反映日本文化风格的图像,可在 Hugging Face 和 GitHub 上使用。
Hugging Face 推出零样本评估工具,支持研究人员评估大型语言模型,无需编写代码,并支持开源生态和评测基准。
推荐理由:该工具使研究人员能够轻松评估大型语言模型,并支持零样本评估,有助于推动开源生态和评测基准的发展。
Hugging Face 推出 AutoTrain 图像分类功能,允许用户无需编码即可训练模型,支持多种图像分类任务,如识别蝴蝶种类、植物疾病等。
Hugging Face 开发了工具,利用 PyTorch 特性加载和运行大型模型,即使它们不适合大多数消费级硬件的内存。
推荐理由:原文介绍了如何使用 PyTorch 加速运行大型模型,读者可以了解如何利用这些工具优化模型运行效率。
Hugging Face 推出 SetFit,一种高效的少样本学习框架,无需提示即可在少量标记数据下实现高精度,支持多语言,并提供简单易用的训练方法。
推荐理由:SetFit 是一种高效的少样本学习框架,可以在少量标记数据的情况下实现高精度,读者可以了解其工作原理和应用方法。
Hugging Face 发布了首期 Ethics and Society Newsletter,强调公司对协作、责任和透明度的重视,并探讨了AI伦理与透明度的重要性。该刊由公司内部一群关注AI社会影响和Hugging Face角色的平等成员共同编写,旨在通过社区讨论、工具开发等方式,推动AI伦理的实践和价值观的体现。
Hugging Face 发布 Diffusers 2.0,新增图像到图像生成、文本逆转换、修复、Mac OS 支持、ONNX 导出器、新文档和社区功能,包括视频生成、模型可解释性、日语 Stable Diffusion、交叉注意力控制、可重用种子等。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 发布教程,指导用户利用 NVIDIA 的 Megatron-LM 框架在 GPU 上高效训练 GPT2 等语言模型。该框架通过 Fused CUDA Kernels 和优化的 DataLoader 显著提升训练速度,并支持将模型转换为 🤗 Transformers 格式。
OpenRAIL 是一种针对 AI 模型的开放和负责任的许可框架,旨在解决当前开源许可在 AI 模型使用中的不足,并推动 AI 模型的负责任使用。
推荐理由:OpenRAIL 提出了一种新的 AI 许可框架,旨在促进 AI 模型的开放和负责任的使用,读者可以了解其具体内容和潜在影响。
在 Hugging Face Spaces 中,可通过 Gradio 的 HTML 块集成 3Dmol.js 实现蛋白质结构可视化。该方案支持输入 PDB 代码或上传文件,利用 iframe 渲染 3D 模型,适用于 AlphaFold2 等预测结果的展示。
Stable Diffusion 是一个文本到图像的潜在扩散模型,由 CompVis、Stability AI 和 LAION 的研究人员和工程师创建。本文介绍了如何使用 🧨 Diffusers 库来使用 Stable Diffusion,解释了模型的工作原理,并深入探讨了如何使用 diffusers 定制图像生成流程。
推荐理由:原文详细介绍了如何使用 Stable Diffusion 模型,并解释了其工作原理,读者可以了解如何将其集成到自己的项目中。
Hugging Face 展示了如何将 ViT B/16 TensorFlow 模型部署至 Google Cloud Vertex AI,实现与 Kubernetes 同等扩展性但代码量显著减少。
Hugging Face 展示如何利用 Optimum Graphcore 库在 Graphcore IPU 上微调预训练 Vision Transformer (ViT) 模型。
Hugging Face 推出 LLM.int8() 技术,通过 8 位矩阵乘法降低大型语言模型对 GPU 的需求,提高模型的可访问性,对需要使用大型模型但资源有限的用户具有潜在价值。
推荐理由:Hugging Face 推出 LLM.int8() 技术,通过 8 位矩阵乘法降低大型语言模型对 GPU 的需求,提高模型的可访问性,对需要使用大型模型但资源有限的用户具有潜在价值。
Hugging Face 推出 Skops,一款开源机器学习模型托管与协作工具,支持将 scikit-learn 模型托管在 Hugging Face Hub,创建模型卡片进行文档化和协作。Skops 可用于模型训练、保存、配置文件生成、模型卡片创建、模型评估和可视化等功能。
Hugging Face 强调在 transformers 库中,所有 TensorFlow 模型应作为 Keras Model 对象、层作为 Keras Layer 对象,以充分利用 Keras 高级 API。开发者可通过 TFAutoModel 一行代码加载预训练模型(如 bert-base-cased),并结合 AutoTokenizer 处理输入,实现高效的迁移学习。
Hugging Face 展示如何利用 Docker 和 Kubernetes 扩展 🤗 Transformers 中的 Vision Transformer (ViT) 模型部署。