ggml：轻量级Transformer推理库入门指南
ggml是一个专注于Transformer推理的轻量级机器学习库，由C和C++编写，开源且由日益增长的社区积极开发。它具有最小化、易于编译、轻量级、良好的兼容性等特点，支持量化张量，内存效率极高。ggml适用于开发者入门，但需要深入了解底层编程。本文介绍了ggml的基本概念和基本用法，为后续学习和开发打下基础。
#现象/趋势
#现象/趋势
今日 69 条Hugging Face BlogAI 评分3535
OpenAI NewsAI 评分3030 OpenAI 与 Rakuten 联合，利用 AI 解锁客户洞察与价值
OpenAI 与 Rakuten 合作，通过数据与 API 的结合，利用 AI 技术深入挖掘客户洞察，提升客户价值。
Hugging Face BlogAI 评分4040 Hugging Face 推出 TextImage 数据增强技术，助力文档图像模型训练
Hugging Face 与 Albumentations AI 合作推出 TextImage 数据增强技术，旨在提高文档图像模型训练效果。该技术通过同时增强图像和文本，确保文本和图像在训练过程中的互动，从而提升模型对文档图像的识别准确率。TextImage 可用于在图像上插入文本，生成合成数据，并支持多种文本增强方法，如随机删除、替换和插入停用词等。
Hugging Face BlogAI 评分4242 Hugging Face Diffusers 库中的 Quanto 工具提升 Transformer-based Diffusion 模型内存效率
Hugging Face 的 Diffusers 库利用 Quanto 工具，通过量化技术显著提升了 Transformer-based Diffusion 模型的内存效率，例如 PixArt-Sigma、Stable Diffusion 3 和 Aura Flow 模型，在保持几乎无质量损失的情况下，内存使用量减少了约 30%。
Ethereum BlogAI 评分1212 Ethereum.org Translatathon 2024再次启动
Ethereum.org Translatathon 2024活动将于8月举行，参与者将有机会将Ethereum.org从英语翻译成母语，并争夺30,000美元的奖金池。活动报名已于8月9日开始，至8月18日结束。
Hugging Face BlogAI 评分4040 LAVE：基于LLM的零样本VQA评估在Docmatix上的应用——我们是否还需要微调？
Hugging Face在Docmatix数据集上进行了基于LLM的零样本VQA评估，发现微调模型在DocVQA上的表现良好，但在基准测试中得分较低。研究提出了LAVE（LLM-Assisted VQA Evaluation）评估指标，以更好地评估模型在未见但语义相似的Dataset上的泛化能力。实验结果表明，LAVE在评估模型性能方面优于传统的CIDER、BLEU和ANLS指标。
OpenAI NewsAI 评分3535 SearchGPT：OpenAI 新搜索功能原型
OpenAI 测试了 SearchGPT，这是一个新搜索功能原型，提供快速、及时且来源清晰的答案。
OpenAI NewsAI 评分3030 Prover-Verifier Games 提升语言模型输出可读性的 OpenAI 研究
OpenAI 的研究显示，Prover-Verifier Games 可以提升语言模型输出的可读性，使 AI 解决方案更清晰、易于验证，并提高人类和机器的信任度。
Hugging Face BlogAI 评分3535 如何利用 distilabel 创建 Argilla 2.0 聊天机器人
Hugging Face 博客介绍了如何利用 distilabel 和微调特定领域嵌入模型来创建一个既准确又吸引人的对话模型，用于理解和与用户交流技术文档。文章详细阐述了创建 Argilla 2.0 聊天机器人的过程，包括从技术文档生成合成数据集、创建向量数据库、部署聊天机器人到 Hugging Face Space，并存储交互以持续评估和改进。
Hugging Face BlogAI 评分4545 Hugging Face Hub 与 KerasHub 集成，扩展模型选择和功能
Hugging Face Hub 与 KerasHub 集成，支持 300K+ Transformer 模型，包括 Gemma、Llama 3 和 PaliGemma，用户可使用 KerasHub 训练和微调模型，并上传回 Hub。集成支持 TensorFlow、JAX 和 PyTorch 后端，方便模型部署和迁移。
Hugging Face BlogAI 评分4545 TRL 库支持视觉语言模型直接偏好优化 (DPO)
Hugging Face 的 TRL 库新增支持视觉语言模型直接偏好优化 (DPO)，简化了模型训练过程，并提高了预测准确性。该库使用 openbmb/RLAIF-V-Dataset 数据集，支持 Idefics2-8b 模型，并可通过内存优化技术适应不同硬件配置。
Hugging Face BlogAI 评分4040 Hugging Face Dataset Hub 探索自动 PII 检测功能：Presidio 报告
Hugging Face Dataset Hub 推出 Presidio 自动 PII 检测工具，帮助用户识别数据集中的个人隐私信息，提升机器学习模型的隐私保护。Presidio 报告可帮助用户了解数据集中 PII 的存在情况，从而做出更明智的决策。
Hugging Face BlogAI 评分4040 Hugging Face 与 Polyconseil 合作，利用 RAG 解决方案优化法国环境项目
Hugging Face 与 Polyconseil 合作，利用 RAG 解决方案优化法国环境项目 EduRénov，旨在通过数据主权和性能保障，简化、支持并资助公共学校建筑的能源改造。该方案旨在提高 Banque des Territoires 对社区的支持响应速度，并确保计算服务和模型使用的自主权。
Ethereum BlogAI 评分3232 Devcon 2024 更新：购票、演讲申请及参与方式
Devcon 2024将于11月12日至15日在曼谷举行，门票现已开放销售。参与者可申请演讲、志愿者职位，并享受社区票和折扣。活动还包括Ethereum SEA Day和Devcon Improvement Proposals（DIPs）。
Hugging Face BlogAI 评分4242 Hugging Face Dataset Hub 发布四项新功能，提升数据集搜索体验
Hugging Face Dataset Hub 推出四项新功能，包括按模态、大小、格式和库搜索数据集，提升数据集的可发现性和可视化，方便用户找到适合其用例的数据集。
OpenAI NewsAI 评分4040 GPT-4 模型 CriticGPT：辅助人类训练师发现 ChatGPT 响应中的错误
OpenAI 推出的 CriticGPT 模型基于 GPT-4，用于生成对 ChatGPT 响应的批评，帮助人类训练师在强化学习与人类反馈（RLHF）过程中识别错误。
Ethereum BlogAI 评分3232 Ethereum Next Billion Fellows Cohort 4 介绍
Ethereum Next Billion Fellows Cohort 4 介绍了七位具有非凡故事的个体，他们致力于通过技术促进社区福祉。这些项目涉及提升以太坊去中心化、支持肯尼亚小农、支持开放获取内容、减少海洋塑料污染、支持委内瑞拉人权组织、探索非洲本地货币与经济实践整合等。每位学员将在未来六个月内推动一个小型项目，以实现其更大目标，并在 Devcon 7 上分享进展。
Hugging Face BlogAI 评分4545 Hugging Face Data Is Better Together 创新项目回顾与展望
Hugging Face 与 Argilla 合作，推动开源社区共同创建有影响力的数据集。项目包括创建 10K 个提示词数据集、多语言提示评估项目（MPEP）等，旨在解决语言、领域和任务数据不平衡问题。社区积极参与，项目成果显著，鼓励更多贡献者加入。
Hugging Face BlogAI 评分4040 Hugging Face Expert Support Program 助力 Prezi 加速机器学习路线图
Prezi 加入 Hugging Face Expert Support Program，利用开源模型优化机器学习工作流程，通过多模态模型提升演示效果。专家团队协助 Prezi 在嵌入、重排序和目标检测等方面应用最佳实践和前沿模型，加速机器学习项目。
Ethereum BlogAI 评分3232 clr.fund 为东南亚以太坊社区启动二次众筹活动
clr.fund 为东南亚以太坊社区推出二次众筹活动，旨在支持当地社区发展，Devcon 团队贡献 30,000 美元作为匹配资金，强调社区选择的重要性，鼓励当地社区参与。
Hugging Face BlogAI 评分4545 Hugging Face Accelerate 中的 DeepSpeed 与 FSDP：差异与融合
Hugging Face Accelerate 提供了 DeepSpeed 和 PyTorch FSDP 两种 ZeRO 算法实现，本文探讨了两者在精度、混合精度处理和内存消耗方面的差异。
OpenAI NewsAI 评分2020 OpenAI 探索语音引擎技术及安全研究
OpenAI 深入研究其文本到语音模型背后的技术，并持续进行安全研究，以提升模型性能和安全性。
Ethereum BlogAI 评分3232 Devcon SEA 学者计划回归，聚焦跨学科共建社区
Devcon 学者计划回归，面向全球招募100名学者，涵盖社区组织者、法律专业人士、艺术家和科幻作家等四类，旨在建立学习与共创社区，推动以太坊发展。申请截止至2024年7月7日，入选者将获得财务支持、技术培训、导师指导等。
Hugging Face BlogAI 评分4242 Hugging Face Transformers 文档全面改版，面向开发者构建 AI 产品
Hugging Face 宣布对 Transformers 文档进行全面改版，旨在为开发者提供更易用的 AI 产品构建指南。新版本将更注重代码示例和解决方案，同时采用更灵活的结构，以适应不断发展的 AI 技术和应用场景。
OpenAI NewsAI 评分3737 GPT-4 自动识别 1600 万计算模式
OpenAI 利用新技术对稀疏自编码器进行扩展，自动从 GPT-4 中识别出 1600 万种计算模式。
Mistral AIAI 评分1515 Mistral AI 举办 Mistral Fine-tuning Hackathon
Mistral AI 于 2024 年 6 月 5 日至 30 日举办 Mistral Fine-tuning Hackathon，参与者可使用 Mistral 的微调 API 展示项目，奖品包括 €2,500 的 Mistral API 信用额度。参赛者需在 La Platforme 上注册并完成付款详情，以获取免费信用额度。提交的项目需包含代码链接、项目描述和不超过 2 分钟的视频演示。
Hugging Face BlogAI 评分4242 Hugging Face 优化 Intel Gaudi，加速文本生成
Hugging Face 对 Intel Gaudi 进行优化，采用 Speculative Sampling 和 Assisted Generation 技术加速文本生成，在大型 Transformer 模型上实现约 2 倍速度提升，并支持在 Hugging Face Transformers 中使用。
Ethereum BlogAI 评分3030 Devcon 7 SEA 支持者计划与影响团队
Ethereum Devcon 7 SEA 支持者计划重新启动，旨在资助以太坊相关公共商品和有影响力的项目。支持者团队有机会为以太坊生态系统做出贡献并获得 Devcon 7 门票，而影响团队则有机会免费获得门票。申请截止日期为 2024 年 7 月 31 日。
OpenAI NewsAI 评分3232 ChatGPT 数据分析功能升级：交互表格图表，直接添加 Google Drive 和 Microsoft OneDrive 文件
OpenAI 对 ChatGPT 进行了数据分析功能升级，用户现在可以与表格和图表进行交互，并直接从 Google Drive 和 Microsoft OneDrive 添加文件。
Ethereum BlogAI 评分3535 Ethereum Protocol Fellowship Cohort 5 开放申请
Ethereum Protocol Fellowship（EPF）第五期开放申请，为期五个月，涵盖客户端实现、测试和规范开发，以及核心协议研究。申请截止至2024年5月26日，参与者有机会与核心开发者合作，并获得每月津贴。
Hugging Face BlogAI 评分4242 Hugging Face Inference Endpoints 实现Whisper语音识别模型的多功能部署
Hugging Face Inference Endpoints 支持Whisper语音识别模型，通过自定义推理处理程序，实现自动语音识别（ASR）、说话人分割和推测解码等功能。该方案采用模块化设计，支持多种用例，并使用Pyannote模型进行说话人分割，通过推测解码提高推理速度。用户可通过API调用创建端点，并部署到Inference Endpoints上。
Hugging Face BlogAI 评分4545 Hugging Face 探索提升提示词一致性的方法
Hugging Face 的 Leaderboards and Evals 研究团队发现，LLM 的基准性能与提示词格式密切相关。他们通过实验发现，模型在相同输入信息下，输出结果对提示词格式的微小变化极为敏感。为了提高提示词的一致性，Hugging Face 与 Dottxt 合作，探索了通过结构化生成来约束模型输出，以减少提示词格式变化带来的影响。
Ethereum BlogAI 评分4040 Ethereum Protocol Fellowship Cohort 4 摘要
Ethereum Protocol Fellowship（EPF）第四期圆满结束，35名参与者获得津贴，与27位核心开发者导师合作，贡献了35个项目。EPF第五期即将开放申请，鼓励有意向的核心开发者关注。
Hugging Face BlogAI 评分3737 Zama 在 Hugging Face Endpoints 上运行隐私保护推理
Zama 公司的隐私保护机器学习框架 Concrete ML 现已支持在 Hugging Face Endpoints 上部署，使用全同态加密 (FHE) 技术保护用户数据隐私，预编译模型可直接部署，支持 scikit-learn、ONNX、PyTorch 和 TensorFlow 等传统机器学习框架。
Hugging Face BlogAI 评分4242 Hugging Face Transformers 入门指南：Phi-2 LLM 的简单应用
Hugging Face Transformers 是一个开源 Python 库，提供数千个预训练模型，简化 Transformer 模型的实现。本文以非技术背景读者为目标，通过运行 Microsoft 的 Phi-2 LLM 举例，介绍如何使用 Hugging Face Transformers 和 Hugging Face Hub。教程从零开始，无需 Python 基础，适合初学者入门。
Hugging Face BlogAI 评分4545 Hugging Face Train on DGX Cloud 服务发布，简化AI模型训练
Hugging Face 推出 Train on DGX Cloud 服务，支持使用 NVIDIA DGX Cloud 的加速计算基础设施进行模型训练，简化了开放生成式 AI 模型的训练和部署。
Hugging Face BlogAI 评分4545 WebSight 数据集：将网页截图转换为 HTML 代码的 AI 系统
Hugging Face 推出 WebSight-v0.2 数据集，包含 200 万个网页截图与 HTML 代码对，旨在训练 AI 模型将视觉网页设计转换为功能性 HTML 代码。基于此数据集，研究人员训练了 Sightseer 模型，能够将网页截图转换为功能性的 HTML 代码，并支持将图像嵌入生成的 HTML 中。
Ethereum BlogAI 评分3535 Devconnect 学者计划 - 伊斯坦布尔及其他地区的以太坊故事
以太坊 Devconnect 学者计划旨在通过社区多样性增强以太坊生态系统的韧性。该计划在伊斯坦布尔 Devconnect 活动中为来自目前以太坊代表性不足的社区的建设者提供了机会，如区块链研究员 Ovia、Java 后端开发者 Elnaz 和软件工程师 Alphonce 等，他们分享了各自的故事和对以太坊的见解。
Hugging Face BlogAI 评分4545 TTS Arena：野外科大语言模型语音合成基准评测
Hugging Face 推出 TTS Arena，一个用于比较语音合成模型质量的平台，用户可提交文本，对比不同模型发音，并投票选择最佳模型。该平台旨在通过社区投票结果，公开展示最高评分的模型，并允许开发者比较开源与专有模型。
Mistral AIAI 评分4242 Mistral AI 推出 Le Chat Vibe 聊天助手
Mistral AI 推出多语言聊天助手 Le Chat Vibe，支持与 Mistral 模型交互，提供教育性和娱乐性体验；Le Chat 可使用 Mistral Large、Mistral Small 或 Mistral Next 模型，具备系统级调节机制，目前为测试版，无法访问互联网。