Mistral AI 举办 Mistral Fine-tuning Hackathon
Mistral AI 于 2024 年 6 月 5 日至 30 日举办 Mistral Fine-tuning Hackathon,参与者可使用 Mistral 的微调 API 展示项目,奖品包括 €2,500 的 Mistral API 信用额度。参赛者需在 La Platforme 上注册并完成付款详情,以获取免费信用额度。提交的项目需包含代码链接、项目描述和不超过 2 分钟的视频演示。
Mistral AI 于 2024 年 6 月 5 日至 30 日举办 Mistral Fine-tuning Hackathon,参与者可使用 Mistral 的微调 API 展示项目,奖品包括 €2,500 的 Mistral API 信用额度。参赛者需在 La Platforme 上注册并完成付款详情,以获取免费信用额度。提交的项目需包含代码链接、项目描述和不超过 2 分钟的视频演示。
Hugging Face推出NPC-Playground,一个3D游戏交互平台,允许用户通过简单的Lua脚本与NPC交互,体验未来游戏交互方式。
推荐理由:原文展示了如何通过简单的Lua脚本与NPC交互,读者可以了解如何利用这项技术来增强游戏体验。
OpenAI 推出名为“OpenAI for Education”的平价产品,旨在帮助大学负责任地将 AI 引入校园。该方案专为高校设计,提供可负担的接入方式以支持教育场景下的 AI 应用落地。
OpenAI 推出针对非营利组织的工具增强计划,为 ChatGPT Team 和 Enterprise 提供折扣优惠,以降低非营利组织获取 AI 工具的成本。
Mistral AI 发布了 Codestral 代码生成模型,这是一个专门为代码生成任务设计的开源大语言模型。Codestral 支持超过 80 种编程语言,包括 Python、Java、C、C++、JavaScript 和 Bash 等,能够帮助开发者节省时间和精力,提高编码效率。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 推出非生产许可证 MNPL,允许开发者用于非商业目的和研究工作,确保基于其工作的商业行为公平可持续;同时继续以 Apache 2.0 许可证发布模型和代码。
Falcon 2 Models TII发布新一代模型Falcon 2,旨在为开源社区提供一系列性能增强且支持多模态的小型模型。该模型基于超过5000B个token和11种语言进行训练,包括11B参数的语言模型和11B参数的视觉语言模型,支持英语和其他十种语言。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 推出 AWS Inferentia2 部署功能,支持超过 10 万个模型在 AWS Inferentia2 上部署,并提供新的 Inferentia 2 实例选项,方便用户在 Hugging Face Inference Endpoints 上部署模型。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face Spaces Dev Mode 允许开发者通过 VS Code 或 SSH 直接连接到 Space,实现一键编辑代码,无需使用 git 推送本地更改。目前该功能处于测试阶段,面向 PRO 订阅者开放。
Hugging Face 与 AMD 合作,使最新的 AMD GPU 服务器 Instinct MI300 在 Hugging Face 平台上获得一级公民集成。通过使用 transformers 和 text-generation-inference 等库,用户可以在不修改代码的情况下,在 Azure ND Mi300x V5 VM 上运行模型,并获得最佳性能。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Dell Enterprise Hub是Hugging Face上的新平台,旨在简化使用Dell平台在本地训练和部署开源模型的过程。该平台提供了一系列先进的开源模型,包括Meta的Llama 3、Mistral AI的Mixtral、Google的Gemma等。用户可以通过Hugging Face账户访问Dell Enterprise Hub,并轻松筛选和部署模型。
Hugging Face 与微软宣布深化合作,推出多项新功能和协作项目,包括在 Azure 模型目录中扩展 HF Collection、在 Azure 上使用新的 AMD MI300X 虚拟机、在 Hugging Face Hub 上发布更多微软模型、通过 WebGPU 实现本地推理以及推出 Hugging Face Spaces 与 VS Code 的集成。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
OpenAI 与行业顶尖选角及导演专家合作,从超过 400 份提交中筛选出 ChatGPT 的 5 种语音。
OpenAI 对 ChatGPT 进行了数据分析功能升级,用户现在可以与表格和图表进行交互,并直接从 Google Drive 和 Microsoft OneDrive 添加文件。
Hugging Face推出KV Cache Quantization功能,通过量化KV缓存来减少LLM在长文本生成时的内存使用,同时保持较低的质量损失,支持更长的文本生成。
推荐理由:原文介绍了KV Cache Quantization技术,该技术可以减少LLM在长文本生成时的内存使用,同时保持较低的质量损失,读者可以了解其对现有工作流的影响。
Canva 正在创建由 AI 驱动的 Magic Studio。该平台拥有超过 1.75 亿月活跃用户,通过易用界面、庞大素材库及省时工具,帮助缺乏设计训练的知识工作者制作演示文稿、视频和社交媒体图形等视觉内容。
Google 发布了新的视觉语言模型 PaliGemma,包括预训练、混合和微调模型,支持多种分辨率和精度,可在 Hugging Face Hub 模型仓库中找到。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 与 LangChain 合作推出 langchain_huggingface 包,旨在将 Hugging Face 模型的能力引入 LangChain,提供更高效的模型利用方式。
推荐理由:langchain-huggingface 包的发布将 Hugging Face 模型的能力引入 LangChain,为用户提供了更高效的模型利用方式,对现有工作流可能产生积极影响。
Hugging Face 发布了 Transformers Agents 2.0,引入了两个新的智能体,可以基于过去的观察迭代以解决复杂任务。新版本提供了更清晰的代码和模块化设计,增加了社区智能体的共享选项,并升级了性能,使其在 GAIA 领导板上的表现优于基于 GPT-4 的智能体。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Intel Gaudi 2 AI 加速器和 Xeon CPU 通过实际 RAG 应用案例显著提升企业性能;使用 LangChain 开发 RAG 应用,支持自定义嵌入、向量数据库和 LLM;Optimum Habana 库简化模型加载、训练和推理;TGI Gaudi 容器实现高性能文本生成。
Hugging Face 推出通过 AWS 账户升级 Enterprise Hub 的服务,为企业提供高级安全功能、访问控制、协作工具和计算选项,支持在符合 GDPR 和 SOC2 Type 2 认证的平台内安全构建 AI。升级后,企业可享受单点登录、资源组管理、存储区域选择、审计日志、高级计算选项、私有数据集查看器、在 DGX Cloud 上训练 LLM 等功能。
Hugging Face Inference Endpoints 支持Whisper语音识别模型,通过自定义推理处理程序,实现自动语音识别(ASR)、说话人分割和推测解码等功能。该方案采用模块化设计,支持多种用例,并使用Pyannote模型进行说话人分割,通过推测解码提高推理速度。用户可通过API调用创建端点,并部署到Inference Endpoints上。
OpenAI 宣布推出新的 API 功能。该更新面向开发者,旨在扩展模型服务能力。
推荐理由:OpenAI 官方发布新 API 能力,开发者可据此评估接入成本与功能边界。
OpenAI 宣布推出 ChatGPT API,允许开发者将 ChatGPT 模型集成到其应用中。
Hugging Face 推出 Open CoT Leaderboard,用于评估大型语言模型在生成有效推理链方面的能力,通过比较带有和不带有思维链提示的准确率差异来衡量模型性能。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
OpenAI 面向 API 客户新增多项企业级功能,涵盖增强的安全特性与控制权限。此次更新还包括对 Assistants API 的改进以及更优的成本管理工具,旨在提升企业用户的支持体验与运营效率。
Hugging Face 发布了多用途 Transformer 智能体 Jack of All Trades (JAT),该智能体能够在多个任务上表现出色,包括游戏、机器人控制和简单导航环境中的命令执行。JAT 使用了改进的 Transformer 架构,并集成了多种数据集和专家策略。
推荐理由:原文介绍了 JAT 智能体及其在多个任务上的表现,读者可以了解其能力并评估其对现有工作流的影响。
Gradio 的 Reload 模式允许开发者无需重启服务器即可拉取最新代码更改,显著提升开发效率。通过使用 Gradio 的 Reload 模式,开发者可以快速构建 AI 应用,如文档分析器,实现用户上传文档并获取自然语言回答的功能。
Ryght推出面向医疗和生命科学领域的AI平台Ryght Preview,通过Hugging Face的专家支持,提供行业特定的AI协作者和定制解决方案,加速研究、分析和文档工作。
Hugging Face 发布了 Idefics2,一款能够处理文本和图像输入并生成文本响应的多模态模型。Idefics2 在视觉问答基准测试中表现出色,并支持多种多模态应用。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face Hub 推出 Deploy on Google Cloud 功能,允许用户将数千个开源基础模型轻松部署到 Google Cloud,使用 Vertex AI 或 Google Kubernetes Engine (GKE)。该功能简化了开源生成式 AI 模型的访问和部署流程,为开发者提供了便捷的解决方案。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Google 发布了 CodeGemma 代码大语言模型家族,包括三个版本:2B 基础模型、7B 基础模型和 7B 指令模型。这些模型在 Hugging Face Hub 上提供,并支持与 Google Cloud 和 Inference Endpoints 集成。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
MotherDuck 和 Numbers Station 推出 DuckDB-NSQL-7B,一款针对 DuckDB SQL 的先进 LLM,可轻松从数据中提取洞察。
OpenAI 宣布为微调 API 添加新功能,帮助开发者更精准地控制微调过程。同时,OpenAI 推出了构建自定义模型的新方式,进一步扩展了其自定义模型计划。
Hugging Face 发布了 SetFit 模型优化工具,通过 🤗 Optimum Intel 优化,可以加速 SetFit 模型的推理速度,最高可达 7.8 倍。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Hugging Face 与 Cloudflare Workers AI 集成,为开发者提供无服务器 GPU 推理服务,简化了开源生成式 AI 模型的访问和部署。开发者可以无需管理 GPU 基础设施和服务器,以极低的运营成本构建强大的生成式 AI 应用。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Oscar 将 AI 技术引入健康保险领域,旨在降低运营成本并提升患者护理质量。该举措通过智能化手段优化保险服务流程,直接针对成本控制与用户体验两大核心痛点进行改进。
OpenAI 宣布用户无需注册即可立即体验 ChatGPT。此举旨在降低门槛,让人们更轻松地享受 AI 带来的益处。
OpenAI 分享了其自定义语音生成模型 Voice Engine 在小规模预览阶段所面临的挑战与机遇。该模型旨在创建定制化的合成语音,目前仅处于小范围测试状态。
Zelma 使用 GPT-4 模型使教育数据更易于访问。该应用通过集成 OpenAI 的 GPT-4 技术,旨在提升教育领域数据的可用性与透明度。