San Antonio Spurs 与 ChatGPT:球场内外的影响扩展
圣安东尼奥马刺队利用定制化的 GPT 模型提升球迷互动、优化运营并推动团队创新。
圣安东尼奥马刺队利用定制化的 GPT 模型提升球迷互动、优化运营并推动团队创新。
Gradio 最新版本支持构建 Model Context Protocol (MCP) 服务器,使 Gradio 应用成为 LLM 的工具。通过简单的 Python 代码,Gradio 可将任何 Python 函数转换为 LLM 可用的工具,如字母计数器。Gradio 还支持资源(数据)和提示(模板),并允许创建仅存在于 MCP 服务器中的函数。
Qwen-3 模型引入了更复杂的聊天模板,支持可选推理、动态上下文管理、改进的工具参数序列化和无默认系统提示,这些改进提高了模型的能力和效率。
Speak AI平台通过个性化学习方案,提升语言学习效果;CEO & Co-founder Connor Zwick分享平台理念与愿景。
Hugging Face Blog 发表了关于优化大型语言模型(LLM)性能的文章,重点介绍了并发请求处理中的预填充和解码阶段,以及其对延迟、吞吐量和GPU资源利用率的影响。文章指出,预填充阶段可以并行处理输入标记,而解码阶段则需按顺序处理单个输出标记,这对交互式应用如聊天机器人至关重要。此外,文章还讨论了资源利用率和总吞吐量之间的关系。
ChatGPT Projects功能帮助用户组织文件、保存上下文,并保持跨工作流对话的一致性。
OpenAI发布ChatGPT canvas原型设计教程,指导用户从产品需求文档到HTML/React原型的制作过程。
Ethereum Protocol Fellowship(EPF)第五期圆满结束,为期五个月的沉浸式学习、研究和贡献于以太坊核心生态系统。共有30名活跃学员参与,提出并贡献了30个项目,涉及多个客户端和研究团队。EPF第五期还组织了首次协议研究小组,为期10周,为学员提供了更深入的知识和资源。EPF第六期即将启动,预计将于6月开始。
Mistral AI 提出利用 LLM as a Judge 结合 RAG Triad 框架评估检索增强生成系统,重点考察上下文相关性、事实依据及回答相关性。其 API 推出的结构化输出功能允许开发者定义 Pydantic 模式,强制模型以机器可读格式返回评分与推理步骤,从而构建更可靠的自动化评估流程。
ChatGPT 通过分析上下文、生成选项和将决策转化为下一步行动,助力战略规划。
ChatGPT新增Canvas功能,可帮助用户将笔记、转录和草稿转化为高质量的写作内容。
OpenAI 的 ChatGPT 可将生成代码导入 IDE,提升开发效率。
Hugging Face 对其 NLP 课程进行了全面升级,更名为 LLM 课程,新增了微调 LLM 和构建推理模型等内容,同时保留了经典 NLP 任务,如分类、命名实体识别和检索等。课程将涵盖更多开源工具和框架,并计划增加互动练习和直播课程。
HuggingFace TGI 模型在处理大量并发请求时,通过引入高效请求队列策略优化性能。该策略包括使用非 FIFO 调度器实现公平调度,以及动态调整请求发送速率以保持后端队列长度,从而降低延迟并提高资源利用率。
Gradio 发布了其数据框组件的更新,包括多单元格选择、行号和列固定、复制按钮和全屏按钮等功能,提升了交互性和用户体验。更新后的数据框组件已在最新Gradio版本中可用。
Hugging Face 推出 Inference Endpoints 新版分析仪表盘,提供实时数据更新、自定义时间范围和自动刷新功能,以及副本生命周期视图,提升监控和调试体验。
Open R1 的 7B 参数变体在 LiveCodeBench 评测中优于 Claude 3.7 Sonnet 和 GPT-4o。本文介绍了如何使用 OlympicCoder 7B 和 LM Studio 在本地集成这些模型,并通过 VS Code 扩展实现代码补全、生成、解释、重构和测试等功能。OlympicCoder 专注于 CodeForces-CoTs 数据集,适合解决竞争性编码挑战。
Hugging Face 推出使用 React Native 在手机上运行大型语言模型(LLM)的教程,以 DeepSeek R1 Distil Qwen 2.5 模型为例,指导开发者创建移动端聊天应用,实现本地交互。教程涵盖模型选择、环境搭建和应用开发,支持 Android 和 iOS 平台。
Mistral AI 发布 TranscriptToPRDTicket 智能体工作流,利用 Mistral Large 2 自动将会议记录转化为 PRD 和开发工单。该方案通过 PRDAgent 与 TicketCreationAgent 协同,实现从讨论到开发的端到端自动化,并支持在 Linear 或 Jira 中直接创建结构化任务。
Arize Phoenix 提供了一个集中平台,用于实时追踪、评估和调试智能体的决策。通过 Arize Phoenix,用户可以追踪智能体的内部工作流程,评估其性能,并确保其行为符合预期。此外,Arize Phoenix 还支持使用 OpenAI 的 GPT-4o 等大型语言模型来评估搜索工具的响应相关性。
FastRTC 是一款专为 Python 设计的实时通信库,旨在简化构建实时音频和视频 AI 应用。它内置自动语音检测和转接功能,支持 WebRTC 和 WebSocket,并提供了丰富的实用工具,如文本到语音、语音到文本等。FastRTC 支持将流挂载到任何 FastAPI 应用中,方便用户进行自定义 UI 或部署。
Hugging Face 推出远程 VAE 解码功能,通过将解码过程委托给远程端点,减少内存消耗,提高推理效率,并开源相关代码。该功能支持多种模型,包括 Stable Diffusion、Flux 和 HunyuanVideo,可提高图像和视频合成的效率。
Fireworks.ai 现已加入 Hugging Face Hub,提供快速模型推理服务,支持多种模型,包括 DeepSeek-R1、Mistral-Small-24B-Instruct、Qwen2.5-Coder-32B-Instruct 等,用户可通过网站 UI 或客户端 SDK 进行推理,PRO 用户每月可获得 2 美元的推理信用额度。
Hugging Face 博客详细介绍了如何计算大规模分类和嵌入的成本和延迟,分析了不同模型架构,比较了硬件选择的成本,并提供了优化设置的框架。文章还探讨了如何通过优化配置来降低成本和提高吞吐量,以应对每天处理超过10亿次分类或嵌入请求的挑战。
Hugging Face 推出视频生成数据集工具,包括视频下载、分割、预处理和过滤等功能,旨在帮助社区构建高质量视频数据集,用于微调视频生成模型。该工具支持使用yt-dlp下载视频,通过Video to Scenes脚本将长视频分割成短片段,并提供了多种过滤选项,如水印检测、美学评分、NSFW内容检测等。此外,还支持使用 Florence-2 和 Qwen2.5 等模型进行视频标注和OCR识别。
Ethereum Protocol Studies 2025计划回归,提供结构化学习路径,深入探索执行层和共识层。EPF Wiki作为知识库,鼓励开源贡献。参与者可通过EPF Wiki和Discord服务器参与讨论,准备加入以太坊协议研究。
OpenAI 发布教程,指导用户利用 ChatGPT 构建定制化数学辅导应用。该方案展示了如何将大语言模型应用于个性化教育场景,为开发者提供从基础对话到专业学科辅助的实现路径参考。
用户利用 ChatGPT 获取美甲艺术的设计灵感。该场景展示了大语言模型在创意辅助领域的具体应用,通过生成式 AI 帮助用户构思视觉方案。
DeepSeek R1 引发行业震惊,其基于 GRPO 和多阶段训练的开放模型在复杂推理任务上与 OpenAI 的 o1 相抗衡。本文通过倒计时游戏,使用 GRPO 和 vLLM 进行分布式训练,展示了 DeepSeek R1-Zero 通过自我验证和搜索能力解决谜题的过程。
DeepSeek AI 发布了 DeepSeek-R1 模型,并与 AWS 合作,简化了开发者部署和微调 DeepSeek R1 模型的过程。开发者可以通过 Hugging Face Inference Endpoints 或 Amazon SageMaker AI 在 AWS 上部署模型,并使用 Hugging Face Neuron Deep Learning AMI 进行微调。
smolagents 添加了视觉支持,使视觉语言模型在智能体管道中能够原生使用,解锁了在智能体中实现自主网页浏览等功能;通过两种方式传递图像给智能体,包括在启动时一次性传递图像列表以及在每个步骤中动态添加图像;使用 helium 和 selenium 等工具构建网页浏览智能体。
NVIDIA发布KVPress工具,旨在解决长上下文LLMs的内存问题,通过压缩KV Cache提高内存效率,并支持多种压缩算法。
推荐理由:原文介绍了KVPress工具,它能够有效压缩KV Cache,提高长上下文LLMs的内存效率,读者可以了解其工作原理和应用场景。
本文详细介绍了如何在 PyTorch 中可视化和理解 GPU 内存使用情况,包括如何记录内存快照历史、分析内存使用情况、估计内存需求以及优化 GPU 内存使用。
Hugging Face 推出 Synthetic Data Generator,一款无需代码即可创建自定义数据集的应用。该工具支持文本分类和聊天数据集,通过简单的三步流程,用户可在几分钟内创建数据集和模型。此外,用户还可以通过 Argilla 和 Hugging Face Hub 进行数据集的探索和评估。
电影制作人 Lyndon Barrois 分享了将 Sora 作为叙事工具的具体使用方法。他描述了如何利用该模型构建新的视觉世界,展示了其在故事讲述中的应用潜力。
Hugging Face 推出的 83 个开源模型现已可在 Amazon Bedrock 的 Bedrock Marketplace 上使用,支持 AWS 客户构建生成式 AI 应用。用户可通过 Bedrock Model Catalog 部署模型,如 Google Gemma 2 27B Instruct,并使用 Amazon Bedrock API 进行调用。
本实验通过 Keras 和 TPUs 平台,测试了 LLM 在错误修正方面的能力。实验中使用了多个 LLM 模型,通过构建聊天机器人竞技场环境,观察 LLM 在面对错误时的修正效果。结果显示,LLM 在错误修正方面具有一定的能力,但仍需进一步优化以提高准确性。
Mistral AI推出Batch API,以50%低于同步API调用的成本,高效处理大量请求。适用于数据量优先的AI应用,如客户反馈分析、文档摘要和翻译、向量嵌入等。API适用于所有Mistral模型,并即将在云服务合作伙伴推出。
Hugging Face 推出 Argilla 2.4 版本,用户无需代码即可在 Hugging Face Hub 上构建微调和评估数据集。该版本简化了数据集创建过程,支持从 Hub 数据集导入、定义问题并收集人类反馈,适用于不具备编程知识的领域专家。
Hugging Face Expert Support项目与Digital Green合作,利用LLM构建名为Farmer.chat的农业智能聊天机器人,为农民提供个性化、可靠的农业建议。该系统采用RAG技术,结合GPT-4o等模型,通过每周的LLM评估会议优化性能,目前已服务超过20,000名农民,处理340,000个查询。