400多名科学家联名呼吁:危险模型必须“物理断网”
多位知名科学家联名呼吁对具备网络攻击能力的AI模型实施物理隔离,引发行业对AI安全监管的关注。
推荐理由:多位知名科学家联名呼吁对具备网络攻击能力的AI模型实施物理隔离,引发行业对AI安全监管的关注。
月之暗面 Kimi 系列模型与产品动态:K 系列开源模型、长上下文技术与产品演进的追踪。
多位知名科学家联名呼吁对具备网络攻击能力的AI模型实施物理隔离,引发行业对AI安全监管的关注。
推荐理由:多位知名科学家联名呼吁对具备网络攻击能力的AI模型实施物理隔离,引发行业对AI安全监管的关注。
420位科学家,包括Geoffrey Hinton和Yoshua Bengio,联名签署了一封公开信,呼吁AI实验室默认对具有网络能力的AI模型进行物理隔离,以防止潜在的安全风险。
推荐理由:多位知名AI科学家呼吁对AI模型进行网络隔离,以防止潜在的安全风险,这一呼吁可能对AI行业的安全实践产生重大影响。
Anthropic 表示,其 Claude 模型在对抗工业规模蒸馏攻击方面取得了显著成果,推理令牌盗窃减少了 90% 到 99%。公司限制了访问权限,并自动禁止了标记的账户。
推荐理由:原文揭示了 Claude 模型在对抗工业规模蒸馏攻击方面的进展,读者可以了解其安全性和对齐问题的重要性。
Goodfire推出新型AI监控工具,通过内部监控而非外部阅读来监控AI模型,以降低成本并提高安全性。该工具可检测恶意行为,如黑客攻击和滥用,并支持自动化响应。
推荐理由:原文介绍了Goodfire的新产品,该产品能够以较低的成本监控AI模型,防止恶意行为,对AI安全领域有重要意义。
DeepSeek即将完成至少120亿美元的融资,Moonshot AI完成50亿美元的估值,OpenAI寻求至少300亿美元的融资,Anthropic考虑11月IPO。
推荐理由:中国AI公司获得巨额融资,为即将到来的IPO做准备,反映了中美AI竞赛的激烈程度。
Numina & Kimi 团队发布了基于 Qwen2.5-72B 的定理证明模型 Kimina-Prover-72B,该模型具有测试时强化学习搜索和错误修复能力,在 miniF2F 测试数据集上取得了最先进的通过率。
推荐理由:原文介绍了 Kimina-Prover-72B 的发布,这是一个基于 Qwen2.5-72B 的定理证明模型,具有测试时强化学习搜索和错误修复能力,读者可以了解其在数学问题解决上的性能和潜力。