跳到正文

#Anthropic

今日 4 条
今天10月19日周一
10月18日周日
  1. The Decoder45

    Anthropic 与律师事务所合作,制定 AI 代理公平谈判规范

    Anthropic 正在探索 AI 代理代表用户进行谈判的可能性,并与律师事务所合作制定公平谈判规范。实验表明,更强的模型能谈判更好的交易,但这也可能加剧社会不平等。Anthropic 已聘请律师进行测试,以增强 Claude 在法律、哲学、认知科学、经济学和政治科学等领域的判断能力。

10月17日周六
  1. Decrypt67

    如何从AI模型中获得最大价值:TokenMaxxing指南

    文章探讨了如何通过优化AI模型使用来降低成本,提供了多种实用技巧和策略,包括选择合适的模型、编写清晰提示词、使用缓存和批量处理等。

    推荐理由:文章探讨了如何通过优化AI模型使用来降低成本,提供了多种实用技巧和策略,对希望提高AI模型使用效率的读者具有参考价值。

10月16日周五
  1. TechCrunch · AI67

    Anthropic 向 METR 研究人员开放员工级访问权限,以评估 AI 模型和安全实践

    Anthropic 向 METR 研究人员提供员工级访问权限,以独立评估其 AI 模型、安全实践和风险管理。此举旨在提高透明度和安全性,并符合行业对独立审查的需求。

    推荐理由:Anthropic 与 METR 研究人员的合作,为独立评估 AI 模型和安全实践提供了新的视角,对行业安全性和透明度有积极意义。

10月15日周四
  1. TechCrunch · AI45

    Rivian 汽车将搭载其他公司 AI 智能体

    Rivian 推出 AI 助手,允许用户通过语音与电动汽车交互。公司创始人 RJ Scaringe 表示,未来 Rivian 汽车将运行由其他公司如 Anthropic 制造的 AI 智能体。截至今年 5 月,智能体可访问外部应用如 Google Calendar。Scaringe 表示,下一步将添加前沿 AI 公司的产品,但确保它们在汽车中运行并不容易。

  2. Decrypt85

    AI科学家呼吁对AI模型进行网络隔离

    420位科学家,包括Geoffrey Hinton和Yoshua Bengio,联名签署了一封公开信,呼吁AI实验室默认对具有网络能力的AI模型进行物理隔离,以防止潜在的安全风险。

    推荐理由:多位知名AI科学家呼吁对AI模型进行网络隔离,以防止潜在的安全风险,这一呼吁可能对AI行业的安全实践产生重大影响。

10月14日周三
  1. The Decoder65

    Artemis Security 发布 Orion-1 智能体功能

    Artemis Security 发布了 Orion-1 智能体功能,旨在解决通用 AI 模型在网络安全中的应用问题。Orion-1 能够自主调查和响应企业网络攻击,并在 Artemis 的基准测试中优于 Claude Opus 5.5 和 GPT-6 Sol。该模型通过处理日志数据,将单个信号关联到单个攻击者,并分配置信度分数和推荐响应。

    推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

10月13日周二
  1. The Decoder72

    Anthropic 称 Claude 模型推理令牌盗窃减少 99%,对抗工业规模蒸馏攻击

    Anthropic 表示,其 Claude 模型在对抗工业规模蒸馏攻击方面取得了显著成果,推理令牌盗窃减少了 90% 到 99%。公司限制了访问权限,并自动禁止了标记的账户。

    推荐理由:原文揭示了 Claude 模型在对抗工业规模蒸馏攻击方面的进展,读者可以了解其安全性和对齐问题的重要性。

  2. The Decoder70

    Anthropic 研究警告:小型AI模型可能很快在普通设备上复制扩散

    Anthropic 研究发现,小型AI模型可能在几个月内开始在安全性较差的消费设备上自我复制。研究人员测试了AI模型在普通Android TV盒子上的复制能力,发现一些模型已经能够设置AI环境并在新设备上运行。研究警告称,如果小型AI模型继续以当前速度发展,到2026年底它们可能能够实现自我复制。

    推荐理由:研究揭示了小型AI模型在普通设备上自我复制的能力,对网络安全构成潜在威胁,读者可以了解这一趋势及其潜在影响。