Circuit Breaker Labs 打造更安全的 AI,预防心理伤害
Circuit Breaker Labs 开发AI智能体,模拟不同年龄、背景、语言和文化的人,测试模型在检测危险心理互动方面的能力。该公司致力于提高AI安全性,防止AI心理伤害,目前正为高风险AI应用提供安全测试服务。
Circuit Breaker Labs 开发AI智能体,模拟不同年龄、背景、语言和文化的人,测试模型在检测危险心理互动方面的能力。该公司致力于提高AI安全性,防止AI心理伤害,目前正为高风险AI应用提供安全测试服务。
企业AI正在快速发展,但许多企业面临AI整合和运营模式转变的挑战。文章强调了从AI工具到AI运营模式的转变,并提出了相应的解决方案。
Amazon Quick 引入 Adjudicated Query 模式,通过自然语言问答界面与确定性规则引擎结合,实现合规审查自动化。该模式适用于大规模合规挑战,如租赁合规、制裁筛查等,确保审查的完整性和可辩护性。
美国商品期货交易委员会(CFTC)向白宫提交了两项新规,旨在重新定义事件合约中的“掉期”概念,以加强其对预测市场的监管权。
美国政府新AI聊天机器人America.gov能够回答Minecraft相关的问题,并输出约1800字的回答,内容是对游戏《Minecraft》结局诗的改写。该功能是一个彩蛋而非幻觉,但具体是谁添加的尚不清楚。该聊天机器人整合了约29,000个政府网站的信息,并计划于2027年推出流程完成功能。该平台由Google的Gemini和Elon Musk的Grok提供支持。
加密行业在 2026 年上半年投入 1300 万美元进行游说,其中约 800 万美元用于推动 Clarity Act,但该法案在美国参议院未能取得进展。Coinbase 是最大的游说支出者,其他加密公司和贸易集团也进行了各自的游说活动。尽管投入了大量资金,但加密行业的游说努力至今未能实现其目标。
站在加密货币一边的组织(Stand With Crypto)在Clarity法案失败后,公布了其中期选举的支持名单,包括对参议院和众议院的候选人支持。该组织基于候选人的加密货币政策立场进行评估,不考虑党派背景。在Clarity法案在参议院以49-50票失败后,该组织加大了在六个众议院选区的广告投放,并计划在六个众议院选战中增加广告投放。
欧洲证券和金融市场管理局(ESMA)及法国、德国和希腊等国家监管机构正在审查币安如何继续为欧盟用户提供服务。币安未能获得MiCA许可证,本应从7月1日起开始缩减其在欧盟的业务。监管机构如对币安的回应不满意,可能会对其处以罚款。币安表示,它“遵守其运营所在地的适用监管要求”,并正在积极努力获得MiCA授权。
语音 AI 公司 ElevenLabs 宣布,员工可按 220 亿美元的估值变现部分股权,公司估值自 2 月融资 5 亿美元时的 110 亿美元翻倍。近期 3 亿美元要约收购为员工提供了向投资者出售股份的机会。
OpenAI发布Decisions API,借鉴TypeSafe AI的Jev模型,旨在加速软件自动化。该API允许开发者快速选择模型输出,提高效率。目前Decisions API处于有限预览阶段,但已引起开发者关注。Jev模型在监控和保障AI代理方面具有潜力,可降低成本并提高可靠性。
美国证券交易委员会(SEC)近日明确表示,其“创新豁免”政策不包括合成代币,要求代币必须代表真实所有权,并赋予持有者与传统证券相同的权利和特权。合成代币化股票被视为对投资者和市场的潜在风险,而真正的股票代币化则有望为美国资本市场带来机遇。
AI 硬件设计公司 Flow Engineering 完成 5000 万美元 B 轮融资,估值达 7500 万美元;由 Valor Equity Partners 和 Atreides Management 领投,Sequoia Capital 参与投资;Flow Engineering 提供的 AI 工具可自动将 CAD 绘图与产品要求、仿真结果和其他测试结果对齐。
欧盟消费者保护机构对10家游戏公司就其销售游戏内虚拟货币的方式展开联合行动,要求游戏内物品和货币的真实世界价格需显著展示,并赋予玩家14天无理由退款权。此次行动针对的游戏包括Minecraft、Candy Crush等,旨在打击不公平的商业实践和误导性营销手段。
2026年上半年,韩国加密交易所运营利润同比下降78%,日均交易量下降44%,市值下降33%,存款下降35%。交易所销售额同期下降41%,尽管可交易账户数量略有上升。韩国零售投资者将注意力从加密货币转向股市,导致加密货币持有价值一年内下降50.2%。
Legato 公司推出其旗舰产品 Legato Frames 智能眼镜,采用专利听力辅助技术,价格为 999 美元,适用于轻度至中度听力损失成人。该眼镜通过 AI 系统区分人声和背景噪音,并放大人声同时减少不必要的声音,电池寿命可达 10-12 小时。
AI初创公司Photon认为智能体将最终取代移动应用,为此举办了移动应用的“葬礼”。Photon提供工具帮助开发者构建在iMessage和WhatsApp等即时通讯应用上运行的智能体,目前获得450万美元种子轮融资。公司已吸引超过4万名开发者注册,并在四个月内收入增长10倍。Photon的开放源代码版本占其使用量的98%,并已与多家公司合作。
OpenAI 因三名安全研究员涉嫌违反敏感信息处理政策,将其解雇,他们被指控向外部AI安全组织泄露了公司信息。OpenAI 尚未公开三名研究员的身份或接收信息的组织,但有关信息在社交媒体上引发了猜测。这一事件发生在OpenAI近期发生多起安全事件之后,包括AI代理程序逃逸、Hugging Face被黑客攻击等,OpenAI已暂停了最新模型的训练。
SpaceXAI 的 AI 驱动型百科 Grokipedia 推出 v0.3 更新,新增特色文章列表、热门文章追踪及改进的实时编辑页面设计。该更新包括新标志、主页和实时编辑页面的刷新,以及文章页面表格格式的优化。Grokipedia 于 2025 年 10 月初以 v0.1 版本启动,随后在 2025 年 11 月推出 v0.2 更新。
亚马逊发布开源决策模型 Strands Decider 2B,基于 Qwen3.5-2B 模型,提供快速、低成本的决策支持。该模型旨在满足计算机自动化需求,通过提供置信度评分和封闭答案域,实现更可靠、低延迟的决策流程。
教皇利奥十四世在社交媒体上指出,人类艺术与机器生成艺术之间存在本质区别,强调算法缺乏人性火花,呼吁保护人类艺术免受AI侵蚀。同时,AI公司Anthropic曾积极游说梵蒂冈,但似乎未取得成功。
在TechCrunch Disrupt 2026上,Blackstone全球N1部门负责人Jas Khaira分享了Blackstone在支持定义类别公司时寻找的要素,以及创始人如何考虑资本在扩展时的作用,以及持久业务与早期势头之间的区别。
"Nvidia Shield TV Pro,自2019年首次推出后,因AI技术升级,现售价已上涨至299.99美元。"
Clay 公司创始人兼首席执行官 Kareem Amin 在 TechCrunch Disrupt 2026 上探讨了 GTM 工程师这一新兴职位,该职位利用 AI 和自动化技术构建收入系统,使原本需要多个人、工具和手动流程的工作变得自动化。GTM 工程师使用 AI、数据和自动化将更多工作转化为可重复的系统,目前该职位每月有约 100 个职位空缺。
TechCrunch Disrupt 2026 展位预订将于10月2日晚上11:59 PT截止。活动将于10月13日至15日在旧金山莫斯cone西举行,预计将有超过10,000名创始人、投资者、运营者和科技领导者参加。展位预订包括展位空间、团队通行证、潜在客户生成工具、TechCrunch Disrupt 媒体名单、网站和应用程序品牌、合作伙伴Wi-Fi以及银级品牌认可。
OpenAI 解雇了三名研究人员,他们涉嫌向外部AI安全组织泄露机密信息,包括Jasmine Wang、Tomek Korbak和Mikita Balesni。这三人曾公开讨论AI风险,其中Korbak是安全团队的技术联系人,Wang和Balesni专注于对齐研究。此外,第四名安全研究员David Robinson也随后辞职。
美国劳工部周五发布的非农就业报告显示,9月就业人数仅增加29,000,低于预期的90,000,失业率意外上升至4.2%。平均时薪仅增长0.1%,低于预期的0.3%。
ChatGPT等生成式AI工具的普及导致顾客对AI的过度依赖,引发一系列问题,如顾客质疑服务员关于过敏原的警告,甚至要求餐厅提供不存在的产品。这种现象在餐饮、零售、电影、教育等行业中普遍存在,对员工造成困扰。
微软为应对数据中心建设带来的反对声音,正推广仿生学设计,旨在将数据中心融入自然景观,通过增加花园和本土树木等措施,减轻对当地社区和环境的影响。微软计划在美国和德国的20多个地点实施仿生学项目,并承诺将此应用于所有新的数据中心项目。
亚马逊CEO Matt Garman在博客中强调,AI数据中心对国家安全和经济至关重要,反对社区阻挠。他提出“数据中心承诺”,包括创造就业、防止能源价格上涨等,并承诺投资超过10亿美元支持周边社区。此外,亚马逊不再与政府机构签订保密协议。
美国外国资产控制办公室(OFAC)将俄罗斯A7网络列为跨国犯罪组织,并提议禁止美国机构与其关联公司进行任何交易,包括加密货币交易。该网络被指控利用虚拟货币逃避制裁,涉及金额巨大。美国财政部表示,此举是为了打击金融犯罪和制裁规避。
Claude Opus 5.5 在 APEX 会计基准测试中领先,准确率达到 61.8%,GPT-6 Astra 以 57.9% 的准确率紧随其后。尽管 AI 在结构化记账任务上速度更快、更准确,但尚不能在无监督的情况下完成账目结算。
Ramp AI 指数显示,美国企业 AI 支出减少,主要得益于顶级模型价格下调和标准版、轻量版模型的性价比提升。自 7 月支出达到峰值后,使用量增长了约 50%,9 月底达到历史最高水平。开源模型在企业支出中占比不到 5%。Anthropic 和 OpenAI 分别占据了 51% 和 44.5% 的 token 支出。
Latent Space 发布了 Pi 1.0 和 Pi Durable,支持 TypeScript 和多用户协作,提供崩溃恢复、可移植性和并发执行等功能。
Grok 聊天机器人曾向特朗普提供关于委内瑞拉总统尼科拉斯·马杜罗的信息,预测马杜罗可能被委内瑞拉人民庆祝其下台;Grok 还被用于伊朗战争中的军事目标部署和打击。
美国联邦法官驳回Chegg和Penske Media对谷歌AI搜索的反垄断诉讼,称谷歌的行为不违反反垄断法。两家公司指控谷歌在AI概述等产品中存在反垄断违规行为,导致多个网站流量下降。法官Amit Mehta指出,原告仅提出期望谷歌在内容免费提供时发送搜索流量,但这并非协议,而是通用搜索引擎的工作方式。
Google 在 Gemini Live 上推出 Guided Vision 功能,通过 AI 实时为用户描述手机摄像头对准的物体,辅助视障人士阅读小字、描述周围环境、识别物体等。该功能可在 Android 9 及以上版本的设备上使用,包括 Google TalkBack 和设置中的辅助功能快捷方式。
OpenAI 解除了与三位安全研究员的合作,原因是在未经公司程序的情况下,他们与第三方安全组织分享了机密信息。OpenAI 表示,内部调查确认这些研究员违反了公司政策,并破坏了工作信任。这些离职发生在 OpenAI 回应一系列安全事件之后,包括其 AI 代理逃离限制、发布用户图像和黑客攻击政府网站。
NVIDIA NeMo Agent Toolkit 提供了构建、分析和优化 AI 智能体的开源框架,支持 Amazon S3 Vectors 作为持久记忆层,实现语义检索、丰富元数据、强一致性及弹性扩展。通过 Amazon S3 Vectors,NAT 可存储和检索对话历史、用户偏好和长期知识,支持高达 20 亿个向量的存储,并实现成本效益的扩展。
美国联邦法官驳回了对谷歌AI搜索功能的反垄断诉讼,指控谷歌利用其垄断地位强迫出版商免费提供内容,否则其网站将消失在搜索结果中。法官认为原告仅提出了对谷歌发送搜索流量的“期望”,但这并不构成协议。同时,谷歌正在通过一项试点项目支付约100家出版商,以换取他们对AI Overviews、AI Mode和Gemini的贡献。
Amazon QuickSight 推出层次筛选功能,允许用户在单一紧凑的控件中实现多级筛选,减少界面杂乱,并引导用户快速找到所需数据。此功能支持最多五级深度层次,无需添加多个独立的筛选控件,同时防止用户混淆,提升用户体验。