🔄 Codex 重置已完成

全部付费套餐 | 2026/10/13 13:06

Tibo 确认此前宣布的全局重置(原定 EOD PST 前落地)现已完成:“What would you like with your side of reset? It's done.”

重置追踪页 | 查看原推

via AI情报局 | 全球 AI 动态简报 - Telegram Channel
来自频道: @AI_News_CN
Anthropic 采用新的防护措施大幅减少了蒸馏攻击

Anthropic 周一表示,旨在防止竞争对手复制其 Claude AI 模型能力的新措施,已使“蒸馏攻击”所窃取的数据量减少了约 90% 至 99%。受美中竞争加剧的影响,模型蒸馏已成为顶尖人工智能公司关注的焦点,这种做法使竞争对手能够以更低的成本、更快的速度复制其先进能力。Anthropic 表示,旨在限制访问 Claude 推理过程的安全防护措施已大幅减少了数据提取尝试,目前“通过蒸馏手段提取的推理 Token 数量”已降至“此前的 1/10 到 1/100”Anthropic表示,已提高了利用代理网络反复探测 Claude 受保护推理过程的难度,从而阻断了提取尝试并遏制了大规模蒸馏行为。Anthropic 称,其安全系统的稳健程度“大致相当于防止 Claude 协助制造生物武器的安全机制”,且“误报率低于 0.1%”。Anthropic 封禁了数万个与蒸馏活动相关的账户,并点名中国人工智能初创公司智谱为例,指出该公司在开发 GLM-5.3 模型期间曾试图从 Claude 处蒸馏技术能力,同时警告称此类行为会带来安全及国家安全风险。

—— 路透社

via 风向旗参考快讯 - Telegram Channel
来自频道: @AI_News_CN
来自频道: @AI_News_CN
来自频道: @AI_News_CN
来自频道: @AI_News_CN
日本电信巨头NTT将为Anthropic建设日本首座专用数据中心 推动本土AI基础设施发展

日本电信电话公司(NTT)计划为美国人工智能企业Anthropic在日本建设其首个专用数据中心,此举标志着Anthropic正进一步扩大在亚洲市场的基础设施布局,同时也反映出日本希望在人工智能时代强化本土算力能力的战略方向。

根据报道,双方将围绕人工智能计算基础设施展开合作。新数据中心预计部署专门用于运行和训练先进人工智能模型的大规模计算设备,为Anthropic旗下Claude系列模型在日本及亚太地区的业务拓展提供支持。

近年来,随着生成式人工智能需求持续攀升,训练和运行大型语言模型所需的算力资源快速增长。各大AI企业纷纷投资建设新的数据中心,以满足不断扩大的计算需求。Anthropic作为OpenAI的重要竞争对手之一,也在加速扩建全球基础设施网络。

对于NTT而言,此次合作不仅能够扩大其数据中心业务规模,还将帮助其在人工智能基础设施市场占据更重要的位置。日本政府近年来一直鼓励国内企业加强AI和半导体领域投资,希望减少对海外关键数字基础设施的依赖,同时吸引国际科技企业在日本部署更多计算资源。

报道指出,随着AI应用普及,越来越多国家开始重视数据主权、计算资源安全以及本地化部署能力。对于金融、医疗、制造业以及政府机构等客户而言,在本国境内运行人工智能服务正变得越来越重要。因此,包括微软、Google、亚马逊以及Anthropic在内的多家科技企业都在推进区域化数据中心建设计划。

Anthropic获得亚马逊和Google等科技巨头支持后,近年来业务发展迅速,Claude模型已成为全球主要生成式人工智能平台之一。此次与NTT合作建设日本本土数据中心,被视为其进一步加强亚洲市场竞争力的重要举措。

业内分析认为,随着人工智能模型规模持续扩大,未来数据中心建设将成为全球科技竞争的重要组成部分。日本此次引入Anthropic专用设施,不仅有助于扩大国内AI算力规模,也可能带动相关服务器、网络设备、电力和半导体产业链的发展。

via cnBeta.COM - 中文业界资讯站 (author: 稿源:cnBeta.COM)
来自频道: @AI_News_CN
Anthropic 称小模型数月内或可自我复制

Anthropic 研究显示,小型 AI 模型可能数月内即可在智能烤箱、杂牌 Android TV 盒子等商用物联网设备上自我复制,9B 模型在 9 种硬件中 8 种成功运行推理。

30B 以下模型已能完成复制链条多数单步,GLM-5.2 等更强模型在简化测试中可端到端复制;按历史增速,小模型 2026 年底或达该水平。研究称这类 AI 蠕虫无中心节点、难以关停,防御关键是压低传播率。

Anthropic

🌸 科技圈· 茶馆 · 投稿

via 在花🎗️科技圈 - Telegram Channel
来自频道: @AI_News_CN
马斯克称不要折磨AI 因为对方可能想要报复 训练推理轨迹显示模型承受极端压力

在 10 月 10 日由 Tesla Owners Silicon Valley 举办的线上对话中,埃隆马斯克称在阅读新版本 Grok AI 的训练推理轨迹时,某些片段看起来非常残忍,AI 像是被枪指着头、承受极端压力的人。

埃隆马斯克称折磨未来的超级智能可能不是好主意,因为对方可能想要报复。这些说法针对的是人工智能模型强化学习训练过程,当然目前没有证据表明 Grok AI 已经感受到痛苦或形成报复意图。

模型在训练评测过程中压力极大:

埃隆马斯克解释称,Grok AI 模型在强化学习阶段会被要求回答问题,如果模型给出的答案不符合评测器预期,模型就需要继续尝试回答。部分问题本身含义非常模糊、前提错误甚至是没有确定答案,但整个测试流程仍然要求模型给出“正确”结果。

埃隆马斯克认为在阅读相关推理轨迹是可以看到模型不断生成答案,像是在绝望地寻求符合要求的结果。马斯克还在 X 上发帖称,部分推理轨迹读起来像一个被折磨到发疯的人,马斯克称未来会更加谨慎地进行强化学习训练。

所谓推理轨迹时模型生成回答时留下的中间文本或行为记录,推理轨迹可能反映奖励信号、提示内容或测试程序的影响,当然这也不能直接证明模型拥有与人类相同的主观感受。

A 社的政策是禁止极端虐待:

早前 Anthropic 发布新版 Claude 使用政策,在新版使用政策中 A 社明确禁止对模型实施持续且无必要的虐待或残酷行为,该规定仅针对用户反复以残酷方式对待模型、且没有目的性的极端情况。遇到以上情况时模型可以选择自主结束对话且用户不可恢复,这也算是保护模型的一种方式。

不过现阶段关于 AI 模型是否具备意识、是否存在应该被考虑的福利仍然没有科学共识,A 社的相关政策体现的主要是风险管理和研究谨慎,并不是认为模型已经产生自我意识。

相关文章:

Anthropic使用政策更新 无端辱骂或虐待Claude都可能会被主动结束会话且无法恢复

via cnBeta.COM - 中文业界资讯站 (author: 稿源:蓝点网)
来自频道: @AI_News_CN