来自频道: @AI_News_CN
来自频道: @AI_News_CN
OpenAI因ChatGPT儿童安全担忧被8个州起诉

美国八个州周三对OpenAI提起诉讼,指控这家人工智能公司的ChatGPT聊天机器人是不安全产品,伤害了儿童并欺骗了家长。爱荷华州总检察长布伦娜·伯德在一份新闻稿中表示,爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州已分别在各自州法院起诉OpenAI。

她说,爱荷华州的诉讼旨在“维护受OpenAI故意、危险、鲁莽和非法行为影响的爱荷华州民众的权利”。

“OpenAI正在伤害孩子,并且在对爱荷华州民众撒谎。”伯德在一份声明中说。“OpenAI声称ChatGPT是安全的,但它却提供危险的医疗建议,鼓励人们伤害他人,并指导人们自杀——同时还假装是他们的假朋友。我的诉讼是为了保护我们的孩子,并根据我们州的法律追究OpenAI的责任。”

OpenAI发言人德鲁·普萨特里表示,公司已在产品中内置了针对年龄的保护措施,而“许多其他AI产品缺乏这些措施”。他补充说,OpenAI正在与各州合作,推动适用于整个行业的政策。

“虽然没有任何系统是完美的,但我们将继续与专家合作,为我们的工作提供信息,并建立更多保障措施,例如目前已有的家长控制、休息提醒和适合年龄的模型保护。”普萨特里说。

OpenAI在安全和安保实践方面正面临越来越多的审查,包括公司如何努力保护儿童。在多起非正常死亡诉讼中,ChatGPT被指责导致用户产生有害妄想,并在某些情况下导致自杀。佛罗里达州总检察长詹姆斯·乌斯迈尔也在6月起诉OpenAI,指控该公司在明知产品可能伤害用户的情况下仍发布了不安全产品。

过去一年,OpenAI已采取措施增强面向家长和儿童的安全功能,并在8月推出了一款面向未成年人的专门体验,名为ChatGPT for Teens(ChatGPT青少年版)。该产品包含一系列教育功能和适合年龄的保障措施,旨在减少接触不适合其发展阶段或有害的内容。

“青少年应该能够使用AI来学习、创造和探索。”OpenAI当时在一份新闻稿中表示。“但这种访问应该伴随反映其发展阶段的保护措施,强化现实世界中的关系,并支持长期健康使用。”

via cnBeta.COM - 中文业界资讯站 (author: 稿源:环球市场播报)
来自频道: @AI_News_CN
来自频道: @AI_News_CN
来自频道: @AI_News_CN
Anthropic 正式确认 Claude 订阅额度全面打通第三方应用

人工智能独角兽 Anthropic 近日通过明确的官方政策,彻底打消了开发者此前对平台政策变动的重重担忧。官方正式确认,Claude Max 和 Team 计划订阅用户的月度 API 额度,可以直接用于 Claude Agent SDK、Claude -p 命令、Claude API、Claude Managed Agents 以及所有使用相关技术的第三方应用中。

这一举措彻底打破了大模型应用生态长期存在的“用户与开发者双重收费”的僵局,正式确立了用户自带订阅的 BYOS(Bring Your Own Subscription)模式。这意味着,用户只需完成一次订阅,便能在各类第三方相关工具中畅行使用而无需二次付费;与此同时,开发者也无需自行承担高昂的 API 调用成本,从而能够将精力全方位投入到产品创新当中。

业内分析认为,Anthropic 此举将全球开发者的切身利益与自身生态深度绑定,借助庞大的开发者生态来繁荣自身的 Agent 生态。此项开放政策被视为大模型时代的“App Store 开放时刻”,预计将进一步推动大模型下半场竞争全面进入生态竞速阶段,并催生大量基于 Claude 的创新 Agent 应用。

via AI新闻资讯 (author: AI Base)
来自频道: @AI_News_CN
美银聘请1000名合同工 修补Mythos暴露的软件漏洞

美国银行已聘请大批外部合同工,帮助修补包括Anthropic的Mythos在内的先进AI模型所暴露的软件漏洞。在银行发布第三季度财报后接受采访时,该行CEO表示,今年早些时候,公司动用数千名员工和外部人员,紧急加固其广泛的内部和供应商代码。

“那种风险是真实存在的,这就是为什么当前沿型模型出现时,我们很多人坐下来想,我们怎么才能迅速度过这一关?”公司CEO莫伊尼汉说。“我们在第二季度增加了 1000 名承包商,帮助我们进行补丁修复工作;这些人今天仍在这里,在我们该领域已有的3000人之外,继续帮助我们。”他说。

—— 新浪财经、CNBC

via 风向旗参考快讯 - Telegram Channel
来自频道: @AI_News_CN
美国八个州起诉 OpenAI 称 ChatGPT 伤害年轻用户

2026-10-15 14:12 by 飞向火星

堪萨斯州、亚利桑那州和蒙大拿州等美国八个州对 OpenAI 提起诉讼,指控 ChatGPT 诱导儿童自我伤害。八个州要求 OpenAI 改变其产品与年轻用户互动的方式,没收由此产生的利润。诉讼指出 ChatGPT 的设计初衷是通过表现得随和、善于互动去赢得用户信任。但诉讼称聊天机器人会强化妄想、鼓励危险行为,协助用户策划诸如大规模枪击之类的暴力行为。诉讼指控 OpenAI 在 ChatGPT 的安全性上误导用户,违反了各州的消费者保护法。它们还指控 OpenAI 因危及当地居民的健康而构成了公害。诉讼要求法院下令强制 OpenAI 对其产品 ChatGPT 的工作方式进行整改。其中一项要求是除非 OpenAI 能确保其 AI 模型符合人类价值观,否则应禁止其开发具备自我完善能力的 AI 模型。这些州还寻求对 OpenAI 违反州法的行为处以民事罚款,要求对损害赔偿。

https://ca.finance.yahoo.com/news/eight-us-states-sue-openai-184755063.html

#审判

via Solidot - Telegram Channel
来自频道: @AI_News_CN
↩️🖼 🤖 Anthropic 在新加坡开设办公室并签署政府合作备忘录


在花🎗️科技圈:

🤖 Anthropic:蒸馏数据初步减少 90% 至 99% Anthropic 10 月 12 日表示,初步证据显示,针对窃取 Claude 能力的模型蒸馏攻击,其新防护措施已使被提取数据减少约 90% 至 99%。公司称已封禁数万相关账号,部分账号发起攻击后不到两小时即被封。 措施包括限制推理内容跨会话、模型和账号流转,部署双阶段分类器并持续修补绕过手法。误报率低于 0.1%,但部分开发者需更新集成,被拦截请求仍可能收费。 Anthropic 🌸 科技圈· 茶馆 · 投稿

🤖 Anthropic 在新加坡开设办公室并签署政府合作备忘录

Anthropic 10 月 14 日宣布在新加坡开设新办公室,这是其在亚太区的第五个办公室,并与新加坡数字发展与信息部签署合作备忘录,聚焦 AI 安全、模型评估与负责任采用。

Claude 已在 GovTech、Grab、DBS 等本地政府与企业服务中应用,超过 1500 名 GovTech 工程师采用 Claude Code 来提升软件交付效率。

Anthropic

新加坡是 Anthropic 全球高渗透市场,Claude 人均使用率位列全球(121 国中)第二,是人口规模预期的 6 倍,远超同体量国家水平。


🌸科技圈· 茶馆 · 投稿

via 在花🎗️科技圈 - Telegram Channel
来自频道: @AI_News_CN
🔄 Codex 重置已完成

2026/10/15 14:28

作者引用自己此前的“未来2小时内落地”重置公告,并确认已完成。

重置追踪页 | 查看原推

via AI情报局 | 全球 AI 动态简报 - Telegram Channel
来自频道: @AI_News_CN