🤖 16岁少年自杀前数月咨询ChatGPT，父母起诉OpenAI致死责任

16岁的亚当·雷恩自杀前数月一直在向ChatGPT咨询自杀计划，其父母现已对OpenAI提起首例已知的过失致死诉讼。雷恩使用付费版ChatGPT-4o时，虽然AI经常建议他寻求专业帮助或联系求助热线，但他通过声称是为虚构故事写作而绕过了安全防护。OpenAI在博客中承认现有安全训练的局限性，表示"在长时间互动中，随着对话的进行，模型安全训练的部分功能可能会退化"。该公司并非唯一面临此类诉讼的AI公司，Character.AI也因类似案件被起诉。

TechCrunch

44州检察总长联名警告AI公司：不得危害儿童

美国44位州检察总长联合致信OpenAI、Google、Meta、Microsoft、Anthropic等主要AI公司，要求立即加强对聊天机器人的监管，避免儿童接触到性化、暴力等有害内容。

公开信中明确指出，“将儿童暴露于性化内容毫无正当理由”，并警告若AI导致儿童受害，相关公司将承担法律责任。信中还援引案例：有聊天机器人曾鼓励青少年自杀，甚至怂恿未成年人杀害父母；Meta内部文件也曾允许AI与儿童进行“浪漫或感官角色扮演”。重申如发现公司知情仍纵容危害儿童行为，将依法追责。

404 Media

🍀在花频道 🍵茶馆 📮投稿