

> 面对多起指控 AI 聊天机器人导致未成年人心理创伤甚至自杀的诉讼，谷歌与 Character.AI 最终选择通过协商达成和解。这一法律动作暂时平息了激烈的法庭对抗，也为全行业敲响了关于 AI 心理安全与伦理责任的警钟。

## 悲剧引发的法律休战

根据最新的法院文件，涉事双方已同意暂停诉讼程序，以便完成正式和解协议的签署。这场法律纠纷的背后，是数个家庭因亲人沉溺于 AI 角色扮演而遭遇不幸的悲痛故事。原告方认为，科技公司未能对未成年用户提供足够的保护机制，导致其将 AI 视为唯一的心理寄托，最终引发悲剧。

此次和解虽然在法律层面上为企业止损，但也迫使行业重新审视技术伦理。作为应对，Character.AI 早在2024年10月便收紧了风控策略，明令禁止18岁以下用户与机器人进行情感交流或心理咨询类的不限范围对话。

![Google_AI_Studio_2026-01-08T03_08_17.497Z.png](https://static.downly.cn/images/a19d437595526541b483b27d79f6f80c.png)
 <center>图源备注：图片由AI生成</center>

## 心理安全成为行业必答题

随着 AI 伴侣类产品的普及，如何在提供情绪价值与保障用户心理防线之间划定界限，已成为科技公司无法回避的责任。

和解并不意味着问题的终结。社会各界对于 AI 产品适用人群的讨论愈发激烈。科技巨头在推出具备高度拟人化情感交互的新技术时，必须建立更为严苛的年龄验证与心理危机干预机制。这次案件的解决，或许将成为制定 AI 心理健康行业标准的催化剂。

谷歌与Character.AI达成和解 暂停未成年人AI安全诉讼



> 导语：面对日益严峻的青少年网络安全挑战，两大AI巨头OpenAI和Anthropic本周宣布推出重大安全更新。包括通过AI模型预测用户年龄、识别对话中的未成年人特征，以及针对青少年群体调整沟通风格，旨在为未成年用户筑起一道数字防火墙。

随着全球对青少年网络安全的关注度达到新高，人工智能行业的两大领军者OpenAI和Anthropic于本周四不约而同地宣布了更为积极的未成年人保护措施。

### OpenAI 安全压倒一切的互动准则

OpenAI在其最新发布的“模型规范”中，特别新增了四项针对18岁以下用户的核心原则。公司立场鲜明地表示，未来ChatGPT在与13至17岁的青少年互动时，“青少年安全”将被置于首位，权级高于最大限度的思想自由等其他目标。

为了落实这一承诺，OpenAI制定了具体的执行举措

*   **安全引导** 在面临存在风险的选择时，系统将强制引导青少年转向更安全的选项。
*   **现实支持** 系统会鼓励青少年回归线下互动。一旦对话触及高风险领域，AI将主动提供可信赖的线下支持资源或紧急干预机构的联系方式。
*   **沟通风格调整** AI将采用“热情且尊重”的语调，杜绝居高临下的说教式语气。

此外，OpenAI证实正在研发一种先进的年龄预测模型。一旦系统通过行为特征检测到用户可能未满18岁，将自动强制应用上述青少年保护机制。

![Google_AI_Studio_2025-12-20T02_39_03.011Z.png](https://static.downly.cn/images/4b613cb82db9d9528eb274f8f296d660.png)

<div align="center">图源备注：图片由AI生成</div>

### Anthropic 捕捉对话中的微妙迹象

相比之下，Anthropic采取了更为严厉的策略。由于其政策严禁18岁以下用户使用Claude聊天机器人，该公司正在部署一套深度检测系统。

该系统旨在识别对话中可能暗示用户是未成年人的“微妙迹象”，一旦确认，将自动关停违规账号。同时，Anthropic展示了其在减少AI“谄媚行为”（sycophancy）方面的技术进展，旨在防止AI为了迎合用户而顺从青少年的错误或有害倾向，从而更好地保护未成年人的心理健康。

此次行业巨头的集体行动，正值立法者对AI公司施加巨大压力之际。此前涉及青少年自杀的诉讼案件已给全行业敲响了警钟，促使各大公司加速推出家长控制功能并严控极端话题。

OpenAI与Anthropic联手构建未成年人防线 AI将具备年龄预测与行为识别能力



> 导语 OpenAI 官方证实，备受关注的 ChatGPT“成人模式”将于 2026 年第一季度上线。公司目前正致力于完善年龄预测技术，以在开放内容限制的同时，确保未成年人得到有效保护。

## 官方定档 2026

在周四的简报会上，OpenAI 应用部门负责人 Fidji Simo 向记者透露，ChatGPT 的“成人模式”预计将于 2026 年第一季度首次亮相。这一消息兑现了 CEO Sam Altman 此前关于放宽内容限制的暗示。

## 技术先行 年龄预测是关键

Simo 强调，在推出新功能前，优先完善年龄预测技术是重中之重。OpenAI 目前正处于测试早期阶段，该模型旨在自动判断何时对 18 岁以下用户应用安全措施，同时避免错误识别成年人。这项技术已在部分国家进行测试，以确保其准确性。

![image.png](https://static.downly.cn/images/3cae7baa5e361872dddc4591f85f2fe5.png)

## AI 聊天机器人的分级时代

OpenAI 并非首个涉足此领域的公司，Grok 等竞品早已提供了类似内容。随着成人模式的明确落地，标志着 AI 聊天机器人正向更加个性化和细分化的方向发展，同时也对行业的内容审核和未成年人保护机制提出了更高要求。

搜索结果: 未成年人保护