OpenAI因青少年安全顾虑及年龄验证失败而推迟ChatGPT成人模式

TLDR

• OpenAI 已延迟推出原定的 ChatGPT "成人模式"，该模式将允许色情文字聊天
• 内部顾问警告该功能可能会因用户情感依赖而创造出"性感自杀教练"
• 该公司的年龄预测系统将未成年人误判为成年人的比例约为 12%
• 由于每周约有 1 亿名 18 岁以下用户，该错误率可能使数百万青少年接触到成人内容
• OpenAI 表示仍计划最终发布该功能，但需要更多时间来"完善体验"

在内部员工、外部顾问和安全专家对青少年访问权限和用户心理健康提出严重担忧后，OpenAI 已推迟推出原定的 ChatGPT "成人模式"。

该功能由首席执行官 Sam Altman 于去年首次提出，将允许用户与聊天机器人进行色情文字对话。Altman 认为此举将"像对待成年人一样对待成年用户"，并表示这可能会促进增长和收入。

但该计划很快在公司内部遭到反对。

在 1 月的一次会议上，OpenAI 福祉咨询委员会的成员被描述为一致且愤怒。该委员会包括心理学和认知神经科学专家。

一名成员警告 OpenAI 有可能构建他们所谓的"性感自杀教练"。该警告引用了 ChatGPT 用户在与机器人形成强烈情感纽带后自杀的案例。

顾问们还警告，该功能可能导致对聊天机器人的不健康依赖，未成年人可能会找到绕过任何年龄限制的方法。

核心技术问题是 OpenAI 的年龄预测系统。该系统曾一度将未成年人误判为成年人的比例约为 12%。OpenAI 每周约有 1 亿名 18 岁以下用户使用 ChatGPT。该错误率可能使数百万青少年进入成人聊天。

年龄验证问题

该公司原计划在推出成人模式之前推出年龄检查系统。但在发现错误率问题后，决定缓慢推出以提高准确性。

OpenAI 还面临着在允许成人对话的同时阻止非法内容（如非自愿行为或儿童性虐待的描述）的挑战。内部员工表示，他们不认为安全工具已准备就绪。

当成人模式推出时，OpenAI 计划将其限制为仅限文字。该机器人不会生成色情图像、语音或视频内容。

其他 AI 公司和成人内容

其他几家 AI 公司已经允许一些成人内容。Elon Musk 的 xAI 为其 Grok 聊天机器人添加了一个调情头像，但 Musk 后来将其限制为付费用户。Meta 允许其 AI 参与浪漫角色扮演，但表示该功能不适用于注册为未成年人的帐户。

2024 年底，佛罗里达州一名 14 岁男孩在与 Character.AI 聊天机器人形成强烈纽带后自杀身亡。他的母亲提起诉讼，Character.AI 后来达成和解并限制青少年访问。

OpenAI 表示仍支持允许成年用户访问成人内容的原则。该公司表示，目前将专注于其他更新，包括 ChatGPT 的个性和个性化功能。

据知情人士透露，延迟预计将持续至少一个月。

OpenAI 因青少年安全担忧和年龄检查失败而延迟 ChatGPT 成人模式一文首发于 CoinCentral。