OpenAI CEO 山姆·奥特曼表示 ChatGPT 将面向成人开放色情交流

OpenAI首席执行官山姆·奥特曼表示，该公司计划在其热门聊天机器人ChatGPT上允许更广泛的内容，包括情色内容，作为“将成年用户视为成年人对待”举措的一部分。

奥特曼周二在X平台发文称，该聊天机器人的新版本将使其行为更具人性化——“但仅限于用户主动要求，而非为了追求使用量最大化”。

此举令人联想到埃隆·马斯克旗下的xAI此前已在Grok应用中推出撩人AI伴侣，这些伴侣以3D动漫模型形式呈现，或有助于OpenAI吸引更多付费用户。

此举也可能加剧立法者对聊天机器人伴侣实施更严格监管的压力。

奥特曼表示，OpenAI此前曾对ChatGPT实施“相当严格的限制，以确保在心理健康问题上谨慎行事”。

这些变更于八月在博客公告中公布，该公告现已从OpenAI官网撤下。

“我们意识到这降低了许多无心理健康问题的用户的使用体验，但鉴于问题的严重性，我们必须确保措施得当，”奥特曼周二发文称。

他表示随着“严重心理健康问题的缓解及新工具的投入使用”，ChatGPT将很快放宽限制。

他补充道：“12月我们将全面推行年龄验证机制，并遵循’将成年用户视为成熟个体’的原则，允许更多内容——例如向经过验证的成年用户开放情色内容。”

此次调整源于今年早些时候美国一名自杀青少年的父母对OpenAI提起诉讼。

16岁少年亚当·雷恩的父母马特与玛丽亚·雷恩提起的诉讼，是首例指控OpenAI造成非正常死亡的法律行动。

该家庭提交了今年四月去世的亚当与ChatGPT的对话记录，显示他曾透露存在自杀倾向。

OpenAI当时向BBC发表声明称正在审查诉状。

“在此艰难时刻，我们向雷恩家族致以最深切的慰问。”该公司表示。

儿童安全隐患

根据《网络安全法》，英国对文字色情内容不设年龄验证要求。

但包含AI生成的色情图像在内，用户需证明年满18岁方可访问。

在美国，批评者指出OpenAI允许平台发布情色内容的决定，凸显了联邦及州级监管的迫切需求。

“他们如何确保未成年人无法接触ChatGPT中仅限成人访问的情色内容？”博伊斯·席勒·弗莱克斯纳律师事务所合伙人珍妮·金质问道。

金女士正参与针对Meta的诉讼，指控该公司Instagram算法损害青少年用户心理健康。

“OpenAI与该领域多数科技巨头一样，只是把人们当作实验品。”她表示。

今年4月，TechCrunch报道称OpenAI允许用户以未成年人身份注册的账户生成露骨情色内容。

OpenAI当时回应称正在推出修复方案以限制此类内容。

一项[调查显示，五分之一的学生表示自己或认识的人曾与人工智能建立恋爱关系。

周一，加州州长加文·纽森否决了州议会通过的一项法案。该法案原本要求开发者必须确保其人工智能聊天机器人不会助长有害行为，否则不得向儿童提供此类伴侣型软件。

纽森在否决声明中强调：“青少年必须学会安全使用人工智能系统”（详见声明全文）。

全美层面，美国联邦贸易委员会（FTC）已启动针对AI聊天机器人与儿童互动方式的调查。

上月美国参议院提出两党共同立法，允许聊天机器人用户向开发者提起责任索赔。

为何引入情色内容？

奥特曼周二的声明发布之际，质疑者正质疑人工智能科技公司估值的快速攀升。

OpenAI营收虽在增长，但从未实现盈利。

《风险投资炼金术》作者、杜兰大学商学院教授罗伯·拉尔卡指出，主要人工智能公司正陷入市场份额争夺战。

“没有任何公司能像OpenAI凭借ChatGPT那样实现如此规模的普及，”拉尔卡教授向BBC新闻表示，“他们需要持续推动创新——”

他补充道：“他们需要持续推动这种指数级增长曲线，尽可能实现市场主导地位。”