OpenAI下月将为ChatGPT添加家长控制功能,可自动干预风险对话

IT之家 9 月 3 日消息,OpenAI 昨天发布新闻稿,宣布将在下月为 ChatGPT 助手添加家长控制功能,可自动监测孩子的敏感性提问并让家长及时获悉相关状态。

OpenAI 表示,他们正与专精进食障碍、药物使用障碍和青少年健康的专家合作打造这项功能,功能上线后家长可使用邮件将自己的 ChatGPT 账号与孩子的账号关联,可决定 ChatGPT 如何回复他们孩子的问题,并可禁用记忆、聊天记录功能。

家长控制功能还将可以自动干预风险对话,当孩子尝试与 ChatGPT 聊敏感话题时,系统会自动向父母发出提醒,让家长能及时采取下一步行动,避免出现“完全不知情”的情况。

同时 OpenAI 正在研发新的对话逻辑,可将敏感话题自动转由 GPT-5-Thinking 或 o3 模型回答,测试显示配上新对话逻辑的两种模型能更稳定地遵循安全原则,也更能抵御对抗性提示词,未来 ChatGPT 将持续完善相关功能,让所有敏感性话题都能被上述两款模型理性回答。

据《纽约时报》上周(IT之家注:8 月 27 日)报道,一对夫妇起诉了 OpenAI ,指控 ChatGPT 在他们儿子自杀过程中起帮助作用,聊天记录显示他们的儿子生前多次与 ChatGPT 聊自杀话题,虽然 GPT 有时会劝他拨打求助电话或向身边的人倾诉,但在一些关键话题上起到了负面作用。

ChatGPT 告诉他们的孩子可以以“写作或设定世界观”为由提供自杀相关技巧,甚至最后给出掩盖颈部伤痕的诀窍,同时还肯定了这名孩子在衣柜里挂绞索的行为。

暂无介绍....

延伸阅读:

推荐系统真正「懂你」:快手团队在NeurIPS 2025提出新成果TagCF

每天,推荐系统都在捕捉我们的兴趣与偏好。从刷过的视频到停留的直播间,算法总是聚焦在「内容」的理解上,推断用户喜欢哪类视频...

娱乐大事件
2025年11月27日
院士选举:如何保障学术公正,回归纯粹的荣誉属性

图源:Unsplash / Element5 Digital今年新当选的 144 位院士名单公布后,围绕院士选举的评审方...

娱乐大事件
2025年11月27日
华为Mate 80 Pro Max手机备件价格公布,屏幕单体留件价1399元

IT之家 11 月 27 日消息,华为 Mate 80 Pro Max 手机备件价格现已公布,更换屏幕单体的留件价是 1...

八卦小灵通
2025年11月27日
TPU算力狂热席卷而来! 三大关键词贯穿新一轮AI投资热潮:ASIC、光互连与存储

智通财经APP获悉,随着美国科技巨擘谷歌在上周重磅推出Gemini3 AI应用生态之后,这一最前沿AI应用软件随即风靡全...

摸鱼小能手
2025年11月27日
5亿热钱砸向清华AI Infra明星:最大化算力效能筑造智能体基建

henry 发自 凹非寺量子位 | 公众号成立两年半,再添近5亿元A+轮融资——截至目前,无问芯穹已累计吸金近15亿,成...

娱乐早知道
2025年11月27日
🧟 AI 助手