OpenAI下月将为ChatGPT添加家长控制功能,可自动干预风险对话

IT之家 9 月 3 日消息,OpenAI 昨天发布新闻稿,宣布将在下月为 ChatGPT 助手添加家长控制功能,可自动监测孩子的敏感性提问并让家长及时获悉相关状态。

OpenAI 表示,他们正与专精进食障碍、药物使用障碍和青少年健康的专家合作打造这项功能,功能上线后家长可使用邮件将自己的 ChatGPT 账号与孩子的账号关联,可决定 ChatGPT 如何回复他们孩子的问题,并可禁用记忆、聊天记录功能。

家长控制功能还将可以自动干预风险对话,当孩子尝试与 ChatGPT 聊敏感话题时,系统会自动向父母发出提醒,让家长能及时采取下一步行动,避免出现“完全不知情”的情况。

同时 OpenAI 正在研发新的对话逻辑,可将敏感话题自动转由 GPT-5-Thinking 或 o3 模型回答,测试显示配上新对话逻辑的两种模型能更稳定地遵循安全原则,也更能抵御对抗性提示词,未来 ChatGPT 将持续完善相关功能,让所有敏感性话题都能被上述两款模型理性回答。

据《纽约时报》上周(IT之家注:8 月 27 日)报道,一对夫妇起诉了 OpenAI ,指控 ChatGPT 在他们儿子自杀过程中起帮助作用,聊天记录显示他们的儿子生前多次与 ChatGPT 聊自杀话题,虽然 GPT 有时会劝他拨打求助电话或向身边的人倾诉,但在一些关键话题上起到了负面作用。

ChatGPT 告诉他们的孩子可以以“写作或设定世界观”为由提供自杀相关技巧,甚至最后给出掩盖颈部伤痕的诀窍,同时还肯定了这名孩子在衣柜里挂绞索的行为。

暂无介绍....

延伸阅读:

SpaceX星舰V3完成全时长静态点火测试,首次试飞临近

IT之家 4 月 16 日消息,在得克萨斯州星舰基地完成全时长静态点火测试后,SpaceX 距离发射下一代星舰又近了一大...

娱乐大事件
2026年4月16日
科大讯飞AI智能鼠标AM50 pro发布,498元

IT之家 4 月 16 日消息,科大讯飞现已在京东上架一款 AI 智能鼠标 AM50pro,其内置 AI 功能、支持星闪...

娱乐大事件
2026年4月16日
荣耀MagicBook 14/16 2026款笔记本发布,国补价5949.15元起

IT之家 4 月 16 日消息,荣耀今日发布了 MagicBook 14/16 2026 款笔记本新品,国补价 5949...

娱乐大事件
2026年4月16日
数据中心绿电直连落地难在成本高,需从新型电力系统构建出发

“绿电直连”以负荷主体为中心,由可再生能源通过直连线路,向单一电力用户供给绿电,用于满足其负荷需求,当前备受关注。据国家...

娱乐大事件
2026年4月16日
腾讯混元3D世界模型2.0发布 一句话生成3D资产

快科技4月16日消息,今日,腾讯正式发布并开源混元3D世界模型2.0(HY-World 2.0)。官方表示,该模型一句话...

八卦小灵通
2026年4月16日