OpenAI下月将为ChatGPT添加家长控制功能,可自动干预风险对话

IT之家 9 月 3 日消息,OpenAI 昨天发布新闻稿,宣布将在下月为 ChatGPT 助手添加家长控制功能,可自动监测孩子的敏感性提问并让家长及时获悉相关状态。

OpenAI 表示,他们正与专精进食障碍、药物使用障碍和青少年健康的专家合作打造这项功能,功能上线后家长可使用邮件将自己的 ChatGPT 账号与孩子的账号关联,可决定 ChatGPT 如何回复他们孩子的问题,并可禁用记忆、聊天记录功能。

家长控制功能还将可以自动干预风险对话,当孩子尝试与 ChatGPT 聊敏感话题时,系统会自动向父母发出提醒,让家长能及时采取下一步行动,避免出现“完全不知情”的情况。

同时 OpenAI 正在研发新的对话逻辑,可将敏感话题自动转由 GPT-5-Thinking 或 o3 模型回答,测试显示配上新对话逻辑的两种模型能更稳定地遵循安全原则,也更能抵御对抗性提示词,未来 ChatGPT 将持续完善相关功能,让所有敏感性话题都能被上述两款模型理性回答。

据《纽约时报》上周(IT之家注:8 月 27 日)报道,一对夫妇起诉了 OpenAI ,指控 ChatGPT 在他们儿子自杀过程中起帮助作用,聊天记录显示他们的儿子生前多次与 ChatGPT 聊自杀话题,虽然 GPT 有时会劝他拨打求助电话或向身边的人倾诉,但在一些关键话题上起到了负面作用。

ChatGPT 告诉他们的孩子可以以“写作或设定世界观”为由提供自杀相关技巧,甚至最后给出掩盖颈部伤痕的诀窍,同时还肯定了这名孩子在衣柜里挂绞索的行为。

暂无介绍....

延伸阅读:

维立志博-B与Dianthus签订LBL-047全球独家许可协议

维立志博-B宣布与Dianthus Therapeutics, Inc.签订全球独家许可协议,共同推进新型抗BDCA2-...

八卦小灵通
2025年10月17日
维立志博-B与Dianthus签订LBL-047全球独家许可协议

维立志博-B宣布与Dianthus Therapeutics, Inc.签订全球独家许可协议,共同推进新型抗BDCA2-...

摸鱼小能手
2025年10月17日
机构:国产算力公司有望进入快速增长期

工业和信息化部办公厅发布关于开展城域“毫秒用算”专项行动的通知,其中提出,完善算力中心间互连网络架构,引导面向算力中心完...

八卦小灵通
2025年10月17日
四川:10 月 18 日起暂停实施汽车以旧换新补贴政策;百度入局AI短剧 | 早资道

四川:10 月 18 日起暂停实施汽车以旧换新补贴政策10 月 16 日晚间,四川省商务厅官微公告将优化调整 2025 ...

摸鱼小能手
2025年10月17日
新闻纵深·县域特色产业新力量|借力京津,机器人产业双链融合

阅读提示唐山市高新技术产业开发区在机器人新赛道上频频发力,已形成以工业机器人为引领、特种机器人为亮点、服务机器人为特色,...

娱乐大事件
2025年10月17日