OpenAI下月将为ChatGPT添加家长控制功能,可自动干预风险对话
IT之家 9 月 3 日消息,OpenAI 昨天发布新闻稿,宣布将在下月为 ChatGPT 助手添加家长控制功能,可自动监测孩子的敏感性提问并让家长及时获悉相关状态。
OpenAI 表示,他们正与专精进食障碍、药物使用障碍和青少年健康的专家合作打造这项功能,功能上线后家长可使用邮件将自己的 ChatGPT 账号与孩子的账号关联,可决定 ChatGPT 如何回复他们孩子的问题,并可禁用记忆、聊天记录功能。
家长控制功能还将可以自动干预风险对话,当孩子尝试与 ChatGPT 聊敏感话题时,系统会自动向父母发出提醒,让家长能及时采取下一步行动,避免出现“完全不知情”的情况。
同时 OpenAI 正在研发新的对话逻辑,可将敏感话题自动转由 GPT-5-Thinking 或 o3 模型回答,测试显示配上新对话逻辑的两种模型能更稳定地遵循安全原则,也更能抵御对抗性提示词,未来 ChatGPT 将持续完善相关功能,让所有敏感性话题都能被上述两款模型理性回答。
据《纽约时报》上周(IT之家注:8 月 27 日)报道,一对夫妇起诉了 OpenAI ,指控 ChatGPT 在他们儿子自杀过程中起帮助作用,聊天记录显示他们的儿子生前多次与 ChatGPT 聊自杀话题,虽然 GPT 有时会劝他拨打求助电话或向身边的人倾诉,但在一些关键话题上起到了负面作用。
ChatGPT 告诉他们的孩子可以以“写作或设定世界观”为由提供自杀相关技巧,甚至最后给出掩盖颈部伤痕的诀窍,同时还肯定了这名孩子在衣柜里挂绞索的行为。
延伸阅读:
华尔街为OpenAI IPO“摸底”,投资机构不待见?
OpenAI距离上市或许还有至少半年时间,但华尔街的预热工作已悄然展开。多家投资银行正主动接触公开市场投资者,试探市场对...
英伟达计划推出名为“NemoClaw”的开源AI智能体平台
英伟达计划推出名为“NemoClaw”的开源AI智能体平台,旨在帮助企业在工作流程中部署能够自主执行任务的AI代理。Ne...
AI预测权威:我还是低估了AI的速度,今年年底实现“AI研发自动化”真的有可能
人工智能能力的跃升速度,正在让最严谨的预测者也措手不及。知名AI预测研究者Ajeya Cotra近日公开承认,她仅在两个...
砺算科技将于3月12日在AWE2026现场举行显卡产品发售会
IT之家 3 月 10 日消息,砺算科技现已宣布,将于 3 月 12 日 14:30~16:30 在 AWE2026 中...
OpenAI继续补全产业版图:宣布收购网安初创公司Promptfoo,增强AI代理安防
智通财经APP获悉,OpenAI周一宣布收购网络安全初创公司Promptfoo。Promptfoo提供用于保护和测试复杂...
