OpenAI下月将为ChatGPT添加家长控制功能,可自动干预风险对话
IT之家 9 月 3 日消息,OpenAI 昨天发布新闻稿,宣布将在下月为 ChatGPT 助手添加家长控制功能,可自动监测孩子的敏感性提问并让家长及时获悉相关状态。
OpenAI 表示,他们正与专精进食障碍、药物使用障碍和青少年健康的专家合作打造这项功能,功能上线后家长可使用邮件将自己的 ChatGPT 账号与孩子的账号关联,可决定 ChatGPT 如何回复他们孩子的问题,并可禁用记忆、聊天记录功能。
家长控制功能还将可以自动干预风险对话,当孩子尝试与 ChatGPT 聊敏感话题时,系统会自动向父母发出提醒,让家长能及时采取下一步行动,避免出现“完全不知情”的情况。
同时 OpenAI 正在研发新的对话逻辑,可将敏感话题自动转由 GPT-5-Thinking 或 o3 模型回答,测试显示配上新对话逻辑的两种模型能更稳定地遵循安全原则,也更能抵御对抗性提示词,未来 ChatGPT 将持续完善相关功能,让所有敏感性话题都能被上述两款模型理性回答。
据《纽约时报》上周(IT之家注:8 月 27 日)报道,一对夫妇起诉了 OpenAI ,指控 ChatGPT 在他们儿子自杀过程中起帮助作用,聊天记录显示他们的儿子生前多次与 ChatGPT 聊自杀话题,虽然 GPT 有时会劝他拨打求助电话或向身边的人倾诉,但在一些关键话题上起到了负面作用。
ChatGPT 告诉他们的孩子可以以“写作或设定世界观”为由提供自杀相关技巧,甚至最后给出掩盖颈部伤痕的诀窍,同时还肯定了这名孩子在衣柜里挂绞索的行为。
延伸阅读:
维基的转身:当开放知识遇上AI付费时代
来源:环球网【环球网科技综合报道】在成立25周年之际,维基媒体基金会于1月15日官宣合作,与亚马逊、元宇宙平台公司、微软...
iPhone 17e曝光:灵动岛加持却暗藏取舍,平价旗舰的平衡术
来源:环球网【环球网科技综合报道】1月16日消息,外媒MacRumors日前披露了iPhone 17e的核心配置信息,这...
iPhone 18 Pro前瞻:技术革新引领智能手机新纪元
来源:环球网【环球网科技综合报道】距发布尚有8个月,iPhone 18 Pro系列已凭多项重磅升级传闻引发热议。1月16...
中国天眼揭开宇宙谜团:快速射电暴起源迎来突破性发现
这是来自遥远宇宙的问候——2007年,人类首次发现快速射电暴。那时起,一个谜题始终待解:这个宇宙中最神秘的射电爆发现象之...
宇宙深处的电波密语:“中国天眼”破译快速射电暴起源之谜
这是1月16日拍摄的“中国天眼”(无人机照片,维护保养期间拍摄)。新华社记者 欧东衢 摄 新华社贵阳1月16日电(记者...
