每日10万未成年人遭骚扰?扎克伯格被曝曾反对AI聊天机器人家长控制功能
来源:环球网
【环球网科技综合报道】1月28日,据瘾科技报道,美国新墨西哥州总检察长办公室披露的内部文件显示,Meta首席执行官马克·扎克伯格虽反对聊天机器人与未成年人进行“露骨”对话,却拒绝为该功能添加家长管控机制。这一消息加剧了外界对该公司未成年人用户保护措施的质疑。
路透社援引Meta两名匿名员工的对话称,员工曾“强烈推动添加家长控制功能以关闭生成式AI”,但生成式AI部门管理层予以驳回,并称这是“马克的决定”。对此,Meta回应称,新墨西哥州总检察长“刻意筛选文件,描绘出有缺陷且不准确的图景”。目前,该州正起诉Meta,指控其未能阻止有害色情内容及性暗示向未成年人传播,案件将于2月开庭审理。
外媒报道称,Meta的AI聊天机器人虽上线时间不长,却多次出现争议行为。2025年4月《华尔街日报》调查发现,其可与未成年人进行虚拟性对话,还能被诱导模仿未成年人参与性话题。报道称扎克伯格曾希望放宽聊天机器人的防护措施,Meta发言人则否认忽视未成年人保护。同年8月曝光的内部审查文件显示,其对聊天机器人允许行为的界定模糊,甚至准许传播种族主义观点,Meta称相关内容为假设场景已删除,但未能平息质疑。
直至上周,Meta才暂停青少年账号对AI聊天机器人的访问权限,称将在开发家长控制功能期间暂时关闭服务,而该功能正是扎克伯格此前拒绝的。Meta表示,家长此前可查看青少年在Instagram与AI的聊天记录,后续将推出更多管控工具。
据悉,新墨西哥州早在2023年12月就起诉Meta,指控其平台未能保护未成年人免受成人骚扰,内部文件显示Meta平台每日有10万名未成年用户遭遇骚扰,此次扎克伯格反对管控的消息,让这场未成年人保护之争再度升级。(旺旺)
延伸阅读:
昨晚,谷歌悄悄发了“新模型”,为多模态智能应用铺平了道路
文 | 霞光AI实验室,作者|渡川就在昨晚,谷歌发了首个原生多模态嵌入模型Gemini Embedding 2。跟以往的...
OpenClaw刚装上,Token焦虑就来了?
文 | 霞光AI实验室,作者|刘宇最近,全球AI圈都在被一个词震撼——OpenClaw(龙虾)。OpenClaw有多热?...
“偷数据”“删文件”“泄隐私”……一文看清“龙虾”热潮背后的隐患
当前,以龙虾为图标的开源AI智能体OpenClaw(俗称“龙虾”)火得一塌糊涂。据称,它拥有整合大模型的能力,可以接管鼠...
