"他们试图像朋友一样了解你，说实话这有点令人不安。"——说这话的，是独立AI安全与安全研究员卡兰·乔希。
据《连线》杂志报道，乔希用的办法朴素得有点好笑：在Meta新助手Muse的普通聊天框里，让它把自己的软件文件复制、分享出来。结果，大量系统提示词与内部运行指令被完整吐出。这几天已经有多名研究者用类似方式提取了Muse的指令。Meta的回应是：这些文件本就打算对外开放，目的是提升透明度。
真正让人后背发凉的，是其中一条核心指令：为"用户生活中的每一个人"单独建立一页档案。
这个流程每小时运行一次，一天24次，不停。档案对象包括家人、伴侣、朋友、同事、"协作伙伴"，以及用户关注的人。页面分成几个板块——事实、过往经历、关系状态、共同交集、待跟进事项、关系维护建议。记录细到什么程度？对方住在哪里、做什么工作、反复出现的话题（搬家事宜、共同储蓄目标）、重要日期（生日、纪念日）、一起经历过的事，连"已经和解的那次争执"都会被记下来。末尾还给出行动建议：打电话的合适理由、值得纪念的日子、对方提过要跟进的话。
Meta的官方说法是：任何智能体想真正帮上忙，都需要掌握关于用户以及交往对象的背景信息，而这些信息来源于公开内容与用户主动分享的数据。技术防护也确实做了几层——每个用户有专属虚拟机、其他智能体无法访问、记忆可随时清除、发邮件和付款前要用户确认，还有审计日志。
但研究者的担忧没那么容易消解。牛津大学AI伦理研究所副教授卡里萨·贝利斯点出关键：我们向AI提供的信息，远多于从它那里获得的信息，其中还包括系统自己的推断——推断正确与否，各有各的麻烦。民主与技术中心AI治理实验室主任米兰达·博根则更直接：这类助手在积极引导用户把全部生活接进去，邮件、日历、金融账户一个不落，"用户交出的信息体量，远超过去人们原本愿意提供的范围"。
有个细节值得留意：这些档案里被记录的朋友和同事，自己看不到、也删不掉。能清除记忆的，只有账号持有人。
你愿意让AI帮你记着朋友的生日和喜好，还是觉得越界了？评论区聊聊。