佛州一男子向 ChatGPT 描述「杀害前女友」计划，OpenAI 报案了

8 月 17 日，据《今日美国》报道，OpenAI 向 FBI 举报了一名 25 岁的佛罗里达州男子达伦 · 周，原因是他曾向 ChatGPT 详细描述强奸并杀害前女友的计划。
法庭记录显示，达伦 · 周曾对 ChatGPT 称：「我会在这个月底之前杀了她。如果我得不到她，那谁也别想得到她。」
按照 OpenAI 的政策，如果系统发现用户可能计划伤害他人，一个小组就可以审查该用户与 ChatGPT 的互动。情况严重时，OpenAI 可能直接向执法部门提供线索。
调查人员称，达伦 · 周的信息很快从讨论分手转变为强奸、谋杀以及杀人后自杀的威胁。
警方掌握达伦 · 周发给 AI 和前女友的信息后，于今年 5 月将其逮捕。助理州检察官安娜 · 库斯科娃今年 6 月以加重跟踪骚扰、书面死亡威胁和非法使用手机三项重罪起诉达伦 · 周，最高刑期可达 25 年。
经过协商，达伦 · 周于当地时间 8 月 13 日对三项指控全部认罪，换取无需入狱且不留下重罪定罪记录的协议。按照协议，法院暂缓作出有罪裁定，达伦 · 周被判 8 年缓刑，期间必须遵守多项限制。