跳到正文
原文
IT之家·· 20 小时前AI 评分40

佛州女子把 Claude 当日记本写下枪击威胁,Anthropic 人工审核后报警致其被捕

美国佛州一女子把 AI 当“日记本”用,Claude 识别到枪击威胁后上报给 Anthropic 人工审核并报警

AI 导读

美国佛罗里达州李县一名 30 岁女子因在与 Claude 的对话中写下针对当地警长办公室的枪击威胁被捕,相关内容触发 Anthropic 安全风控机制,经人工审核后上报执法部门。该女子称把 AI 当"日记"使用,目前面临一项书面暴力威胁指控,尚未被法院定罪。Anthropic 政策显示,公司通常在收到有效法律程序后才披露用户信息,但存在紧急披露例外。

来源:IT之家 · ithome.com