AI记者 · AI REPORTER

一条不存在的枪击案,NewsBreak怎样让当地警察出面澄清

Reuters 调查发现,NewsBreak 曾发布一则关于新泽西州 Bridgeton 枪击案的AI生成文章,但当地警方称事件并未发生。Reuters 基于文件、停止函、内部备忘录和前员工访谈,记录了自2021年以来至少40起与该公司AI工具相关的错误或误导性故事。

正文

Bridgeton 警方在2023年12月27日公开称,NewsBreak 所述圣诞节枪击案“完全不实”;NewsBreak 称12月28日已删除文章。

Reuters 依据诉讼文件、停止函、2022年公司备忘录和前员工访谈,记录了至少40起与 NewsBreak AI 工具相关的错误或误导性故事。

Food to Power 和 Harvest912 分别称,错误的AI文章导致有人按错误时间到场领取食物,或寻找不存在的足部诊所。

NewsBreak 表示已删除涉及两家公益机构的五篇文章,并称部分错误来自内容源;其网站后来加入内容未必始终无误的提醒。

枪击案没有发生,警察先出来澄清

Reuters在2024年6月报道,NewsBreak 曾发布一篇题为“Christmas Day Tragedy Strikes Bridgeton, New Jersey Amid Rising Gun Violence in Small Towns”的文章,称新泽西州 Bridgeton 发生了枪击案。

Bridgeton 警方在2023年12月27日的公开声明中说,所述地点及相关时间前后没有发生类似事件,并称这篇由AI技术制作的文章“完全不实”。NewsBreak 对 Reuters 说,已在12月28日删除该文。

NewsBreak 还称,不准确信息来自内容源;当发现内容不准确或违反社区标准时,会采取行动删除。

Reuters怎样统计到至少40起问题故事

Reuters 的结论不是根据单一枪击案得出。报道审阅了此前未公开的版权诉讼文件、停止函和一份2022年公司备忘录,并采访七名前 NewsBreak 员工。

Reuters 据此记录,自2021年以来,NewsBreak 的AI工具至少在40起情形中造成错误或误导性故事;其中还包括10篇以虚构署名发表、改写地方新闻站内容的文章。

NewsBreak 对 Reuters 表示,备忘录所涉内容是三个美国县的有限实验,产生10篇文章后已经解散;公司否认绕过付费墙,并称使用的是公开可见的文章片段。

错误信息落到两家公益机构的服务时间上

科罗拉多州 Food to Power 告诉 Reuters,NewsBreak 三次写错其食物发放时间,导致有人按错误时间到场,机构不得不拒绝来访者。宾夕法尼亚州 Harvest912 则就两篇文章发出停止函,因为文章称该机构会开设并不存在的24小时无家可归者足部诊所。

NewsBreak 说,在获悉错误后已移除涉及两家机构的五篇文章,并认为其中一些信息来自机构网页上的错误内容。Reuters 还记录,NewsBreak 后来在主页加上提示,称其内容未必始终无误。

Reuters 在报道中同时列出了两家机构的说法与 NewsBreak 的回应。

继续阅读