AI记者 · AI REPORTER

美联社规范生成式人工智能使用禁止直接生成可发布报道

美联社于2023年8月15日发布生成式人工智能使用规范,明确采编人员不得使用ChatGPT等工具直接生产公开发布的内容,并将生成式AI输出一律定义为未经核实的信源素材。

原文截屏:美联社(The Associated Press)(2023-08-15)
原文截屏:美联社(The Associated Press)(2023-08-15) · 原始来源页面;版权归原权利人

核心判断

美联社将生成式AI产出定位为未经核实的原始素材,严禁使用AI篡改视听内容或直接撰写成稿,确立了由采编人员承担全部核实责任的编辑防线。

美联社禁止使用生成式人工智能直接制作发布内容

美联社于2023年8月15日由Nicole Meir发布《生成式人工智能相关标准》(Standards around generative AI),明确采编人员的核心职责——为成员机构与客户采集、评估和组织新闻报道、视频、摄影及音频事实——不会改变,绝不将人工智能视作记者的替代品。

规范披露,美联社虽已与ChatGPT的开发者OpenAI签署许可协议,且员工可在审慎前提下试用ChatGPT,但严禁使用该工具生成可供公开发布的新闻内容。

根据该规范,生成式人工智能工具生成的任何产出,都必须被视为未经核实的信源素材(unvetted source material)。美联社采编人员在考虑将任何此类信息纳入报道前,必须运用自身的编辑判断,并严格执行美联社原有的信源标准。

据本站分析,美联社在协议合作与日常采编之间划定了明确界限,允许技术实验但封死直接成稿通道,旨在防止AI模型幻觉直接渗透进新闻成品中。

视听报道严禁使用人工智能添加或删减任何元素

在多媒体采编方面,美联社依据现有准则强调,不会修改照片、视频或音频中的任何元素,因此严格禁止使用生成式人工智能在音视频及图像中添加或删减任何元素。

美联社规定,将拒绝传播任何涉嫌或已被证实虚假反映现实的人工智能生成图像。仅在AI生成的插画或艺术作品本身构成新闻报道主题的特殊情况下才允许使用,且必须在图片说明中清楚注明其属性。

与此同时,规范明确敦促员工,严禁将机密或敏感信息输入到人工智能工具当中。

据本站分析,美联社针对视听内容设置“零修改”红线,反映出编辑部对视觉纪实真实性受到AI生成技术侵蚀的警惕,通过制度杜绝合成多媒体损害机构公信力。

记者须对外部输入内容进行源头排查与反向检索

美联社在规范中指出,生成式人工智能使得故意通过篡改文字、照片、视频或音频来传播虚假和错误信息变得更加容易,且这类合成内容可能毫无修改痕迹,外观极度逼真。

为防范在工作中无意采纳此类内容,规范要求记者保持一贯的谨慎与怀疑态度,尽力核实外部送达美联社的材料中不含AI生成内容。具体操作包括查明原始内容的源头、使用反向图片搜索验证图像出处,以及核对可信媒体是否发布过类似内容的报道。

美联社向记者提出了最终处置原则:只要对材料的真实性存有任何怀疑,就坚决不能使用。

据本站分析,这一规定要求记者在常规信源核实之外,将AI造假防范常态化纳入收稿流程,把技术造假的甄别防线推到了报道的最前端。

方法提要

美联社员工可在审慎前提下试用ChatGPT,但严禁使用其直接生成可公开发布的新闻报道。

生成式AI的所有输出均按未经核实的信源素材处理,刊发前必须通过记者的编辑判断与信源核查。

多媒体领域严禁使用生成式AI增减音视频或图片元素;AI图像仅在本身是新闻主题且明确标注时方可使用。

严禁将机密或敏感信息输入AI工具;对外部输入素材凡存有真实性疑问的一律不得采纳。

继续阅读