怀俄明州的一名记者被发现使用人工智能制造虚假的引用和故事

蒙大拿州海伦娜。(美联社)——《鲍威尔论坛报》记者CJ Baker首先听到的是怀俄明州州长和当地检察官的一段话。然后，故事中的一些短语让他觉得近乎机器人。

不过，6月26日一篇关于喜剧演员Larry The Cable Guy被选为科迪踩踏游行(Cody Stampede Parade)的大元帅的文章透露出，一家竞争新闻媒体的记者正在使用生成式人工智能来帮助撰写报道。

报道称:“2024年科迪踩踏游行将是一场难忘的美国独立庆典，由喜剧界最受欢迎的人物之一领导。”“这种结构确保了最关键的信息首先出现，使读者更容易快速掌握要点。”

在做了一些调查之后，已经当了15年记者的贝克见到了40岁的亚伦·佩尔查尔。佩尔查尔是新闻行业的新手。贝克说，佩尔查尔承认，在他从《企业报》辞职之前，他在他的报道中使用了人工智能。

《企业报》于1899年由布法罗·比尔·科迪(Buffalo Bill Cody)共同创立，该杂志的出版商和编辑已经道歉，并发誓要采取措施确保此类事件不再发生。《企业》杂志编辑克里斯·贝肯在周一发表的一篇文章中表示，他“未能发现”人工智能复制和虚假引用。

错误的引用显然是一个匆忙的新手记者信任人工智能的错误，但这并不重要。这是我的工作，”培根写道。他道歉说，“人工智能被允许把从未说过的话放进故事里。”

早在人工智能出现之前，人们就已经在故事中发现了事实。但这一最新丑闻说明了人工智能对包括新闻业在内的许多行业构成的威胁，因为聊天机器人只需要几个提示，就能吐出一些看似可信的虚假文章。

人工智能已经在新闻业发挥了作用，包括某些任务的自动化。包括美联社(The Associated Press)在内的一些新闻编辑室使用人工智能来解放记者，让他们从事更有影响力的工作，但大多数美联社员工不被允许使用生成式人工智能来创作可发表的内容。

自2014年以来，美联社一直在使用技术来协助撰写有关财务收益报告的文章，最近还使用了一些体育报道。它还在试验一种人工智能工具，将一些故事从英语翻译成西班牙语。在每一个这样的故事的结尾都有一个注释，解释了技术在其生产中的作用。

事实证明，坦率地说明如何以及何时使用人工智能非常重要。去年，他发布了由人工智能生成的在线产品评论，这些评论被认为是由实际上不存在的记者撰写的。事件曝光后，SI表示将解雇为其网站制作文章的公司，但这一事件损害了这家曾经强大的出版物的声誉。

在《鲍威尔论坛报》(Powell Tribune)的一篇报道中，贝克披露了佩尔查尔在文章中使用人工智能的消息，他写道，他与佩尔查尔和培根进行了一次不舒服但亲切的会面。在会议期间，佩尔查尔说，“很明显，我从来没有故意试图错误引用任何人的话”，并承诺“纠正错误，并发表道歉，说他们是错误的陈述，”贝克写道，并指出佩尔查尔坚持认为他的错误不应该反映在科迪企业的编辑身上。

会议结束后，《企业报》对佩尔查尔在那里工作的两个月里为该报写的所有文章进行了全面审查。Bacon周二表示，他们发现了七个故事，其中包括人工智能生成的六个人的语录。他还在审阅其他的故事。

“它们是非常可信的引语，”培根说。他指出，在评论佩尔查尔的文章时，与他交谈的人说，这些引语听起来像是他们会说的话，但他们从未真正与佩尔查尔交谈过。

贝克报告说，有七个人告诉他，他们在佩尔查尔写的故事中被引用过，但没有和他说过话。

Pelczar没有回应美联社留下的电话号码，要求讨论发生的事情。培根说，Pelczar拒绝与另一家与之联系的怀俄明州报纸讨论此事。

贝克经常阅读《企业报》，因为它是《企业报》的竞争对手。他告诉美联社，佩尔查尔的报道中出现的短语和引用引起了他的怀疑。

佩尔查尔关于黄石国家公园枪击案的报道中有这样一句话:“这一事件鲜明地提醒我们，即使在最宁静的环境中，人类行为的不可预测性也是不可预测的。”

贝克说，这句话听起来像是某个聊天机器人对他的故事的总结，因为它在最后附加了某种“人生教训”。

贝克说，另一个关于偷猎判决的故事引用了一位野生动物官员和一位检察官的话，听起来像是来自新闻稿。然而，他说，没有新闻发布，相关机构也不知道这些引文来自哪里。

其中两个被质疑的故事包括怀俄明州州长马克·戈登(Mark Gordon)的话，他的工作人员是在贝克打电话给他们时才知道的。

“有一次，(佩尔查尔)写了一篇关于OSHA新规定的报道，其中引用了州长的话，这完全是捏造的，”州长的发言人迈克尔·珀尔曼(Michael Pearlman)在一封电子邮件中说。“在第二起案件中，他似乎编造了一段引文的一部分，然后将其与一份宣布我们怀俄明州狩猎和鱼类部门新主任的新闻稿中的一部分引文结合在一起。”

最明显的人工智能复制出现在关于有线电视工作人员拉里的故事中，该故事以倒金字塔的解释结束，这是撰写突发新闻故事的基本方法。

创造AI故事并不难。杰出的新闻智库波因特研究所(Poynter Institute)数字媒体素养项目主管亚历克斯·马哈德万(Alex Mahadevan)表示，用户可以将一份刑事宣誓书放入人工智能程序中，并要求它写一篇关于此案的文章，包括引用当地官员的话。

马哈德万说:“这些生成式人工智能聊天机器人被编程为给你一个答案，不管这个答案是否完全是垃圾。

《科迪企业》(Cody Enterprise)的出版商梅根·巴顿(Megan Barton)写了一篇社论，称人工智能是“一种新的、先进的抄袭形式，在媒体和写作领域，抄袭是每个媒体都必须在某种程度上纠正的问题。”这是工作中最丑陋的部分。但是，愿意纠正这些错误的公司是有信誉的公司。”

巴顿写道，《纽约时报》已经吸取了教训，建立了一个系统来识别人工智能生成的故事，并将“就人工智能生成的故事为何不可接受展开更长时间的讨论”。

《企业号》没有人工智能政策，部分原因是记者显然不应该用它来写故事，培根说。波因特有一个新闻媒体可以据此制定自己的人工智能政策。

培根计划在本周末之前将其安装到位。

“这将是一个就业前的讨论话题，”他说。