华盛顿 —— Google 开发一种能够生成新闻文章的人工智能工具的工作令一些数字专家感到担忧，他们认为此类设备可能无意中传播宣传内容或威胁消息来源的安全性。
《纽约时报》上周报道称，Google 正在测试一款名为 Genesis 的新产品，该产品利用人工智能生成新闻文章。据《时报》报道，Genesis 可以接收有关当前事件的详细信息并生成新闻内容。Google 已经向《纽约时报》和其他机构（包括《华盛顿邮报》和拥有《华尔街日报》的新闻集团）推销了该产品。
去年秋季生成式 AI 聊天机器人 ChatGPT 的发布引发了关于人工智能如何以及是否应该融入世界的辩论——包括新闻行业。人工智能工具可以帮助记者通过快速分析数据并从 PDF 文件中提取信息（称为抓取）来完成研究工作。人工智能还可以帮助记者核实消息来源。
但担忧——包括可能传播宣传或忽视人类在报道中带来的细微差别——似乎更加严重。这些担忧不仅限于 Google 的 Genesis 工具，还涵盖了新闻收集领域更广泛的人工智能应用。根据多伦多公民实验室研究虚假信息的专家约翰·斯科特-莱尔顿的说法，如果未经仔细核查就发布人工智能生成的文章，它们可能无意中包含虚假信息或错误信息。
“人工智能可以自由抓取和获取信息的地方——非付费内容——往往是虚假信息和宣传的目标，这一点令人遗憾，”斯科特-莱尔顿告诉美国之音。“让人脱离循环并不会让发现虚假信息变得更容易。”纽约大学斯特恩商学院商业与人权中心副主任保罗·M·巴雷特同意人工智能可以加速虚假信息的传播。他告诉美国之音：“制造神话和虚假信息将变得更容易。我认为误导性内容的供应量将会增加。”
Google 一名发言人通过电子邮件向美国之音发表声明称：“我们正与新闻出版商合作，尤其是在规模较小的出版商中，目前仍处于探索阶段，旨在开发能够为记者的工作提供支持的人工智能工具。”该发言人表示：“我们的目标是让记者能够选择使用这些新兴技术，以提升他们的工作效率和生产力。简而言之，这些工具并不旨在，也绝不能取代记者在报道、撰写和核实文章中扮演的核心角色。”
人工智能在新闻机构中使用对新闻机构可信度的影响是另一个重要的考虑因素。新闻机构目前正面临可信度危机。盖洛普与凯特基金会今年2月的一份报告显示，半数美国人认为全国性新闻机构试图通过报道误导或误导受众。
“我感到困惑的是，有人认为这个问题的解决方案是引入可信度低得多的工具——对事实的掌握也脆弱得多——进入新闻编辑室，”曾在 Google Ideas 担任研究员的斯科特-莱尔顿表示。报告显示，AI 聊天机器人经常产生完全错误或虚构的回应。人工智能研究人员将此称为“幻觉”。
数字专家对使用人工智能工具生成新闻文章可能带来的安全风险也持谨慎态度。例如，匿名消息来源可能面临身份泄露后的报复风险。巴雷特表示：“所有使用人工智能系统的用户都需要高度关注他们向系统提供的信息。”他说：“记者需要谨慎，警惕向这些人工智能系统披露信息，例如机密消息来源的身份，或者我所说的即使是记者希望确保不会公开的信息。”
斯科特-莱尔顿表示，他认为人工智能在大多数行业都有未来，但重要的是不要急于求成，尤其是在新闻领域。他说：“让我感到害怕的是，这些教训将付出得之不易的声誉的代价，将付出事实准确性在真正重要的时刻被破坏的代价。”
本文来自作者[ybkkj号]投稿，不代表ybkkj号 - 深度新闻解读、社会动态、热门事件追踪立场，如若转载，请注明出处：https://ybkkj.com.cn/ybfx/202509-621.html
评论列表（4条）
我是ybkkj号 - 深度新闻解读、社会动态、热门事件追踪的签约作者“ybkkj号”！
希望本篇文章《AI生成新闻引发数字专家担忧》能对你有所帮助！
本站[ybkkj号 - 深度新闻解读、社会动态、热门事件追踪]内容主要涵盖：ybkkj号,生活百科,小常识,生活小窍门,百科大全,经验网
本文概览：华盛顿——Google开发一种能够生成新闻文章的人工智能工具的工作令一些数字专家感到担忧，他们认为此类设备可能无意中传播宣传内容或...