我们花了十年时间构建能够生成具有说服力文本的机器，却几乎未花任何时间去构建能够审计这些文本的机器。这种不对称性开始带来负面影响。虚假新闻比真相传播得“更远、更快、更深、更广”——沃苏吉（Vosoughi）、罗伊（Roy）和阿拉尔（Aral）在推特（Twitter）上对大约 126,000 条故事进行了大规模研究，证明了这一点，并且这种效应是由人类而非机器人驱动的 [1]。如果操纵的需求方是人类心理学，那么供给方现在已被语言模型工业化。帮助读者清晰思考的工具至少必须与帮助作者进行说服的工具一样复杂。
本文旨在探讨如何构建这种审计工具：一种法证媒体分析器，它像实验室处理组织样本那样处理一篇文章——测量结构上存在的内容，而不是就其是否感觉带有偏见进行投票。我将介绍其所依托的科学原理、使其真正难以实现的工程问题（其中大型语言模型的非确定性是首要问题）、一份实用的构建指南，以及对其局限性的诚实说明。某些设计决策源于我们在 Rhetoric Audit（一款基于浏览器的法证媒体评估器）上所做的工作；大多数理念比我们任何人都古老，属于修辞学、论证理论和认知科学的范畴。
“偏见检测器”的问题
大多数偏见工具回答的是错误的问题。它们将某个媒体机构或文章放置在单一的左翼–右翼谱系上，便就此作罢。该轴虽然在政治上易于理解，但在分析上却空洞无物。它将十几种独立的现象——情感负载、来源质量、逻辑结构、遗漏、框架设定——扁平化为一个数字，而这个数字几乎无法告诉你一篇文章是如何对读者产生影响的。
更糟糕的是，左翼–右翼的标签诱使读者去做法医分析本应防止的一件事：基于部落立场表示同意或反对。沃德尔（Wardle）和德拉赫尚（Derakhshan）在他们具有影响力的欧洲委员会关于“信息混乱”的报告中主张将错误信息（虚假，无伤害意图）、虚假信息（虚假，故意）和恶意信息（真实，被武器化）区分开来，正是因为将它们混为一谈会破坏我们做出适当反应的能力 [2]。单一谱系无法容纳这些区别。它也无法区分一篇事实严谨的意见专栏与一篇事实鲁莽但恰好共享其政治立场的专栏。
重构框架的说法简单，实施却困难：对结构而非立场进行评分。两篇文章可能得出相反的结论，但在修辞上完全相同；两篇文章可能得出相同的结论，但操纵程度截然不同。法证分析器应该能够指出“这篇文章严重依赖恐惧诉求，省略了最有力的反驳论点，并包含三次稻草人谬误”，而无需告诉你它是否正确。
底层的科学原理
其知识架构出人意料地古老。
修辞学。亚里士多德的《修辞学》为我们提供了三种说服模式—— ethos（信誉/人格诉求）、pathos（情感/情感诉求）和 logos（逻辑/理性诉求）——它们仍然是对文本如何试图打动读者的极佳分解 [3]。法证系统可以对每一段文字中这三种诉求的混合情况进行评分，并立即突出那些在应当依赖证据的地方却依赖情感的段落。
框架设定。罗伯特·恩特曼（Robert Entman）的经典定义仍然主导着该领域：框架设定是“选择感知现实的某些方面并使它们更加显著”，以促进特定的解读 [4]。框架设定往往是不可见的，因为它通过遗漏来运作——即文章拒绝提及的内容。因此，检测“战略性沉默”并非锦上添花，而是核心所在。最难捕捉的操纵手段
免责声明：本文内容来自互联网，该文观点不代表本站观点。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，请到页面底部单击反馈，一经查实，本站将立刻删除。
