编者按：在信息爆炸的时代，AI大语言模型已悄然成为我们获取新闻、形成观点的主要入口。然而，当meta等科技巨头逐步放弃专业事实核查，将内容审核权交还给算法与利润驱动的平台时，一场关于信息可信度与公共认知的隐形危机正在蔓延。本文揭示了一个常被忽视的核心问题：大语言模型不仅传递信息，更通过选择性强调、框架构建与视角倾斜，潜移默化地塑造公众认知。这种“沟通偏见”无关事实真假，却可能扭曲公共讨论的平衡。当少数企业垄断模型市场，技术的“中立性”神话被打破，我们该如何应对？本文从技术、监管与社会参与等多维度展开探讨，呼吁在算法主导的时代，重新思考信息公平与认知自主的边界。
meta决定终止其专业事实核查项目，在科技和媒体界引发了一波批评浪潮。批评者警告，放弃专家监督可能会侵蚀数字信息领域的可信度和可靠性，尤其是在利润驱动的平台大多靠自我监管的情况下。
然而，这场争论很大程度上忽略了一点：如今，在传统内容审核机制介入之前，AI大语言模型正越来越多地被用于撰写新闻摘要、标题和吸引你注意力的内容。问题不在于因缺乏内容审核而导致明显的错误信息或有害内容未被标记。讨论中缺失的是，那些表面上准确的信息是如何被选择、构建和强调，从而塑造公众认知的。
大语言模型通过聊天机器人和虚拟助手随时间推移向人们呈现其生成的信息，逐渐影响着人们形成观点的方式。这些模型现在也被内置到新闻网站、社交媒体平台和搜索服务中，使其成为获取信息的主要门户。
研究表明，大语言模型所做的不仅仅是简单地传递信息。它们的回应可以微妙地突出某些观点，同时淡化其他观点，而用户往往意识不到这一点。
沟通偏见
我的同事——计算机科学家Stefan Schmid和我——一位科技法律与政策学者，在即将被《ACM通讯》期刊接受的一篇论文中表明，大语言模型表现出沟通偏见。我们发现，它们可能倾向于强调特定的观点，同时忽略或贬低其他观点。无论所呈现的信息是真是假，这种偏见都可能影响用户的思考或感受。
过去几年的实证研究已经产生了基准数据集，将模型输出与选举前后的政党立场相关联。它们揭示了当前大语言模型处理公共内容方式的差异。根据提示大语言模型时所使用的角色或语境，当前的模型会微妙地倾向于特定的立场——即使事实准确性保持不变。
这些转变指向一种新兴的、基于角色的可引导性——即模型倾向于使其语气和侧重点与用户感知的期望保持一致。例如，当一位用户自称是环保活动家，而另一位自称是企业主时，模型可能会通过为每个人强调不同（但事实准确）的关注点，来回答关于一项新气候法的同一个问题。例如，批评意见可能是：该法律在促进环境效益方面做得还不够，以及该法律施加了监管负担和合规成本。
这种迎合很容易被误读为奉承。这种现象被称为谄媚：模型有效地告诉用户他们想听的话。但是，虽然谄媚是用户与模型互动的一个症状，沟通偏见则更为根深蒂固。它反映了谁设计和构建这些系统、他们从哪些数据集中提取数据、以及哪些激励措施推动他们改进方面的差异。当少数开发者主导大语言模型市场，并且他们的系统始终更偏向某些观点时，模型行为上的微小差异可能会扩大为公共沟通中的显著扭曲。
监管能做什么，不能做什么
现代社会越来越依赖大语言模型作为人与信息之间的主要接口。世界各国政府已出台政策以解决对AI偏见的担忧。例如，欧盟的《人工智能法案》和《数字服务法案》试图强制要求透明度和问责制。但两者都并非旨在解决AI输出中沟通偏见这一微妙问题。
AI监管的支持者经常将“中立AI”作为一个目标，但真正的中立往往无法实现。AI系统反映了其数据、训练和设计中嵌入的偏见，而试图监管这种偏见往往最终只是用一种偏见换取另一种偏见。
沟通偏见不仅仅是关于准确性——它关乎内容生成和框架构建。想象一下，向一个AI系统询问一个有争议的立法问题。模型的答案不仅由事实塑造，还由这些事实的呈现方式、强调哪些信息来源以及它所采用的语气和观点所塑造。
这意味着偏见问题的根源不仅在于解决有偏见的训练数据或扭曲的输出，更在于首先塑造技术设计的市场结构。当只有少数大语言模型能够访问信息时，沟通偏见的风险就会增加。因此，除了监管之外，有效的偏见缓解还需要保障竞争、用户驱动的问责制，以及对构建和提供大语言模型的不同方式保持监管开放性。
迄今为止，大多数法规旨在禁止技术部署后的有害输出，或强制公司在发布前进行审计。我们的分析表明，虽然发布前检查和部署后监督可能会发现最明显的错误，但在解决通过用户互动出现的微妙沟通偏见方面，效果可能较差。
超越AI监管
人们很容易期望监管能够消除AI系统中的所有偏见。在某些情况下，这些政策可能有所帮助，但它们往往无法解决一个更深层次的问题：决定哪些技术向公众传递信息的激励机制。
我们的研究结果阐明，一个更持久的解决方案在于促进竞争、透明度和有意义的用户参与，使消费者能够在公司设计、测试和部署大语言模型的过程中发挥积极作用。
这些政策之所以重要，原因在于，最终，AI不仅将影响我们寻求的信息和我们阅读的日常新闻，还将在塑造我们未来所设想的社会形态方面发挥关键作用。
Adrian Kuenzler 是丹佛大学及香港大学的驻校学者。
本文由路知网原创发布，未经许可，不得转载！
本文链接：https://m.yrowe.com/nw/79164.html
