这款AI聊天机器人让阴谋论者开始质疑自己的信念

大型语言模型试验表明，事实和证据确实可以改变人们的想法。

在COVID-19大流行期间，阴谋论和虚假信息迅速传播。

研究人员已经证明，人工智能（AI）可能是对抗阴谋论的宝贵工具，通过设计一个能够揭穿虚假信息并让人们质疑自己思维的聊天机器人。

在9月12日发表于《科学》杂志的一项研究中，参与者与聊天机器人进行了几分钟的互动，该聊天机器人提供了详细的回应和论点，参与者的思维发生了持续数月的转变。这一结果表明，事实和证据确实可以改变人们的想法。

昆士兰科技大学研究阴谋论和错误信息的Katherine FitzGerald表示：“这篇论文真正挑战了许多关于我们生活在后真相社会的现有文献。”

之前的分析表明，人们之所以被阴谋论吸引，是因为在一个动荡的世界中寻求安全和确定性的愿望。但“我们在本文中发现的结果与这种传统解释相悖”，华盛顿特区美利坚大学的心理研究员、研究合著者Thomas Costello说。“这项研究的一个潜在酷应用是，你可以使用AI在现实生活中揭穿阴谋论。”

有害思想

调查显示，大约50%的美国人相信某种阴谋论——从1969年登月是假的到COVID-19疫苗含有实现大规模监控的微芯片。社交媒体平台的兴起使信息易于分享，加剧了这一问题。

尽管许多阴谋论对社会影响不大，但那些广为流传的阴谋论可以“造成一些真正的伤害”，FitzGerald说。她指出，2021年1月6日对美国国会大厦的攻击——部分是由于声称2020年总统选举被操纵的说法驱动的——以及影响COVID-19疫苗接种率的反疫苗言论为例。

说服人们改变他们的想法是可能的，但这样做既耗时又费力——而且阴谋论的数量和多样性使得这个问题难以大规模解决。但Costello及其同事想要探索大型语言模型（LLMs）——它们可以快速处理大量信息并生成类人响应——来解决阴谋论的潜力。“它们在互联网上受过训练，了解所有的阴谋论和反驳，因此这似乎是一个非常自然的匹配，”Costello说。

信不信由你

研究人员使用OpenAI（位于加利福尼亚州旧金山）创建的最新LLM GPT-4 Turbo设计了一个定制的聊天机器人，该机器人经过训练，能够令人信服地反驳阴谋论。然后，他们招募了1000多名参与者，其人口统计数据与美国人口普查在性别和种族等特征上相匹配。Costello表示，通过招募“有着不同生活经历并带来他们自己视角的人”，团队可以评估聊天机器人揭穿多种阴谋论的能力。

每位参与者都被要求描述一个阴谋论，分享他们认为它为何是真的，并以百分比表达他们对它的信仰强度。这些细节与聊天机器人共享，然后聊天机器人与参与者进行对话，在其中指出削弱或揭穿阴谋的信息和证据，并回答参与者的问题。聊天机器人的回应详尽且详细，通常达到数百字。平均而言，每次对话持续约8分钟。

这种方法被证明是有效的：参与者对自己选择的阴谋论的自我评分信心平均下降了21%。25%的参与者从对他们的想法有信心（得分超过50%）变为不确定。对于对照组来说，变化微不足道，他们在类似长度的时间内与同一个聊天机器人讨论了一个不相关的话题。两个月后的后续调查显示，许多参与者的观点转变持续存在。

尽管研究结果充满希望，但研究人员指出，参与者是有偿调查对象，可能不代表那些深陷阴谋论的人。

有效干预

FitzGerald对AI对抗阴谋论的潜力感到兴奋。“如果我们能有一种方式来干预并阻止线下暴力的发生，那总是一件好事，”她说。她建议后续研究可以探索不同的指标来评估聊天机器人的有效性，或者使用安全性较低的LLM复制该研究，以确保它们不会加强阴谋论思维。

之前的研究提出了AI聊天机器人倾向于“幻觉”出虚假信息的担忧。这项研究确实小心避免了这种可能性——Costello的团队请一位专业的事实核查员评估了聊天机器人提供的信息的准确性，他确认其陈述中没有虚假或政治偏见的内容。

Costello表示，团队计划进行进一步的实验来调查不同的聊天机器人策略，例如测试当聊天机器人的回应不礼貌时会发生什么。他们希望通过找出“说服不再起作用的实验”，更多地了解是什么使这项特定研究如此成功。

转载本文请联系原作者获取授权，同时请注明本文来自孙学军科学网博客。

链接地址：https://wap.sciencenet.cn/blog-41174-1451434.html?mobile=1

收藏

分享