精选
AI造成文化与认知同质化，会导致世界平庸化吗？
平庸新世界：AI正在让所有人想法趋同吗？
研究人员担忧，生成式AI正在造成文化与认知的同质化。
>配图说明：概念插画，三个人物处在同一个巨大的对话气泡之下，象征生成式AI如何将思想、表达方式与文化视角标准化。
插画作者：帕韦乌·约恩察
齐瓦尔·苏拉蒂翻阅计算机科学领域最新文献时，常常有种似曾相识的错觉。“读论文的时候我就会想：‘这篇我好像之前见过’。”南加利福尼亚大学洛杉矶分校的博士生苏拉蒂说道。他表示，很多内容看上去大同小异，失去了个体独有的特质。
苏拉蒂怀疑，罪魁祸首就是人工智能。他提出，人们越来越依赖大语言模型（LLM）写作，导致文本的相似度不断升高。
如今，苏拉蒂与其他研究者正在检验上述经验观察，探究生成式AI（可生成文本、图像及其他输出内容的系统）如何造成文化与认知的同质化。在3月发表的一篇论文中，他与合著者指出，该现象与社会学概念“麦当劳化”类似——快餐行业追求效率、可预测性等特征向外渗透，深刻影响社会，带来愈发显著的同质化现象。
研究者表示，生成式AI不同于以往那些仅传播信息的技术，它会主动塑造信息。多项研究表明，AI工具会抹平语言表达、创造力与文化价值观的多样性；还有证据显示，这项技术甚至能够左右我们的决策、行为模式与所持观点。
那么这个问题到底有多严重？又该如何应对？尽管AI带来的同质化尚未颠覆整个社会，或许永远也不会走到那一步，但苏拉ati设想了一种长期最坏局面：人类整体适应能力逐步下降。“这点真的让我感到担忧。”
思维劫持
北卡罗来纳州达勒姆市杜克大学计算机科学家埃米莉·温杰认为，同质化风险属于关乎人类生存的重大问题。“如果我们全都依靠AI来写邮件、处理各类事务，人类这个物种最终会变成什么样子？”
她警示，我们有可能陷入群体思维。“当社会压制、忽视边缘群体的声音，整个社会就会蒙受损失。”
温杰研究过AI模型带来的创作同质化问题。她与一名同事选取22个大语言模型、102名受试者完成三项创造性任务，其中一项发散思维任务要求模型和受试者说出日常物品的其他用途。研究发现：大语言模型产出的想法，在语义上相比人类更有新意；但不同大语言模型给出的回答，彼此之间的相似度，要高于人类答案之间的相似度。
另有研究者分析人类和5个大语言模型创作的短篇小说，解析情节、人物、场景等叙事要素。结果显示：AI生成的故事在叙事特征上高度聚集，而人类创作的故事分布更加多元分散。
借助AI工具工作，同样会削弱人类自身创造力。2024年一项研究中，受试者需要根据指定主题写八句话的短篇故事；一部分人可以先向大语言模型寻求灵感。评估者认为，使用AI生成的故事更新颖、可读性更强（顶尖水平创作者除外），但不同故事之间的相似度也随之升高。
2025年一项头脑风暴任务研究发现：借助ChatGPT之后，按照人类评判标准，参与者产出想法的创造力有所提升，但想法的多样性却下降。近期多项整合原始研究的元分析也印证了上述现象。4月发表的一篇元分析指出，AI的同质化效应在构思创意环节表现最强，复杂、约束条件多的任务尤为明显。
实验室之外同样能观察到类似效应。一项研究分析Web of Science数据库超过40万篇科技论文，发现在2022年末ChatGPT发布之后，单作者产出论文数量上升，但文章内容与语言风格的相似度也同步增加。
其他研究聚焦语言使用本身。苏拉蒂及其团队分析地方新闻、arXiv预印本、红迪网社交媒体帖子发现：ChatGPT上线之后，文本写作风格的语言学指标显示多样性出现下降。研究人员复现该现象：用大语言模型给人类写的文稿做语法修正，很多能够体现人格、价值观、人群特征的语言标记就此消失。
生成式AI还会弱化文化差异。一项实验让印度、美国受试者描述自己喜爱的传统仪式、英雄人物、文化符号，撰写能够体现自身价值观的邮件。其中一半受试者使用AI自动补全工具，输入停顿后工具最多给出9个候选词。使用该工具后，印度受试者内部、美国受试者内部，以及印美两组之间写作相似度上升；印度受试者的遣词造句变得更偏向美式表达。描写印度排灯节等本土文化的丰富细节变少，文本描述变得泛化、千篇一律。
>配图说明：一名男子坐在麦当劳餐厅内用吸管喝饮品；前景是巨大明亮的麦当劳黄色M标志；背景木墙上贴有带二维码的蓝色宣传海报。
>“麦当劳化”——社会走向同质化，这一概念同样适用于人工智能的使用场景。AI模型输出内容还会影响阅读者的想法。2024年美国总统大选前的一项研究发现，大语言模型对民主党初始候选人拜登存在偏向，相比共和党候选人特朗普；受试者和模型探讨政治话题后，特朗普支持者对他的好感度出现下降。
无论是内容创作者，还是阅读AI产出内容的受众，其认知都可能被大语言模型输出所干扰。参与自动补全工具相关研究的纽约康奈尔科技研究中心信息科学家莫尔·纳曼提出，生成式AI带来了文化与认知层面的文化霸权。他表示，自动补全功能会造成“思维劫持”，改变用户原本的想法。在他参与的一项实验中：受试者借助大语言模型写社交媒体相关文本，而模型被后台设定，分别刻意论证社交媒体是有益/有害。结果大语言模型不仅改变用户写下的文字，还改变受试者写完之后问卷调查中的态度。后续追踪实验显示：即便提前告知受试者模型存在偏见，几周之后再做调查，受试者对于死刑等议题的观点，依旧会向模型预设的立场偏移。
另一项研究，一半受试者连续五天使用ChatGPT辅助完成创造性任务，另一半不使用。两个月之后，所有人都不再能使用AI完成测试任务；但之前用过AI的受试者，给出答案彼此相似度依旧更高。研究者将该现象命名为“创造性伤疤”。
苏拉蒂引用乔治·奥威尔1949年反乌托邦小说《一九八四》来描述AI对认知带来的影响：“说话的方式会塑造你的推理方式。”换言之，如果AI让所有人的表达方式趋同，人们的思考逻辑也可能随之趋同。
取“平均值”的陷阱
专家表示，AI输出同质化、继而造成使用者思想趋同，分别源于技术层面与心理层面两方面原因。
生成模型输出结果缺少多样性，该现象叫做模式崩溃（mode collapse），成因包括三点：第一，模型训练数据集本身多样性有限；第二，模型奖励预测高概率常见模式，而非发散的创意想法；第三，模型经过微调优化，目的是取悦人类标注者，而标注者通常并不优先看重回答的新颖度。
还有另一个概念：模型坍塌（model collapse），不同文献定义略有差别，广义指：当模型使用其他AI（或是自身）生成的数据继续训练——如今互联网充斥AI生成内容，这种情况会越来越普遍；经过多代迭代，模型输出质量下滑，多样性不断丢失。
就算尚未发生模型坍塌，AI系统也会主动推动人类文化向AI自身的风格靠拢，走向同质化。研究发现，大语言模型会给AI生成的简历、文稿打出更高分数，高于人类或其他模型产出的作品。这会反过来激励人类去迎合AI的偏好。
纳曼从心理学角度解释：人们会把大语言模型的输出当作大众普遍观点，或是洞悉世事的智者，因此倾向追随模型给出的导向。就像自动补全实验所见，当人们借助大语言模型完成工作，会对AI产出产生一定归属感。人通常会调整自身态度，匹配自己感知到的自身行为，于是就会接纳AI模型的立场。
荷兰蒂尔堡大学创造力研究者阿尔温·德·鲁伊吉提出，AI给出的想法还会产生锚定效应，禁锢我们的思考。
转载本文请联系原作者获取授权，同时请注明本文来自孙学军科学网博客。
链接地址：https://wap.sciencenet.cn/blog-41174-1550584.html?mobile=1
收藏
