科学文化足迹分享 http://blog.sciencenet.cn/u/lvnaiji 邮箱:naijilv@gmail.com

博文

[转载]信息茧房与哺乳动物知行系统

已有 405 次阅读 2021-6-3 08:11 |个人分类:科技|系统分类:科研笔记|文章来源:转载

吕乃基

近日读到“《读书》首发 | 徐英瑾:人类认知与信息茧房”(2021-05-31)[2021-06-02] https://mp.weixin.qq.com/s/YJxaoH9K3OEADKVbxPDcVA 颇受启发。

原文较长,译文印记较重,此处做了缩写和改写,并略加评论。

 

用最小的信息处理能量损耗,以产出那些最能提高繁殖适度性的行为。为生物体带来生存上的便利,也会带来认知上的偏差。

1.

锚定效应,亦即路径锁定,认知惯性。个人最先获得的印象,会先入为主,像船锚一样在其记忆中占据稳固的位置,并使得后来关于同类事物的印象难以发挥像原初印象一样的认知作用,以节省认知主体的信息处理成本。随后看到同类信息则强化,异类便排除。结果可能是以偏概全。

贴标签效应。认知主体会将他所看到的各类事物贴上标签,以方便其对于万事万物的分类。减少需要处理信息的数量,减少管理成本。然而,如果主体按照过于简化的(或者错误的)标签来对事物分类,就会得到对于世界的错误认知。

“易思者易赢”效应。主体在判断某事物的某个属性是否明显时(譬如演艺圈的明星是否离婚率高),主要根据是相关属性是否容易在脑海中被唤起——显然是受锚定效应和贴标签效应等影响,而不是根据该属性在真实世界中出现的频率。调取“事物属性的真实出现频率”需要付出大量认知负荷,“易思者易赢”效应减少了主体的认知负担。

极端预期效应。在事态还不明朗时,主体匆忙对其最终走向做出“好”“坏”两种极化的预期,先行准备针对相关结局的应对方式,缩短“信息处理”与“行动”,知与行之间的链条,由此减少信息处理的成本;缺点是:它会使得主体因为轻率下赌注而失去对于变动不居的复杂形势的应对能力。这一点结合了主体的价值观,使主体的知行系统打上了价值观的烙印。

花车效应。主体在无法根据自己的认知能力判断相关信息的真实性时,往往会根据社会主流对于该问题的判断方式来下结论,就像在参加花车游行时随意跳上一辆貌似最花哨的花车一样。必须注意,“花车”无论如何“花哨”,必须在被“锚定”的路径上,至少不能过于偏离,以及可以贴上相应的标签,随后再通过向社会主流或者相关权威“借脑”的强化,来缩减信息处理成本;坏处则是,认知主体很可能被一些虚假权威所误导,陷入认知陷阱。

2.

上述各种“效应”,在漫长的采集—狩猎时代成立,实际上就是正在采集狩猎活动中形成。

原始的采集—狩猎的环境是自然界,人主要与自然界博弈,天不变道亦不变。故而沿着祖辈的路径锁定,大差不差。

原始的采集—狩猎时代的环境要素相对简单,原始人的认知架构只要去关注那些与其生物学需求高度相关的环境因子(如食物、配偶、天敌、天灾等等)即可。遇事只需想起往日的经验就可以了,“贴标签效应”一般没错。

“极端预期效应”与基本物质需求相关的好坏也一目了然。

当时,中介性的信息传播环节不发达,一个人所能想起来的某事物承载某性质的频率,往往就是他所看到的该事物承载该性质的客观频率,不会太出格。“易思者易赢效应”的负面影响不至于太大。

也正是因为社会中介性媒介的不发达,任何一个认知主体都能轻易地通过对于信息传播链条的追溯来找到信息源,并要求作为信息源的信息发送方对信息本身的质量承担社会责任。这也在相当程度上遏制了“花车效应”的负面意蕴。

这就是人类在漫长的采集—狩猎时代形成的知行系统,实际上相当程度是由哺乳动物继承下来,并且成为之后人类的知行系统继续演化的起点与基础。(参见你我他,在“知行系统”的哪一个台阶?

3.

现代社会,社会和环境非线性,加上人难以预测的博弈策略,导致锁定失效(参见人的三大关系和三大博弈)。

其次,现代人处于复杂的软硬件环境。客观上要对应这种复杂性,人类不可能由分析和归纳条分缕析,主观上,人类的实际认知能力的生理基础(如脑容量、工作记忆容量等)也没有相应复杂化,这就使得单个现代人所实际能够掌握的概念图谱与复杂环境之间的落差急剧拉大。“贴标签效应”的负作用大概率出现。

再次,现代社会的信息中介性环节发达,个人所了解的关于遥远国度的新闻,只能局限在媒体所展现给他的那个信息界面之中。信息源本身被污染,为“花车效应”的全面泛滥大开方便之门。

同样,“易思者易赢效应”只可能是偶然事件,常态是其负面影响。

最后,现代社会已远远超越单纯的物质生活而进入包括价值观在内的精神世界,简单的好坏,已经复杂到难以想象。原始心智中的“极端预期效应”所适用的事件类型范围也急剧扩大,人群之间发生撕裂的可能性大大增加。而在数码时代,制造虚假信息以扰乱信息的成本越来越小,更多的认知主体就更容易在前述“花车效应”等心理机制的作用下而被虚假信息蛊惑,拉大了与别人的立场差距。

4.

互联网时代信息茧房的成因机制:

第一步:不同的虚拟信息生产主体根据不同的利益,产生不同的价值判断命题,譬如对于某商品的正面或负面属性的判断。虚拟世界成为这些海量的价值评判命题(以及与之配套的人工证据体)角逐的战场。

第二步:单个的信息接收主体遵循知行系统的最小作用量原理,在海量信息中(并非随机!这是笔者与原作者的重大分歧之一)挑选出与以往判断一致或相近的内容,以强化和扩展其信念体系,并获得快感,也是对当事人人生的肯定。否则,主体的知行系统就会出现“信息过载”,甚至不得不重构,在某种程度上等同于否定了当事人的人生。

主体凭籍其知行系统得到的世界图景,无论是非对错,实际上是主体内心世界的投射,守卫这一图景,在相当程度上也就是守卫其自己。否则就将面临主体的坍塌。

第三步:当事人在作出选择之时,也就在网络世界中留下了某人采纳某个信息的标记。大数据技术驱动下的内容推荐技术,根据个体在虚拟世界中的信息轨迹,向其推荐类似的信息,以便利用锚定效应来迅速形成相关主体的信息检索习惯,以方便日后的广告推送业务。

第四步:这样,个体之间因为某些特别是早期的偶然因素而形成的起始性信念体系之间的差异,如果得不到来自外部和自我的及时纠正,就会通过大数据环境与个体知行系统之间的正反馈而不断扩大,最终形成信息茧房。

5.

作者发问:面对这样的境遇,该如何破茧?

笔者认同作者关于技术和资本影响的论述。

 

在讨论破茧之法之前,首先要确定哪些事项是我们无法改变的。首先需要肯定的是,人类的认知架构的节俭性是某种生物学常项,无论出于生命伦理还是技术可行性方面的考虑,我们都不能通过系统化地改造大脑来改善认知处境。而需要改变的,显然就只能是那些使得人类认知架构的缺陷得到全面放大的相关数据技术。具体而言,我们似乎可以改变目前方兴未艾的内容推荐技术的深层运作逻辑,即从“强化用户既有购买习惯”的轨道转到“拓展用户的兴趣范围、增加其视野”这一新轨道上来。

但这一转轨是否可能发生呢?这一问题本身又可以被拆解为两个子问题:第一,使得上述转轨得以发生的技术革命是否可能发生?第二,使得上述技术革命得以发生的社会资源(如资金、时间与人力的投入)是否能够到位?笔者对第一个问题,持谨慎乐观的态度。毋庸讳言,在贝叶斯统计技术与深度学习技术的支持下,当下主流的网络内容推荐技术往往是根据大多数人的既有网络轨迹特征来预测特定用户的相关网络行为的,而这一做法,也往往会使得个体成为既定“用户画像”的无个性的注脚。尽管如此,反向的技术研发,也并非不可能。举例来说,技术研发者当然可以向用户推送与其浏览习惯相反的内容产品,譬如给美国民主党的选民推送体现共和党执政理念的内容视频。然而,为何在现实世界中,很少有人这么做呢?这就牵涉到支撑内容推荐技术得以被发展与运用的资本环境问题。数码技术的开发与运用当然是需要大量资本支撑的,而资本的投入是需要回报的。以YouTube为例:在该平台上,资本的回报方式往往与插入内容视频的广告观看率有关,而这一数据又与该视频本身被点击的次数有关。很显然,要使得具有任何一种特定政治倾向的视频被点击的次数最大化,其不二法门就是将其推荐给其他可能持有该倾向的用户,而不是将其推荐给抵触该倾向的用户。而内容的制作者在有了相对固定的用户群后,也会根据他们的口味固化产品的内容倾向,以保证自己的经济收益。换言之,如果有人要开发出一种旨在拓展用户视野、弱化信息茧房效应的新内容推荐技术的话,那么,该技术在研发动机的层面上就会受到资本力量的扼杀与打击,或至少是漠视。

作者寄希望于顶级资源的掌控者能够理解这一点:要提高内容的被关注度,不一定要靠强化茧房的壁垒——有时候削弱这一壁垒反而是对资本有好处的。

 

问题是,“顶级资源掌控者是否也会身处某种“茧房”?于是,需要寄希望于更高的“顶级资源掌控者

想起牛顿对“第一推动”的追问。

超越“第一某某”追问的是,延续至今的哺乳动物知行系统,无需辩护,不必言语,还将继续,等待奇点的到来。



http://wap.sciencenet.cn/blog-210844-1289460.html

上一篇:[转载]袁隆平 释义学 科学技术哲学
下一篇:再论大历史观视野下的人工智能

1 郑学军

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2021-7-25 21:27

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部