精选
警惕！ChatGPT或将重塑我们的情感模式
1孙丹阳 2李侠
（1、西安电子科技大学马克思主义学院 讲师；2、上海交通大学科学史与科学文化研究院 教授）
近日有网友发文称因ChatGPT为自己创作的童话故事《小野鸟》而倍受感动，网友们在留言中则表达了“不止我沉浸于跟ChatGPT聊天”、“觉得它比人还明白你在哪个点需要被理解”、“我也想要专属的《小野鸟》故事”……这些评论无疑都体现着人诉诸于ChatGPT的情感需求。比起针对ChatGPT技术变革性的广泛讨论，由它引发的对已有情感模式的挑战也不容忽视。
从技术角度看，ChatGPT依然属于大语言模型的技术框架，而大语言模型技术的迭代，则沿着输出越来越准确向越来越像人类对话转化。与过往的自然语言处理系统相比，ChatGPT展现出了包括对问题前提的质疑、发现错误予以修正、通过信息猜测你内心想法等新能力，这也让AI“懂你”成为可能。可以想见，ChatGPT以及未来的生成式语言人工智能，将不再止于精准输出的“专家系统”，它不可避免的带有了情感功能。
理解是情感建立的基础。具有理解能力的ChatGPT，在交流中表现为“同理心”。同理心是指站在对方立场，理解对方感受，并把这种理解传达给对方的一种沟通交流方式。问题的关键在于，是否具有同理心的评价标准是由交流中的对方做出的，即个体是否在交流中感受到它“理解我”。因此即便ChatGPT的同理心是一种“假象”，也并不影响它能够提供的情绪价值。也就是说，ChatGPT是否真的具有情感能力并不是问题的核心，它只要能够在语言交互的过程中让个体感受到被理解即可，而理解催生信赖，信赖引发认同，这样的交流必然生成情感依赖。未来以ChatGPT所应用的技术为蓝本，针对性的产品势必不断涌现，这无疑将会进一步重塑人类的交往方式与情感依存方式。
ChatGPT对个体情感性诉求的回应，势必成就一种全新的情感抚慰方式。我们可以畅想在不远的将来，ChatGPT的情感支持功能被合理利用。首先，心理援助。在当下，比起提供知识的获取渠道，情绪问题与心理亚健康状况所带来的困境正亟待解决，与高效精准的人工智能相比，我们总是强调人类在诸多工作中所提供的独一无二的情感价值。在心理咨询领域，不同的技术流派使用各自的技术手段，但却都强调共情作为心理援助的基础，相较于水平参差不齐、价格高昂的心理咨询师，其实ChatGPT可能是更为完美的倾听者，比起人类咨询师难以规避自身信念系统而带来的偏见，ChatGPT更能做到自身价值无涉，从求助者的信息中建构其自身，真正做到助人自助。其次，助老工具。随着社会老龄化的加剧，如何让老人在相对稳定的社交关系和活动空间中活得更有尊严成为重要议题，陪伴型机器人必将大有可为。ChatGPT将提升陪伴机器人的陪伴质量，使得老年人拥有真正的情感伙伴，为老年人提供更真实的情绪与情感价值。
当然危险也不会离我们太远，ChatGPT是否会创造一种“情感茧房”呢？正如算法推荐带来的信息茧房所造成的个体认知固化与观念极化，沉浸于ChatGPT定制的专属情感世界，势必引发精神依赖，从而逃避现实的情感交流，冲击现有的社交体系。首先，基于理想算法与最新人类情感研究成果，ChatGPT将大大提升个体情感体验的阈值，将难以适应现实中需要经过不断磨合不断包容的情感交往模式，使沟通与合作更加困难，建立在情感基础之上的社会关系体系，婚姻家庭体系会迎来重大冲击，不婚主义、个人主义更为泛滥，一种新型的情感真空与情感孤岛难以避免。其次，ChatGPT所带来的巨大商机，势必会加剧“情感茧房”的形成，市场对技术的的灵敏嗅觉，会让负载情感支持的产品不断涌现，正像短视频吞噬我们的时间一样，为增加用户粘性，设计者将会无止境贴合用户需求以提升用户对虚拟情感产品的依赖，形成对个体的情感围猎！
第三，如果未来内置GPT-4以上迭代版本的新型机器人伴侣的出现将严重冲击已有的家庭结构。美国技术史专家布莱恩•阿瑟曾指出，技术是按照组合方式进化的，之前的技术形式被作为现在原创技术的组分，即新技术产生于已有技术组合，以及（因之而来的）现存技术会带来未来技术。目前机器人技术日趋成熟，相应的材料技术也在日新月异地进步，再加上ChatGPT的快速迭代，新的机器人情侣的出现已经在路上。美国未来学家雷•库兹韦尔曾乐观地说：我个人预言未来的机器将拥有自我意识（目前的研究显示ChatGPT可以通过图灵测试），当它们说出自己的感受和感知经验，而我们相信它们所说的是真的时，它们就真正变成了有意识的人。对于这些非生物体，我会接受它们是有意识的实体，我预测这个社会也会达成共识，接受他们。所有的文化史研究都证明人类的情感需求是刚需，据第七次全国人口普查数据显示，男性比女性多3490万人，这是情侣机器人巨大的潜在需求市场。它将引发的伦理问题也是前人从来没有经历过的，也更难处理，比如人是否可以与情侣机器人结婚/离婚？是否存在虐待、遗弃（不论谁虐待谁）？这些当下看似荒诞的问题未来都会出现，一旦它们拥有了意识，这些问题我们都绕不过去，用哲学家温贝托•马图拉纳的话说就是：与技术打交道的社会系统经常陷入“结构漂移”中，人类的每一次巨大技术进步都带来了社会结构与秩序的重整，人类情感的复杂化只是其中很小的一部分而已。
比起如何跳出“比你更了解你”的算法陷阱，逃出“比你更爱你的”的情感围猎将更难也更值得警惕！
【博主跋】我们终于不是从书上而是近距离地接触到科学革命的来临，幸与不幸很难说清楚，这轮变革后还能剩下什么只能留待时间去回答吧。多年后再次与丹阳博士合作，也谢谢崔老师还有科学报的编辑老师们，文章发表在《中国科学报》2023-3-24的A1版，合作愉快！
说明：文中图片来自网络，没有任何行业目的，仅供欣赏，特此致谢。
2023-3-25于南方临屏涂鸦
转载本文请联系原作者获取授权，同时请注明本文来自李侠科学网博客。
链接地址：https://wap.sciencenet.cn/blog-829-1381783.html?mobile=1
收藏
