陈德旺
大模型可能带来的五大危害不可不察 精选
2023-12-6 08:49
阅读:4424

大模型可能带来的五大危害不可不察 

大模型是最近人工智能技术的热点中的热点。开口不谈大模型,似乎就不懂人工智能了。我们人类通过购买大量的GPU卡,搜集大量的训练数据,采用大量的训练,终于创造了一个无所不知的“神灵“。他有问必答,能写会说,上知天文、下知地理,古今中外、无所不知,类似于古龙小说中的百晓生和三国演义中的诸葛亮。我们有什么问题都可以问它,它都能给出一些有条理的合理建议。

大模型好像还有智商,不仅可以参加各种考试,还可以创作语音、图片和视频,可以很容易创造大量以假乱真的信息,让人真假难辨。 赵本山可以讲流利的英语,奥巴马可以讲流畅的中文,口型都能对得上,惟妙惟肖。大模型是否有真正的智能,我们暂且不论。但是,大模型却可能给我们人类社会带来巨大危害,主要体现在以下5个方面。

首先,大投入。OpenAI的主要投资者微软投入数亿美元资金为OpenAI打造了一套超算系统,由上万颗单价为数万美元英伟达A100芯片组成。依靠大量投入实现的所谓大模型,过几年后,也许会发现现在的技术路线也许是错的,有更好的解决方案。那么,现在大量的投入将打了水漂。所以,跟进大模型要小心谨慎,不能一哄而上。

其次,大能耗。Open AI为训练ChatGPT提供了3640PF-days的算力消耗(即假如每秒计算一千万亿次、连续计算3640天),消耗了巨大的电能。以前2年数据翻一倍,有了大模型,可以快速生成文本、语音和视频,估计以后一年数据要翻2倍。 据统计,现在的大模型已经消耗了约5%的人类电力,而且还在快速增长中,是难以持续的,不符合社会可持续发展的理念。

第三,大侵权。大模型采用网络上大量的数据进行训练学习,其输出结果融合了各家的数据和观点,已经很难分清楚是侵谁的权了。尤其,能快速生成大量的文字、语音、图片和视频,使得网上的虚假信息将远远超过真实信息,网络监管的难度因此大大增加。“耳听为虚,眼见为实”,已经变成了“一切皆虚,难信为实”,大模型将导致信息虚无主义。

第四 大失业。有了大模型将导致大批从事脑力劳动的人员失业,比如文秘、绘画师、视频剪接工作者,甚至编程人员。财富将进一步聚集到OpenAI这类号称非盈利的公司,其盈利将惊人,一年会费收入可能超过8年研发投入,此后更是一发不可收拾。大量失业人员将对经济消费、社会稳定造成严重的危害。

最后,大偷懒。大模型最大的危害也许是带来整体人类的偷懒,不愿意动脑思考,啥都要问大模型,让大模型帮助自己解决问题。用进废退,久而久之,人类的思考能力、写作能力、想象能力、计算能力、推理能力等将大大退化。虽然目前大模型还没有自我意识,但是未来谁也不好说。假设100年后,人类的智商集体下降到现在的10%。到时候,大模型进化出了自我意识才真正可怕,人类的未来堪忧。

总而言之,人类要居安思危看待大模型这类所谓颠覆性技术。技术都是双刃剑,就看我们人类怎么合理使用,千万不要盲目发展,以免引火烧身。


转载本文请联系原作者获取授权,同时请注明本文来自陈德旺科学网博客。

链接地址:https://wap.sciencenet.cn/blog-57940-1412633.html?mobile=1

收藏

分享到:

当前推荐数:24
推荐到博客首页
网友评论12 条评论
确定删除指定的回复吗?
确定删除本博文吗?