王飞跃的个人博客分享 http://blog.sciencenet.cn/u/王飞跃

博文

对话中国科学院王飞跃:过度炒作ChatGPT干扰大众认知 只是少数人获利

已有 1350 次阅读 2023-6-5 11:57 |个人分类:行业观察|系统分类:观点评述

 对话中国科学院王飞跃:过度炒作ChatGPT干扰大众认知 只是少数人获利


相信不久ChatGPT就是“白菜价”。


2023年,世界正处于人工智能发展的快车道上,各行各业都在寻求通过人工智能技术实现转型升级。然而,与此同时,人工智能的安全性问题也受到各方的关注和反思。最近,特斯拉首席执行官埃隆·马斯克与多位人工智能专家和行业高管联名发表公开信,呼吁暂停开发比GPT-4更强大的人工智能系统至少6个月。


争议背后,美国业界对于AI发展的担忧从何而来?AI的发展是否已来到需要按下“暂停键”的转折点?国内应该如何发展人工智能?带着这些问题,凤凰网《AI前哨》在万里红主办的人工智能论坛活动上对话中国科学院自动化所复杂系统管理与控制国家重点实验室主任、中科慧拓首席科学家王飞跃。


王飞跃主要研究领域为智能系统和复杂系统的建模、分析和控制与管理,是AI和智能控制方面的国际知名学者。作为行业顶尖权威,王飞跃给我们带来了许多不同的观点,他指出相较于技术革命,ChatGPT更像是基础设施,现在存在过度炒作和神化它的现象。这些炒作已经影响到了正常的科研,干扰了大众正常的认知,最后只是少数人获利。


“还记得当初阿尔法狗(AlphaGo)出来,大家也都激动的不得了,现在怎么样?阿尔法狗到现在也不过就是六七年时间,所以没必要那么激动。相信不久ChatGPT就是‘白菜价’。”王飞跃认为,ChatGPT但离真正的(智能)还早,当下重要的是有序发展。


对于美国业界对AI发展的担忧,王飞跃表示,“我坚决不信它(ChatGPT)会给人类造成威胁 ,除非人类自己威胁自己。”他认为技术发展不可逆,特斯拉CEO马斯克呼吁暂停开发比GPT-4更强大的人工智能系统,实质是商业利益问题。


111.png

王飞跃教授接受凤凰网记者采访


以下为对话内容(原文基础上有删减):


01.过度炒作ChatGPT干扰正常科研和大众认知 只是少数人获利


AI前哨:去年底您看到ChatGPT推出后,有什么感受?


王飞跃:没什么感受,很好,但本该这样。就是一帮人花钱把它(ChatGPT)做出来展示,是不简单,几十年的空谈终于“涌现”出一个结果,但离真正的(智能)还早。ChatGPT出来后,大家太激动了,其实现在才刚开始,太激动不好。还记得当初阿尔法狗(AlphaGo)出来,大家也都激动的不得了,现在怎么样?阿尔法狗到现在也不过就是六七年时间,所以没必要那么激动。相信不久ChatGPT就是“白菜价”,问题是之后呢?


AI前哨:外界认为,ChatGPT之所以会爆红是因为它具备了通用性。以往的人工智能应用于人脸识别、学校判卷等垂直场景,做的都是一些“选择题”。现在GPT能做“简答题”,这让人觉得AI已经具备了类似逻辑思考的能力。


王飞跃:但是我问你,工厂生产实时控制敢用它(ChatGPT)吗?飞机调度排班敢用它(ChatGPT)吗?所以它还不具备真正的智能性。它是比娱乐版进了一大步,已经非常有用了。最近我让我所有的学生写摘要都用它做参考,因为ChatGPT写的英文摘要至少比大部分人写的要好。


AI前哨:微软创始人比尔盖茨表示,ChatGPT是1980年以来最具革命性的科技进步。您怎么看?ChatGPT是技术革命吗?


王飞跃:仁者见智,智者见仁,有点乱。谁都可以做论断,他(比尔盖茨)当然可以把ChatGPT当作革命性的技术进步。我认为它(ChatGPT)不是革命,它的确把AI以一种很大众化的形式展现给了世界,确确实实为智业社会提供了一个基础设施原型,最多就跟工业社会的高速公路、飞机场、火车站、码头是一样的。一个现代化的工业社会,需要这些基础设施,未来的智业社会,需要许多ChatGPT一样的基础设施。


资本和技术创新的结合,最后涌现出(ChatGPT)这么好的结果,这是非常好的事情,做科研的人应该往这条路上来。但不要把它神圣化,不要炒作来炒作去影响正常的科研进程。


AI前哨:现在人工智能存在过度炒作和神话?


王飞跃:对,而且影响到了正常的科研,影响到了大众正常的认知,其实只是少数人获利。


AI前哨:影响到了科研的哪方面?


王飞跃:把年轻的科研人员抽走了,特别是还没有真正成熟的年轻人。本来好好的科研团队,大家正在认认真真做科研,一阵热潮来了,Hope(希望)脑洞大开,不但大开口还下生大尾巴,变成Hype(忽悠),队伍就没了,影响了正常的科研进程。据我所知,好多科研团队都面临这个问题。


其实我非常支持年轻人创业,更支持科研人员加入企业,但过度炒作,就像农药催化剂一样,让十分有希望的年轻人早熟但不可用,最后骗子加忽悠,是社会资源的极大浪费。最近见过几位过去很有前途的年轻科研人员,成了高管投资人谈ChatGPT,这种感觉更强烈了。


AI前哨:那您觉得学界和企业应该如何平衡这种情况?


王飞跃:我也没有答案,企业和科研必须相互结合,但应该是一种更有序的结合。


02.ChatGPT不会生产数据 我坚决不信它会给人类造成威胁


AI前哨:人工智能每隔几周就会出现令世界震动的功能拓展,有人兴奋有人恐惧。有人担心 AI 可能对人类构成巨大危险,因为我们不知道一个比我们聪明得多的系统会做什么。您是否也有这种担忧?


王飞跃:一点没有!我坚决不信它会给人类造成威胁,我担心的是人类对人类造成威胁。


AI前哨:但美国业界对AI技术发展表现出了担忧。特斯拉CEO马斯克、Yoshua Bengio等数千名来自学术界专家和企业界呼吁至少暂停6个月比GPT-4更强模型的研究,并强调人类需要组织对AI技术进行监管。您怎么看?


王飞跃:历史潮流,浩浩荡荡,顺之者昌,逆之者“忘”,技术发展是挡不住的。当年英国人还把机器烧了,还记得卢德运动?工业革命几百年,机器统治了人类?我们是机器的奴隶?你愿意,或者说,你有资本回到机器前的社会?目前所谓的限制,会把好人的手脚捆住,而让坏人发展利用新技术。马斯克呼吁之音还在,自己迫不及待干起来,说明什么?那完全是商业利益在背后驱动,有时他干的事情,与他说的话之相位差180度。


AI前哨:无论是ChatGPT还是国内大模型,都还有一些缺陷,比如编造细节,这是坏事吗?有没有办法控制?


王飞跃:ChatGPT我也试用过,有时候确是在正经的胡说。但你告诉它错误,它马上就改过来了,有时改的无原则,有些回答好的出乎我的意料,对国内大模型我试的不多,也没有这种感觉。


编造细节这不是什么坏事,因为以后的大模型肯定不是这样去做。以后可能不会有大问题的大模型,大多数一定是小问题大模型,然后它必须每一道(问题)都能检查。其实,(大模型)它最后就是把知识工作者都变成快递小哥,小包裹大系统的后果,就这么简单。


AI前哨:很多人一边使用ChatGPT一边担心,担心AI会替代人类工作导致失业,包括我们这些做内容的人也会担忧。


王飞跃:这就让所谓“专家”们给忽悠了,真正从事文化创意类的人是最替代不了的。因为数据是生产出来的,它(ChatGPT)没有生产的手段,只能去网上收集这些数据。


AI前哨:数据很关键,ChatGPT等一系列大模型能搜集数据,那我们怎么保证隐私安全?


王飞跃:这是一个大的问题,我们做区块链和智能合约研究就是为了解决这个问题。基于区块链的TRUE DAO,是让数据可信(T)、可靠(R)、可用(U),最后要产生效益Effective + Efficient(E)。DAO就是要分布自主开放:D是Distributed + Decentralized(分布式+全中心化),A是 Automatic + Autonomous(自主+自动),O是Organizational + Operational(组织+运维),最后基于智能合约变成数字化组织、数字化治理、数字化运维,走上智业社会的科技“真道(TRUE DAO)”。


03.国内大模型与ChatGPT相差一半时间


AI前哨:除了ChatGPT,您有试用过其他一些大模型吗?


王飞跃:我们长期研发各种业务大模型,整个实验室就是为此目的创立的。过去5年来,我们试过许多开源闭源大模型,最有意思的是艺术创作方面的。


AI前哨:国内的大模型和GPT相比,使用起来有什么不同?


王飞跃:从有限的例子里,我觉得有差别。


AI前哨:差距多大?


王飞跃:我认为至少差它们一半的时间。


AI前哨:有观点说我们只差两个月,也有创业者说我们离GPT3.5还差两年,还有企业说10月就要赶超ChatGPT了。


王飞跃:现在国外和国内都没有一个公认标准,以及一个相对对等可判定的环境去评测,不同说法也自然,大家心里都有一本账,谁也别蒙谁,就别再像ChatGPT一样一本正经的瞎说了。不过我坚信,不要多久,我们一定会把,也必须把ChatGPT之类的大模型做成“白菜价”,问题还是:之后呢?


AI前哨:通用人工智能发展的三要素,数据、算力和模型在AI发展中分别扮演着什么样的角色?算力会是中国大模型发展的一大阻碍吗?


王飞跃:算力不是阻碍,因为必须得有,它是未来社会的标配。一般认为,我们的体制有数据和算力的优势。


AI前哨:大模型表现性能都较好,我们日常体验也感觉不错,却难以见到大模型大规模的产业化落地。在这方面,它主要面临的阻碍是哪些?


王飞跃:人的思维、人的认识。固有的产业模式已经培养了一大批既得利益者,他们不会打破原有的流程。然后,他们在宣传上神话人工智能,把大家说的都越来越怕AI。


技术的进步,确实会对一批人的工作产生影响,但是技术发展是不可逆的,想让社会发展就必须跨过这一步。我们的政府在这方面有优势,会做好这个过渡,而不是像今天舆论说的人工智能会导致大部人失业。总之,我们必须规划好,如何从工业时代的物理自动化,过渡到智业时代的知识自动化。


AI前哨:您认为在科研机构和企业之间进行AI技术转移和产业化应用时,需要注意哪些问题?


王飞跃:让正确的人,以正确的方式,做正确的事。


AI前哨:有资金有资源的大厂在大模型研发方面有优势。那在人工智能领域,会不会出现PC时代巨头垄断的现象?


王飞跃:我觉得可能性很大。但不应借此过度“监管”,一个自己都还都弄不清楚的事物如何监管?毕竟目前还只是技术层面的事。




https://wap.sciencenet.cn/blog-2374-1390612.html

上一篇:[转载]【CPF】IEEE DTPI 2023
下一篇:人工智能之史:未来定义历史
收藏 IP: 101.27.220.*| 热度|

3 尤明庆 张晓良 郑永军

该博文允许注册用户评论 请点击登录 评论 (0 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-2-27 02:13

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部