钟定胜的个人博客分享 http://blog.sciencenet.cn/u/holyskyz 哲思天地_科学研究是快乐的,也应该是快乐的。

博文

人工智能研发中的思路方法之在学习中改进与超越-人工智能研发中的‘学则生、似则死’现象

已有 778 次阅读 2025-1-11 08:36 |个人分类:对阿尔法狗及人工智能的评论|系统分类:科研笔记

在书画界有一句名言:“学我者生,似我者死”,这句话对于许多具有竞争性同时又有着明确的版权归属规则的领域来说,是一个很好的归纳和提炼。在竞争激烈的科技研发领域中,也存在类似的现象,只不过其表现形式和特征有所不同,其最主要的区别与不同在于:一方面仍然必须要去好好学习对方的长处和优点,同时又要避免产生知识产权纠纷之类的问题。此外,更加重要和更加有启发性的地方是,如果对方已经出现了一些明显的瑕疵、缺漏、不足甚至错误的地方的时候,仍然要去学习,仍然要去机械地套用和沿用对方的这些可能产生缺陷、不足和错误的地方,那么也会导致‘似则死’的结果。

更为具体的说,学习他人的优点和长处是必要的,尤其是学习那些真正具备突破性的成果知识是必须的和必要的。但是,如果明确知道了对方在某些方面存在严重缺陷、瑕疵,却仍然选择跟随,而不是去反思和纠正其中存在缺陷和错误的根源所在,那么就会陷入‘学则生、似则死’的境地。与之相反的是,如果能够有效地识别并有效地针对对方所出现的瑕疵和错误的根源进行修正的话,则有可能实现真正的反超,或者说,这种情况下,就出现了可以反超对方的契机,从而就可以做到真正的‘学而生’,或者说就有望实现‘青出于蓝而胜于蓝’了。

许多人工智能的研发都是基于OpenAIChatGPT之类的基础之上,而机械地模仿以及套壳式的研发方法,这种做法虽然在一定程度是可行的(在合法合规的前提下),因为在已经明确其所取得的成就是突破性的成就,且其整体表现极为出色的前提下,诚恳地、快速地去学习它的优点和长处是必须的。但是,如果已经能够确认所学习对象在某些方面存在严重的瑕疵不足乃至错误的话,那么就需要去深刻分析这种瑕疵不足和错误产生的真正的根源并加以纠正和完善,由此也可以提供一个可能可以反超超越对方的契机。

比如谷歌的Gemini以及OpenAIChatGPT中出现的有些问题,很明显是由于训练过程中在某些方面的不恰当标注和对齐问题所导致的,那么就要针对这类问题进行重新标注和对齐,由此就可以实现在这些方面的反超。与此方法类似地,如果在其他的问题上或其他的领域也存在这种明显的瑕疵、不足和错误的话,那么也要及时的迅速的对此进行纠正。这个过程尽管仍然是一个试验性的尝试、试错和遍历搜索的过程,但如果能够针对一些非常有把握的缺点、瑕疵和错误进行有针对性的修正的话,那么就可以大大提高训练的效率和节约训练的成本,同时还能起到避免一些错误的思维方式和错误信息在该人工智能训练过程中的自我泛化与扩散,从而不断提高该人工智能在整体上的触类旁通的能力和涌现的质量。

在实践层面,在学习中有针对性地进行改进以实现反超的可能性已经有所展露。一些研究团队通过改进先驱者的训练方法和框架结构,在特定领域实现了某些性能的超越。展望未来,在人工智能的研发中,研发者需要更加注重在借鉴中创新,在批判中超越,以此推动人工智能技术向着更高水平发展。这不仅需要技术层面的突破,更需要研发者在方法论层面建立正确的创新思维。



https://wap.sciencenet.cn/blog-3234816-1468316.html

上一篇:人工智能的本质与人类知识的插值式创新
下一篇:自我成就与互相成就:构建人生意义中的双翼
收藏 IP: 112.0.78.*| 热度|

16 孙颉 宁利中 王涛 刘进平 谢钢 王从彦 郑永军 高宏 崔锦华 杨正瓴 钟炳 尤明庆 张学文 朱晓刚 刘跃 许培扬

该博文允许注册用户评论 请点击登录 评论 (2 个评论)

数据加载中...
扫一扫,分享此博文

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2025-2-5 16:50

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部