精选
[敬请读者注意] 本人保留本文的全部著作权利。如果哪位读者使用本文所描述内容，请务必如实引用并明白注明本文出处。如果本人发现任何人擅自使用本文任何部分内容而不明白注明出处，恕本人在网上广泛公布侵权者姓名。敬请各位读者注意，谢谢！
人工智能应用主体问题 -- 人工智能有可能脱离人类行为主体吗？
程京德
笔者偶然看到金观涛先生谈论人工智能的一个视频（双体实验室：“金观涛：人工智能的过去、现在和未来”），不能认同金先生的观点，于是发表此文表达异议。
金观涛先生认为，与前两次科学技术革命（农业革命，“对应着人类的文明的起源”，工业革命，“对应着现代现代社会的产生”）相比，此次被称之为“人工智能革命”的第三次大革命“意味着现代社会的危机”，它与前面两次革命的“巨大的不同”是“我们人可以创造一个智力的东西是跟人可以脱离的”，“意味着在科学真实里面，主体是可以跟智能分离的”，“这样一件事情在人类历史上是第一次发生，它是现代社会的必然性结果”，“它对我们现代社会的组织方式会产生影响”。
笔者则认为，无论是否将“智能”定义为仅生物具有，即便是“人工智能”，也永远不可能脱离人类行为主体而单独存在和发展。
人工智能应用中的行为主体问题
“人工智能应用中的行为主体问题”是笔者在考查 AIGC 工具究竟是否具有创造性[1]，以及人工智能终究能否超越人类智能[2]时意识到、发现的、似乎以往在人工智能领域被学者们所忽略的一个根本性哲学问题：在一个人工智能系统应用中，行为主体究竟是谁？人工智能系统应用之“功罪”应该由谁来负责承担？[1-8]
去年的诺贝尔化学奖和诺贝尔物理学奖双双颁发给了人工智能学者[8]。笔者寡闻，没有听说有什么产品奖颁发给这些人工智能学者们开发的人工智能系统。那么，这是否也说明，人类社会实际上是认定优秀的人工智能学者是其开发出来“立功”的系统之行为主体？笔者前年提出的问题“究竟是谁预测了蛋白质结构？”[3]的标准答案应该是“获得诺贝尔化学奖的人工智能学者/专家”？
本次所谓“人工智能革命”的起源，可以回溯到2016年 Google DeepMind 的 AlphaGo （其开发者就是去年诺贝尔化学奖的获奖者！）战胜了欧洲围棋冠军和世界围棋冠军[9-13]。自那之后，在世界各地，职业（围棋、国际象棋、中国象棋）棋手在比赛中暗地使用AI博弈系统被处罚的事件多有发生，而没听说AI博弈系统自身或者其开发者被处罚。显然，人类社会实际上是认定作为“罪魁祸首”担负“罪责”的应该是人类行为主体之作弊职业棋手而非人工智能系统。
考虑一下已经实用化的自动驾驶汽车的实际应用场景。如果一台自动驾驶汽车在街上造成交通事故致人死命（在美国已经有过先例），那么，造成事故之“罪”的法律责任应该由谁来负？肇事的自动驾驶汽车自身？还是其人类使用者/人类所有者/人类制造者？
为了避免误解，在讨论问题之前，先给出一些概念的定义[2,7]：
“智能”一词用于指称动物（注意，仅限定于动物，但是此处也包括人类）的辨识、认知、理解、记忆、模仿、学习、交流、规划、推理、问题求解等需要一般程度智慧的能力。
“人类智能”一词用于指称人类作为高等动物包含了动物一般智能之外还进一步包含了的概念抽象、分析、计算、演绎、归纳、联想、猜想、预测、论证、概念推理等需要高等程度（亦即，基于概念抽象）智慧的能力。
“人工智能”作为一种能力，是人类作为行为主体以计算技术构筑的工程系统在执行由人类制订特定任务中体现出来的类似“人类智能”的具体能力。
“计算机”一词用于指称现代通用电子数字计算机[14]，亦即，以第一台现代通用电子数字计算机 EDSAC 为代表的，具备有“程序控制，程序内存，程序可改”三个本质特征的，可以具有多个CPU处理器的计算机硬件设备（亦即，包括传统输入输出装置的通称之“裸机”）。
“计算机系统”一词用于指称安装了系统软件以及应用软件的，能够执行其存储器中存储的计算程序来完成程序规定计算任务的计算机以及其它外部附属装置（的静态存在）。其本质特征是在被启动之后能够根据输入计算机的每个计算程序来自动（亦即，无需人类参与）地完成程序规定的每个计算任务。对于通过通信网络连接在一起的一组计算机系统，亦即分布式计算机系统，在本文中视为一个整体与计算机系统不另做区分。
“运行中的计算机系统”一词用于指称在一个时间阶段内正在执行着某组（至少一个）计算程序，完成该组程序所规定的特定计算任务的计算机系统及其对系统外部显示出的“动态行为”。因为本文要讨论的是“人类智能”与“人工智能”之间的关系，所以，暂不考虑所有在计算过程中必须要求人类参与才能完成任务目标的交互式计算方式。
“解决问题”一词用于指称某个（某类）行为主体对于给定的某个（某类）问题找到解决该问题的切实方法并且用该方法实际解决了该（类）问题，给出正确答案，并且问题是否得到正确解决的判断是由该行为主体自身做出的。
“人工智能系统”一词用于指称能够执行为解决某个（某类）特定问题由人类制订了初始应用程序并且在完成任务时呈现出一定类似“人类智能”行为特征的运行中的计算机系统。这里，“人工”的限定意义在于该计算机系统执行的初始应用程序是由人类设定的，尽管在完成任务的过程中该系统也可能会执行由其自身自动生成的程序指令。
显然，如果把“计算”也视为一种智能行为，那么实际上任何计算机系统（初始程序当然是由人类设定）都是“人工智能系统”。本文关心的是那些可以呈现“计算”之外智能行为的人工智能系统。
于是，基于“人工智能系统”概念，作为一种能力的指称，“人工智能”一词也可以用于指称通过运行任何人工智能系统可以呈现出的所有能力。
需要说明的是，因为根本不存在完全不依赖于人类的计算机系统，所以，所谓“机器智能”是个从哲学上从逻辑上从技术上都完全说不通的伪概念，本文不予考虑。
“形式化”一词用于指称把某个（某类）问题/方法用某种形式逻辑学或者数学方法表达为符号方式，使得该问题/方法依据逻辑学/数学解释具有唯一确定的涵义。
“评价标准”一词用于指称在评价事物时用到的衡量准则，可以是定性的，被称为“定性评价标准”，也可以是定量的，被称为“定量评价标准”；实施评价的行为主体必须能够依据该准则切实可行地对被评价事物做出定性的或者定量的评价。
“评价事物”一词用于指称实施评价的行为主体依据确切的评价标准对被评价事物做出定性的或者定量的评价赋值。
人工智能有可能脱离人类行为主体吗？
首先，迄今为止，所有的人工智能应用都没有脱离人类行为主体。理由是：任何人工智能系统都是由人类行为主体设计构建的，没有例外；任何人工智能系统解决的任何问题都是由人类行为主体设定并且形式化的，没有例外；任何人工智能系统解决任何形式化问题的任何算法都是人类行为主体发明且编程的，没有例外；任何人工智能系统评价一个问题是否解决的评价标准都是人类行为主体预设在计算程序当中的，没有例外；任何 AIGC 工具预训练所使用的任何原生数据都是由人类行为主体提供的，没有例外；最后，但却可能是最本质的一点，任何人工智能系统执行的任何计算的任何输出（在计算机中的表达全部是“01字符串”），仅仅是数据而非信息，仅当人类行为主体对数据做出适合于该行为主体需要的相应解释，才能成为对于人类有意义有用的信息[15]。
那么，伴随着人工智能技术的发展，未来是否有一天，人工智能会脱离人类行为主体呢？
要准确回答这个问题，我们首先必须明确“人工智能脱离人类行为主体”究竟意味什么？笔者看到的视频仅是主持人请金观涛先生做的开场白，不清楚金先生是否后续对其观点有概念定义和内容说明。所以，目前仅能从字面意思来理解。
最“科幻地”理解金观涛先生所言“我们人可以创造一个智力的东西是跟人可以脱离的”，“意味着在科学真实里面，主体是可以跟智能分离的”，大概是，由人类行为主体创造的人工智能系统在最初启动之后，运行到某个时间点并在该时间点之后，会完全“脱离”人类行为主体而由其自身成为行为主体。
既然“人工智能”是类似“人类智能”的“智能”，那么就应该是目标驱动的而非随机胡乱而为的。所以，如果假设一个人工智能系统可以从某个时刻起脱离人类行为主体，那么从那个时刻开始，它自身必须具备自主设定目标，自主形式化问题（如果目标是可以形式化的），自主开发出解决形式化问题的算法，自主对算法编程，自主准备解决问题必须的数据，自主设定评价标准，自主执行计算程序，自主判定计算结果。但是，最后，还有一个问题，自主给谁对计算结果的数据做出什么样的合适解释使其成为有意义有用的信息？
笔者出身于计算机科学专业，可以非常断定地说，从现在的计算理论以及通用电子数字计算机来说，没有任何理论和技术可以做到解决上述一系列“自主…”问题。所以，如果把基础概念限定在本文的定义，那么“人工智能脱离人类行为主体”是绝对不可能的。
那么，未来是否有新的计算理论和新型“计算机”可以做到解决上述一系列“自主…”问题呢？笔者的回答仍然是“不可能”。假设未来有一天人类可以开发出“生物计算机”具备逻辑思维功能，那就已经是“生物”，就已经与人类同类，无需什么“人工智能”了。
最后，再说一下 AIGC 工具。以 ChatGPT 为代表的 AIGC 工具的“作为”，极其具有“迷惑力”，“迷倒”了世界上的大批学者（非专业大众就更不用说了）。但是，笔者想指出的是： ChatGPT 的计算基础仍然是现代计算理论和通用电子数字计算机，其学习理论的数学基础是概率论，其工作原理是（“鹦鹉学舌”、“照猫画虎”地）“猜测”和“拼凑”， ChatGPT 自身并非行为主体， ChatGPT 自身并不“懂得”其任何输出， ChatGPT 自身并没有对其用户给出适合用户需要的解释而是其用户自身在解释 ChatGPT 的任何输出。如果认为 ChatGPT 的“作为”是脱离了人类行为主体，那么无论从哲学上、逻辑上、科学上、技术上都是说不通的。
笔者认为，如果不定义和讨论清楚人工智能系统的行为主体，不在人工智能和人类智能之间就行为主体问题划清界限，那么无论从什么角度怎么讨论人工智能和人类智能之间的关系，都是没有哲学基础的并且是逻辑混乱的“胡扯”。[幽默微笑😊]
参考文献
[1] 程京德，“论‘创造/创作/创新’及 AIGC 工具的‘创造性’”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2023年3月8日。
[2] 程京德，“人工智能永无可能超越人类智能”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2023年5月1日。
[3] 程京德，“人工智能应用中的行为主体问题实例 -- 究竟是谁预测了蛋白质结构？”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2023年10月29日。
[4] 程京德，“人工智能应用中的行为主体问题实例 -- Google DeepMind 关于AGI模型分类框架中的问题”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2023年11月17日。
[5] 程京德，“人工智能应用中的行为主体问题实例 -- Geoffrey Hinton 对人工智能技术发展之担心与恐惧的哲学根据在哪里？”，微信公众号“数理逻辑与哲学逻辑”，2023年12月10日；科学网博客，2023年12月11日。
[6] 程京德，“人类应该如何面对由 AIGC 工具生成内容带来的困惑？”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2023年12月28日。
[7] 程京德，“智能：具体智能和抽象智能，个体智能和群体智能，以及人工智能之天花板”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2024年9月25日。
[8] 程京德，“从诺贝尔物理学、化学奖双双颁发给人工智能学者引发的随想”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2024年10月10日。
[9] 程京德,“Google AlphaGo 战胜职业围棋手究竟意味着什么？”，科学网博客，2016年1月30日。
[10] 程京德,“Google AlphaGo 战胜职业围棋手究竟还蕴涵着哪些有趣的问题？”，科学网博客，2016年2月1日。
[11] 程京德,“Google AlphaGo 和李世石之战：为何说李世石凶多吉少？”，科学网博客，2016年2月9日。
[12] 程京德,“计算机科学角度分析 Google AlphaGo 战胜李世石的必然性”，科技导报，Vol. 34, No. 7, pp. 70-71， 2016。
[13] 程京德，“AlphaGo 完胜人类围棋高手并不能证实什么？”，科学网博客，2017年1月17日。
[14] 程京德，“何谓‘计算机’？”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2024年11月21日。
[15] 程京德，“从‘数据’与‘信息’的概念之差看 AIGC 工具衍生数据对人类社会的影响”，微信公众号“数理逻辑与哲学逻辑”，科学网博客，2023年4月24日。
微信公众号“数理逻辑与哲学逻辑”
转载本文请联系原作者获取授权，同时请注明本文来自程京德科学网博客。
链接地址：https://wap.sciencenet.cn/blog-2371919-1477462.html?mobile=1
收藏
