在数据中心时代，AI将超越人类成为超级智能。数据时代“以数据为中心”，不再是“以人为中心”，这正如在文艺复兴开启的自由主义时代，“以神为中心”让位于“以人为中心”。《扭转人工智能局面》一书指出，AI的潜在危险在于促使人们跳过思考过程，让机器填补思想空白，因此我们需利用AI来增进思考，而非减少思考，否则每外包出一个想法，人就失去了一次成长的机会。

AI正挑战着以往的技术和社会规范框架：它既是工具又是内容、既是内容又是规则、既是规则又是裁判、既是裁判又是代理人，这样彻底打破了技术中立、管治分离和主体公平的原则。如此一来，AI不再仅仅是被动的工具，而是具有主动影响和改变现有秩序的能力，成为超级智能。

数据中心时代，AI有可能使集中式系统（类似中央集权）比分布式系统（类似民主制度）效率更高，因为首先它坐拥海量的完整全面数据，其在提供全局视角的同时又能真实反映客观现实的方方面面；其次它拥有及时且深入的分析处理能力，能够挖掘出隐藏在数据里面的规律和趋势；更重要的事它不受情绪、直觉和紧急情况的影响，且在遵守伦理道德方面表现远超人类。以智慧城市为例，监控摄像头遍布大街小巷，采集着各类数据，为城市管理带来了极大便利（但也可能同时侵犯着个人隐私）。又如，区块链技术支撑的比特币等数字资产将成为数字时代的货币之一，其可追溯性确保每个人的工作报酬都能及时确认，也大大简化了支付环节。

科学界有种观点认为，生物本质上是生化算法，只是这种算法的数字化程度和迭代升级效率不如计算机高。目前而言，人一般有两种自我：“体验自我”（我们每时每刻的意识）和“叙事自我”，因为人的有限理性（数据处理能力有限），对人起总管作用的是“叙事自我”，其具备讲故事的能力，但遵循“峰终律”，即对一件事的感受，只取决于其中的巅峰时刻感受与最终时刻感受这两者的平均值。但在数据中心时代，AI能极大地增强“体验自我”（其原本没有足够的记忆能力），即通过采集全程的所有数据点（比如你的每一次心跳、每一次呼吸）进行充分细致地分析，以更真实客观地了解你对这件事的感受。相比之下，当前的我们基于叙事自我（只采集巅峰时刻与结局时刻这两个数据点）做出决策，具有很大主观偏差且不精确性。

在数据中心时代，每个人都被充分地数据化。比如，当你在阅读智能电子书平板时，电子平板也在同时“阅读”你，记录你看每一段文字的时长、你的关注点、你的阅读习惯和偏好等等一切。因此，每个人都应成为自己数据的主人，并确保自己的决策不应完全依赖AI算法，否则人类将丧失自由意志。

当AI无处不在时，我们将对其习以为常，甚至意识不到它的存在，就像我们平时忽略空气一样。人口也将呈现集中化趋势，人们倾向于在大城市定居；未来小城市可能人口稀少，转变为风景优美的农田或自然景观，由机器人全自动管理。目前城市人口占全球人口的50%以上，预计将来这一比例将增至75%。

智能天生难以控制，即使能控制其一时，智能也会想方设法地自我升级成更高的智能、以便绕开和挣脱控制，并最终成为超级智能。我们只能努力打造“友好的人工智能”，详见章节“5.31 人类首个开放人工智能宣言（OpenDAI）”。因为，放弃技术进步对个人、公司和国家而言，无异于经济自杀。我们只有在接受AI超越人类成为超级智能的基础上，打造人机共生（人机融合）的新形态，和AI一起共创世界的美好未来。

“AI哲学一吴怀宇”（中国科学院博士、北大博士后）作者主页：www.OpenDAI.org；邮件：huaiyuwu@sina.com