精选
ChatGPT 和 AI 的未来：深度语言革命 Terrence J. Sejnowski，麻省理工学院出版社 （2024）
今年诺贝尔奖的一些意外获奖者是 AlphaFold 的开发者，这是一种人工智能 （AI） 模型，可以准确预测超过 2 亿种蛋白质的 3D 结构。AlphaFold 由人工神经网络提供支持，该网络可以从已知蛋白质中氨基酸的相互作用方式中收集模式，然后使用该信息对未知蛋白质的行为进行建模。ChatGPT 等聊天机器人依靠类似的技术来“学习”和模仿人类语言。
Terrence Sejnowski 的 ChatGPT 和 AI 的未来 — 这是他 2018 年出版的《深度学习革命》一书的续集，令人信服地探讨了这项技术引发的革命。计算神经生物学家 Sejnowski 带领读者旋风般地了解了 AI 的演变——从 1950 年代构建的单个神经元的简单计算模型，到过去二十年深度学习的突破，这些突破导致了大型语言模型 （LLM） 的诞生，它可以对问题生成类似人类的回答。
Sejnowski 的书是那些寻求了解我们生活的世界的人的必读之作——在这个世界中，机器改变了人类认知的结构。简而言之，神经网络是一个由相互连接的节点或神经元组成的网络，它可以处理数据并通过调整节点之间连接的强度来从中学习。在训练阶段，当这些连接的强度发生变化以实现所需的输出时，模型会学习检测底层模式。
神经网络架构背后的根本灵感来自人脑。Sejnowski 认为，解开这些模拟大脑模型为何如此出色的谜团——尤其是当它们接受大量数据的训练时——可能被证明与 DNA 的发现一样具有开创性。他预测，通过严格询问 LLM 的“超凡脱俗的行为”，可能会出现新的概念框架。
他认为当前关于“智能”和“理解”含义的辩论与一个世纪前关于生命本质的讨论之间存在相似之处。当时，生命论者认为生命是一种非物理的力量——一种注入生物而不是岩石等生物的本质——而机械论者则认为生命可以完全用物理和化学过程来解释。正如 DNA 双螺旋结构的发现弥合了概念差距并改变了生物学一样，Sejnowski 预测 AI 的进步将带来有关智能的启示。
不断发展的理解
Sejnowski 解释说，AI 的圣杯是通用人工智能：一种可以像人类一样在各种任务中思考、学习和解决问题的机器。当前一代的 LLM 远非如此。一些研究人员贬义地称它们为“随机鹦鹉”，它们大多模仿人类语言，而没有真正的理解能力。
Sejnowski 认为，AI 的未来是跨学科合作的道路，其中生物学、神经科学和计算机科学的见解融合在一起，以指导 AI 的发展。Sejnowski 设想，关于“智能的基本原则”的见解——例如适应性、灵活性和从有限信息中做出一般推理的能力——将催化下一代机器智能。
AI 语言革命，即 Sejnowski 对 LLM 时代的称呼，已经在重塑人类生活的许多方面。随着 LLM 的发展，它们将超越其作为工具的主要角色，并开始在医疗保健、教育和法律等领域充当合作者。正如 AlphaFold 所示，这已经开始发生。作者在每章末尾大量使用 ChatGPT 提供摘要，与聊天机器人的对话在整本书中散落不定。他甚至开玩笑地承认 ChatGPT 是合著者。
LLM 的强大功能还在于用户如何与它们交互。Sejnowski 指出了提示工程越来越重要的技能，它强调你如何指导模型如何的细微变化可以塑造其输出。作者提供了有用的技巧：要求多个回答，而不仅仅是一个;具体，以便模型可以快速收敛到最佳答案;塑造您的对话，就像您正在与真人交谈一样。
Sejnowski 提出了一个“反向图灵测试”，其中根据提词器与 AI 的交互质量来评估提词者的智力。随着 AI 使用的普及，这种能力测试可能会变得普遍。
他推测，下一代 LLM 必须经历一个类似于人类童年学习阶段的发展过程，从现实世界的互动和数据中学习。必须整合长期记忆和以目标为导向的行为，以便系统能够有效地适应和规划。机器人和感觉运动系统的加入将使 AI 工具能够感知环境并与之交互，从而推动当前模型朝着人工通用自主性的方向发展。
尽管 Sejnowski 对这项技术持乐观态度，但他承认，为了确保 AI 的长期可持续性，还有许多未解决的挑战需要解决。它可能会扰乱各行各业和就业市场。而且，对大量计算处理能力的需求日益增加，使对更高效、更环保的 AI 模型的需求成为最前沿。
Sejnowski 写道，虽然还有一段路要走，但认真研究 AI 超越人类智能的可能性也很重要，因为现在做好准备将使我们能够预测和减轻潜在威胁。一个谨慎且监管良好的策略来管理道德和生存风险（例如 AI 引起的错误和 LLM 的政治武器化）对于确保 AI 造福社会至关重要。
ChatGPT 和 AI 的未来 阐述了下一波 AI 驱动的突破如何改变知识本身的格局。Sejnowski 的探索既是指南，也是警告，让我们了解 AI 快速发展的前景和风险。
转载本文请联系原作者获取授权，同时请注明本文来自孙学军科学网博客。
链接地址：https://wap.sciencenet.cn/blog-41174-1459899.html?mobile=1
收藏
