最近一段时间,西方一些主要大国一直强调“负责任的人工智能”。例如:
1、2022年6月,美国防部发布《负责任的人工智能战略和实施路径》,阐明了国防部如何利用人工智能的框架,制定实施人工智能的基本原则。内容主要包括:明确调整管理结构和流程,持续监督国防部人工智能使用;创建可信的人工智能系统和人工智能赋能系统;使人工智能开发速度满足国防部需求;使用需求验证程序,确保人工智能能力与作战需求保持一致,同时解决相关的人工智能风险;确保国防部所有人工智能人员理解实施人工智能的技术、开发过程和操作方法。2023年11月20日消息,美国国防部又推出“负责任的人工智能”(RAI)工具包,旨在推动整个部门负责任地使用该技术,并为其寻找更多用例,同时努力减轻损害。RAI工具包拥有70种工具,用于评估、审核、记录和降低偏见等用途,同时还将配备AI事件存储库和数据库。
2、2023年11月1-2日,全球首届人工智能安全峰会于1日至2日在英国布莱奇利园举行,峰会发布《布莱奇利宣言》。《宣言》认为,对于前沿人工智能技术有意识滥用或者无意识控制方面的问题,可能会引发巨大风险,尤其是在网络安全、生物技术和加剧传播虚假信息等方面。这是首次通过国际共识方式承认并正视人工智能的副作用,以及“快速发展的相关技术所带来的最紧迫风险”,承认“需要采取国际行动”以设定共同的监管方法。
3、2023年11月9日,美国国务院发布《2024—2025财年AI战略:通过负责任的AI赋能外交》(EAIS),这是美国国务院第一份全面迎接AI时代的到来提出的应用指导性文件。为负责任地、安全地利用AI来推进美国外交工作,该战略文件确定了4个目标:(1)利用安全的AI基础设施;(2)培育拥抱AI技术的文化;(3)确保负责任地应用AI;(4)创新改革。
实际上,西方“负责任的人工智能”与东方的“人机环境系统智能”(天地人)理念密切相关,即“负责任”是人的负责任,“人工智能”涉及机器的软件和硬件,“负责任的人工智能”一定是在特定环境下的“负责任的人工智能”。
西方的“负责任的人工智能”理念强调的是人类在开发和使用人工智能技术时应负有责任。这包括确保人工智能系统的安全性、可解释性、公平性和隐私保护等方面的要求,以及确保人工智能系统不会对人类社会和环境造成负面影响。
与此相对应,东方的“人机环境系统智能”理念强调了人与机器之间的合作和互动,强调机器智能的实现应该是为了增强人类的能力和改善人类生活。这个理念强调了人机环境系统的整体智能,即人和机器在特定环境下共同参与决策和问题解决,通过机器的智能来助力人类的决策和行动。
因此,“负责任的人工智能”与“人机环境系统智能”理念密切相关。在实现“负责任的人工智能”时,需要将机器智能与人类的意愿和价值观融合在一起,使机器智能能够与人类协同工作并为人类服务,而不是代替人类或对人类产生负面影响。在特定环境下的“负责任的人工智能”即是指在特定的人机环境系统中,通过合理的设计和规划,实现了人与机器之间的有效互动和智能合作。
负责任的人工智能系统需要考虑人、机、环境的特点和需求,以确保其在特定环境下能够正确地理解、适应和应用知识、技能和经验。人机环境系统智能通常包括以下几个方面:
一、感知与理解
负责任的人工智能需要能够感知和理解环境中的各种信息,包括图像、声音、语言等。通过使用各种传感器和算法,AI可以对环境进行感知和理解,并将这些信息转化为可处理的数据。即负责任的人工智能需要具备以下能力:
1、图像感知:AI能够使用图像传感器获取视觉信息,并使用算法对图像进行分析和处理,识别和理解图像中的物体、场景和活动。
2、声音感知:AI可以使用麦克风等声音传感器获取声音信息,并使用语音识别算法将声音转化为可识别和处理的文本。
3、语言理解:AI能够理解和解释人类语言,包括口语和书面语。它可以识别语言中的词汇、语法和语义,并理解语言表达的意图和情感。
4、环境理解:AI可以将感知到的信息与已有的知识和经验进行比对,理解环境中发生的事件和情况,并推测未知或缺失的信息。
5、数据处理:AI可以将感知到的信息转化为可处理的数据形式,如结构化数据或向量表示,以便进行进一步的分析和决策。
通过具备以上能力,负责任的人工智能可以更有效地与人类进行交互,适应不同的应用场景,并根据环境中的信息做出具有可解释性和可信度的决策。
二、决策与规划
负责任的人工智能需要能够根据环境和任务的要求做出合理的决策和规划。通过分析和评估各种可能的选择,AI可以选择最佳的行动方案,并制定相应的规划策略。这就需要AI具备以下几个关键能力:
1、推理能力:AI需要能够对环境和任务的各种要求进行推理和分析,理解问题的复杂性和特殊性,并识别出可能的选择和行动方案。
2、决策能力:AI需要能够评估各种可能的选择,并根据目标和约束条件进行权衡和决策。这需要AI具备合理的优化和决策算法,能够在有限的资源和时间内找到最优解或最佳近似解。
3、规划能力:AI需要能够制定长期和短期的规划策略,根据当前的环境和任务状态进行规划和调整。这包括制定行动序列、资源分配、时间安排等方面的规划。
4、学习能力:AI需要能够从经验和反馈中学习,并不断改进自己的决策和规划能力。这需要AI具备强大的机器学习和自适应算法,能够自动调整和优化自己的行为。
负责任的人工智能不仅仅是能够做出合理的决策和规划,还需要考虑伦理和法律的因素,保证其行为符合社会和道德的要求。因此,在开发负责任的人工智能时,还需要考虑到透明度、公正性、隐私保护等方面的问题,并建立相应的监管和约束机制。
三、交互与合作
负责任的人工智能需要能够与人类用户、其他AI系统或其他机器进行有效的交互和合作。通过使用自然语言处理、机器学习和其他技术,AI可以理解人类用户的需求并与其进行有效的交流。这种沟通能力使得人工智能能够在各种领域和任务中与人类用户合作,例如智能助手、虚拟客服和机器翻译等。负责任的人工智能还可以与其他AI系统进行交互和合作,共同完成复杂的任务,如无人驾驶车辆的协同工作和智能家居系统的联动操作。为了实现有效的交互和合作,负责任的人工智能需要具备以下能力:
1、自然语言处理:AI系统需要能够理解人类用户使用的自然语言,包括语义理解和语言生成的能力。这涉及到词义的理解、上下文的推断和逻辑推理等。
2、机器学习:AI系统可以通过机器学习技术从大量的数据中学习人类用户的喜好、习惯和行为模式,从而更好地适应用户的需求,并提供个性化的服务。
3、合作和协同:负责任的人工智能需要具备合作和协同的能力,可以与其他AI系统或机器进行交互和合作,共同完成任务。这可能涉及到信息的共享、任务的分配和协调等。
4、社交技能:AI系统需要具备一定的社交技能,能够与人类用户进行有效的交流,并表现出一定的情感和人性化。这有助于建立用户信任和满意度。
四、适应与学习
负责任的人工智能需要能够适应不同的环境和任务,并通过学习和经验积累改进自身的性能。通过使用机器学习和深度学习等算法,AI可以从大量的实例和数据中学习,并不断优化自身的表现,以适应不同的环境和任务,并根据不同的情况做出智能决策。它可以从过去的经验中学习,并根据新的数据进行优化,不断提高自身的性能。这种AI还可以通过与人类的交互和反馈来进一步改进自己,使其能更好地满足人类的需求和期望。这种能够适应和改进的AI具有很大的潜力,在各个领域都能发挥重要的作用,如医疗、交通、金融等。和复杂的环境中适应和处理各种情况,避免因为一点小问题而失败或产生错误结果。
1、安全性与隐私保护:AI应该保护用户的个人隐私,并遵守相关的法规和伦理要求。它也应该设计成防止被滥用或被不法分子利用的系统。
2、可持续性与可扩展性:AI的发展应该是可持续的,并能够在不断变化的环境中扩展和改进。同时,应该考虑到AI对资源的使用和环境的影响,以减少对环境的负面影响。
3、公平性与平等待遇:AI应该避免偏见和歧视,确保在处理任务和做决策时对待所有人都是公平和平等的。
负责任的人工智能和人机环境系统智能之间的关系是相互促进的。负责任的人工智能强调在开发和应用人工智能技术时要考虑道德、法律和社会影响等因素。它关注人工智能系统的透明度、公正性、隐私保护等方面,旨在确保人工智能系统不会对人类造成伤害或不公正对待个人或群体。人机环境系统智能是指利用人工智能技术来改善和优化人与机器及环境之间的交互与协作。它关注人机交互的智能化,旨在提高人与机器的沟通效率和人机协同能力。通过人机环境系统智能,人们可以更轻松地与智能系统进行交互,从而更好地利用智能系统来完成各种任务。
总之,负责任的人工智能和人机环境系统智能是相互依存、相互促进的。它们通过合理的设计和应用,可以更好地服务于人类用户,提高生产效率和生活质量。负责任的人工智能与人机环境系统智能的密切相关性使得它们能够更好地服务于人类用户,并在特定环境下发挥出更高的效能。通过合理的设计和应用,它们可以帮助人类完成各种复杂的任务,提高生产效率和生活质量。
转载本文请联系原作者获取授权,同时请注明本文来自刘伟科学网博客。
链接地址:https://wap.sciencenet.cn/blog-40841-1413144.html?mobile=1
收藏