主权AI定义与挑战

段玉聪

人工智能DIKWP测评国际标准委员会-主任

世界人工意识大会-主席

世界人工意识协会-理事长

(联系邮箱：duanyucong@hotmail.com) 

要点

• 主权AI定义：主权AI指由国家自主开发、训练和控制的综合性人工智能系统，具备高级学习、感知、推理、自我认知能力乃至测评，能够在特定文化背景下决策互动，体现本国文化和价值观。

• 系统内生偏见：主权AI需要具备对系统内部各层面内生偏见的识别和调控能力，包括数据偏见、信息偏见、知识偏见，以及智慧偏差和意图偏差。

• DIKWP测评体系：基于“数据-信息-知识-智慧-意图”模型构建的DIKWP偏见测评体系，可以识别和度量AI在五个层次上的偏见与失衡stdaily.com，并作为可信AI和安全主权AI体系的重要组成部分，提升模型治理能力baby.ifeng.com。

详细

主权AI是指由国家自主开发、训练和控制的综合性人工智能系统，拥有高级的学习、感知、推理和自我认知等能力，甚至具备自我测评的本领。这类人工智能能够在特定的文化背景下自主决策和人机互动，充分体现出本国的文化传承和价值观念。这意味着主权AI不仅是一项尖端技术，更是国家意志和价值在数字领域的延伸与体现，是保障数字时代国家主权和文化安全的重要支撑。

然而，要真正实现安全可靠的主权AI，我们必须正视AI系统内生的偏见问题。人工智能模型在数据获取、信息处理、知识构建、智慧决策乃至意图设定等各个层面，都可能产生偏见或偏差。例如，训练数据的偏颇可能导致数据偏见；信息筛选和表征过程中的不均衡会引发信息偏见；知识获取与推理规则的局限可能造成知识偏见；模型在复杂环境下决策能力的不足体现为智慧偏差；甚至在目标设定和价值导向上还可能出现意图偏差。这些偏见和偏差若不加以识别和调控，不仅会削弱AI系统的公平性与可靠性，更会使其偏离初衷，与主权AI所追求的符合本国利益和价值观的目标背道而驰。

为此，DIKWP偏见测评体系由段玉聪教授团队提出，成为识别和度量人工智能不同层次偏见的有效工具。DIKWP代表数据（Data）、信息（Information）、知识（Knowledge）、智慧（Wisdom）和意图（Purpose）五个层级。该测评体系基于这一五层认知模型，从数据层、信息层、知识层、智慧层到意图层，对AI模型进行全链路的偏见检测和评估stdaily.com。通过将模型的感知、推理和决策过程细分至上述各层级，DIKWP测评能够系统地发现模型在每一层面可能存在的偏见与失衡。例如，它可以通过白盒测试等手段，揭示模型在数据层面的训练偏差、信息处理层面的不公正现象、知识推理层面的漏洞，以及智慧决策和意图层面的倾向性错误。借助这种多层次的深入测评，我们可以全面剖析AI模型的认知与决策过程，准确定位其内部存在的弱点和偏倚。

将DIKWP测评结果运用于主权AI的治理实践，可以显著提升AI系统的可信度和安全性。作为可信AI和安全主权AI体系的重要组成部分，DIKWP偏见测评有助于我们及时发现并纠正模型中的不良倾向，确保AI的发展始终符合国家安全、社会公正和文化价值观的要求。通过在模型研发和部署中嵌入这样的偏见评估机制，我们可以使AI的每一步决策都更加透明、可控，大幅增强系统的安全性与可监管性baby.ifeng.com。这一能力将提升我国AI模型的治理水平，促进人工智能朝着更加可信、可控的方向发展，为构建安全可靠的主权AI生态提供有力支撑。