人工智能正在各行各业和整个社会中发挥着变革性的力量，为数据分析、自动化和决策领域带来了前所未有的发展。然而，人工智能迅速融入关键系统的过程中也产生了显著的安全隐患，因此亟需开展关于安全与隐私的深入研究。确保人工智能系统的稳健性、机密性和完整性不仅是技术挑战，更是实现可持续且可信赖技术进步的基础性要求。

核心挑战在于如何将安全与隐私原则从理论框架和受控实验环境中转化为现实世界中可扩展的应用。这需要应对各种非理想化条件，例如不断演变的对抗性攻击手段、复杂的监管环境、异构数据来源，以及模型性能与保护措施之间的内在权衡。推动该领域的发展，需要在强化人工智能系统安全性的同时，保持其实用性和创新潜力，实现新的突破。

Applied Sciences 邀请了东南大学冯磊教授合作创建特刊“Research of Security and Privacy in AI (人工智能中的安全与隐私研究)”。本期特刊欢迎原创研究文章和综述。研究领域包括 (但不限于) 以下内容：

1. 对抗性机器学习：攻击方法 (规避攻击、中毒攻击、后门攻击) 及其稳健防御策略；

2. 隐私保护型人工智能：联邦学习、差分隐私、同态加密和安全多方计算；

3. 人工智能模型的形式化验证与稳健性保障；

4. 人工智能供应链安全：训练数据、模型以及部署流程中的脆弱性；

5. 大型语言模型 (LLMs) 和生成式人工智能中的隐私风险，包括数据泄露和成员推断攻击；

6. 用于网络安全的人工智能：包括进攻性和防御性应用 (如威胁检测、自动化响应)；

7. 人工智能系统的网络安全：保护机器学习流水线、模型库和推理API；

8. 可解释性 (XAI) 和可理解性作为安全审计和信任构建的工具；

9. 边缘AI和物联网系统中的安全与隐私问题。

 投稿截止日期：2026年9月20日

• 客座编辑

冯磊 教授

东南大学计算机科学与工程学院教授、博导/硕导。博士毕业于新加坡南洋理工大学，研究方向为大模型智能体、人工智能安全、科学智能 (AI4S)。长期担任多个国际高水平会议 (如ICML、NeurIPS、ICLR) 的领域主席 (Area Chair)，并担任国际知名期刊 (如TMLR、NN) 的执行主编 (Action Editor)。目前已在国际高水平学术会议与期刊上发表论文100余篇，获得了ICLR 2022杰出论文奖荣誉提名、2024年世界人工智能大会青年优秀论文提名奖等荣誉，先后入选了2021年福布斯中国30位30岁以下精英榜 (科学领域)、2022年福布斯亚洲30位30岁以下精英榜 (科学领域)、2024年亚太30岁以下青年领袖榜、2025年全球前2%顶尖科学家榜。主持国家自然科学基金、中国人工智能学会-华为MindSpore学术奖励基金等项目。

研究领域：机器学习、数据挖掘和统计学，尤其侧重于解决多模态大型语言模型和人工智能代理所面临的各种安全/可靠性/稳健性/隐私方面的问题。

了解本特刊详情：https://www.mdpi.com/journal/applsci/special_issues/19URY6AS19

• Applied Sciences 期刊介绍

主编：Giulio Nicola Cerullo, Politecnico di Milano, Italy

期刊主题涵盖应用物理学、应用化学、工程、环境和地球科学以及应用生物学的各个方面。

2024 Impact Factor：2.5 

2024 CiteScore：5.5

Time to First Decision：16 Days

Acceptance to Publication：2.6 Days

期刊主页：https://www.mdpi.com/journal/applsci