自哈勃1923年发现仙女座星系以来，天文学日益依赖大规模数据。当前，Vera C. Rubin Observatory的LSST、Euclid空间望远镜、SKA等设备正产生每日达PB至EB级的多波段、高维时序数据，远超传统分析方法的处理能力。机器学习，尤其是深度学习，凭借优异的模式识别与非线性和建模能力，已被广泛应用于星系分类、瞬变事件识别和宇宙学参数推断等任务。然而，此类模型往往缺乏决策透明度，阻碍了科学验证与理论发展。 近期，诺丁汉大学Maggie Lieu于Universe期刊发表综述，系统探讨可解释人工智能 (xAI) 在天文中的应用与挑战，涵盖强引力透镜搜寻、星系形态分类、瞬变天体检测和星系团质量估计等多个领域，展示了如何通过可解释性方法提升科学结果的可信度与物理一致性，为构建可靠的天文AI研究范式提供重要参考。

主要内容

构建可信的天文AI：核心原则与框架

在天文学中，AI的可信度建立在透明度、可解释性与可说明性三大支柱上。透明度指模型结构、参数与训练数据的可访问性；可解释性强调人类专家能理解输入与输出之间的因果关系；可说明性则通过事后解释工具 (如SHAP、LIME) 为黑箱模型提供局部或全局的决策依据。这些性质不仅帮助验证模型是否依赖物理相关特征 (如星系形态、光谱线)，还能识别数据偏差、模型过拟合或仪器伪影，从而防止得出虚假科学结论。尤其在自动化巡天时代，可解释性成为确保科学公平性与结果稳健性的关键。

AI在天文学中的发现与应用

AI已在多个天文子领域展现出变革性影响。在强引力透镜搜寻中，卷积神经网络 (CNN) 从大规模图像中识别出数千个候选体，远超传统方法效率，但其决策过程需借助显著图 (saliency maps) 或Grad-CAM等工具进行验证。在星系形态分类中，卷积神经网络虽自动化了分类流程，但需通过注意力机制判断其是否关注旋臂、棒状结构等物理特征，而非图像噪声。在瞬变天体检测中，实时分类与异常检测依赖机器学习，但解释性工具如显著图不仅能验证分类依据，还曾帮助发现新的脉冲星。此外，在星系团质量估计、银河系考古学等领域，AI不仅提升了测量精度，还通过可解释性分析揭示了模型依赖的物理特征 (如X射线外围光子分布)，增强了结果的科学可信度。

可解释机器学习方法概览

当前可解释ML方法主要包括特征重要性分析 (如Gini重要性、置换重要性)、显著图方法 (如Vanilla Saliency、Integrated Gradients、Grad-CAM)、模型无关工具 (如SHAP、LIME)，以及内置可解释性的模型 (如决策树、注意力机制、符号回归)。特征重要性可识别关键预测变量，显著图可视化图像中的决策区域，SHAP与LIME则提供局部特征贡献分解。符号回归能直接从数据中挖掘数学表达式，有望发现新的物理规律。此外，注意力机制、原型解释与物理信息神经网络 (PINNs) 也在提升模型透明度的同时保持高性能。然而，这些方法各有局限：显著图可能受模型结构干扰，SHAP计算成本高，符号回归搜索空间巨大。因此，常需多种方法交叉验证以提升解释可靠性。

图1. 展示了三种显著性映射方法在应用于一个经Galaxy MNIST图像数据集训练的卷积神经网络 (CNN) 时的可视化对比结果，该卷积神经网络用于对星系的不同形态 (如“平滑圆形”、“平滑雪茄形”、“侧向盘状”、“无棒旋涡”) 进行分类。

总结

可解释AI正成为天文学中不可或缺的工具，它不仅增强了模型的可信度与科学性，还促进了新物理现象的发现与理论构建。未来，随着机器学习模型愈发复杂，开发更高效、忠实且易用的可解释性方法将成为重点。结合物理先验的神经网络、因果推断、机制可解释性等方向具有广阔前景。同时，社区需建立标准化的评估基准与共享框架，推动可解释AI在天文中的规范化应用。只有通过持续的多学科合作与方法创新，才能确保AI成为天文学家真正可靠的研究伙伴，共同探索宇宙的奥秘。

阅读英文原文：https://www.mdpi.com/3352300

期刊主页：https://www.mdpi.com/journal/universe

Universe 期刊介绍

主编：Lorenzo Iorio, Ministero dell' Istruzione e del Merito, Italy

期刊涵盖宇宙学、引力、场论、量子力学基础、核物理与粒子物理、天体物理与天文学以及空间科学等研究领域。自2015年创刊以来，被SCIE (Web of Science)、Scopus、ADS等多个权威数据库收录。

2024 Impact Factor：2.6

2024 CiteScore：5.2

Time to First Decision：22.6 Days

Acceptance to Publication：3.4 Days