高质量的材料科学文本挖掘数据集构建方法

A high-quality dataset construction method for text mining in materials science

刘悦，刘大晖，葛献远，杨正伟，马舒畅，邹喆乂，施思齐

物理学报, 2023, 72(7): 070701.

doi: 10.7498/aps.72.20222316

原文链接    PDF

本文从品质和数量双视角剖析了材料领域的文本数据质量问题及其相关研究工作, 提出高质量的材料科学文本挖掘数据集构建方法。如图1所示，该管道包含可溯源的文献自动获取、下游任务驱动的文献预处理、标签定义与数据标注以及文本数据增强四个步骤。文章详细介绍了这四个步骤所涉及的技术工具、创新方法及其应用指南。

前三步在材料领域知识介入下确保构建过程与专家经验的一致性，从而提高文本数据的“质”。可溯源的文献数据获取与处理阶段通过建立数据之间以及数据与加工操作之间的关联，从而实现模型的数据和过程可追溯；基于从多个维度对化学与材料科学中常用的自然语言处理工具的分析与比较，下游任务驱动的文献预处理阶段对PDF格式文献进行解析以提取出可自由访问的纯文本信息，并借助标记化工具对所得的纯文本内容进行处理得到干净的文本序列；标签定义与数据标注阶段以加工工艺-结构-成分-性能四面体为准则，定义了8个通用的材料实体类型及其关系类型，并梳理了标签注释流程，藉此实现对大规模材料文本语料的手工标注。该标注方案允许对特定材料类别进行细粒度优化，以满足特殊场景下的挖掘需求。

第四步则聚焦材料文本数据“量”的扩增问题，提出融合材料领域知识的有条件文本数据增强模型cDA-DK。它将材料领域知识嵌入预训练语言模型中，通过微调使其学习材料领域词汇特征，从而动态生成高质量的材料文本数据。在NASICON和Matscholar两份数据集上的实验结果表明，cDA-DK凭借少量训练样本即可超过在原始训练样本规模下的预测精度。其中，在NASICON实体识别任务上的F1值可达84%。该方法降低了大规模有监督材料科学文本数据集在构建过程中的高昂开销，还能有效提高下游文本挖掘模型的预测精度，对进一步提升材料文本挖掘的普适性、准确性和实用价值具有十分重要的意义。

文章融合领域知识对材料科学文本数据进行构建约束和样本增强，有助于提升文本数据的“质”并扩增建模所用数据的“量”，从而实现高质量材料科学文本挖掘数据集的获取。最后，以NASICON型固态电解质材料为例对材料科学文本挖掘的潜在应用和未来发展趋势进行了分析与展望。该文为利用文本挖掘技术进行材料科学研究的读者提供一个集方法、流程和工具于一体的参考，希望吸引更多的国内研究人员了解并进入材料科学文本挖掘这个充满活力的新兴领域。

图1  高质量材料文本挖掘数据集构建管道

Fig. 1. The pipeline for constructing high-quality datasets for materials text mining.