【摘要】在电力通信领域，需要对承载电力通信网络的光缆、设备等各类通信资源开展检修工作，但是很多重要文件（如通道核查表、三措一案等）以非结构化数据的形式存在（word、pdf 扫描件、jpeg 图像等），这些非结构化数据信息需要转换为文字信息，方便数据分析与管理。但是，传统手工录入的方法效率不高，且准确率低。为了提升数据抽取的准确率，本文提出一种基于神经网络的文字信息提取技术，使用基于 Transformer 的网络结构捕获上下文信息，能有效提升模型性能。另外，为了减少模型参数量，在尽量减少对模型性能影响的情况下对模型进行参数压缩。本研究在电力通信领域收集并整理了相关数据集，用于模型训练和测试。本文所提模型的性能在收集的数据集中测试，证明模型在电力通信领域具有实用性。