基于可伸缩型注意力机制的神经网络地震数据去噪方法

doi:10.11720/wtyht.2024.1380

基于可伸缩型注意力机制的神经网络地震数据去噪方法

张敏^,¹^,², 许一卓¹^,², 易继东¹^,²

1.中国石油大学(华东) 地球科学与技术学院,山东青岛 266580

2.深层油气重点实验室,山东青岛 266580

A method for seismic data denoising based on the neural network with a retractable attention mechanism

ZHANG Min^,¹^,², XU Yi-Zhuo¹^,², YI Ji-Dong¹^,²

1. School of Geosciences,China University of Petroleum(East China),Qingdao 266580,China

2. Key Laboratory of Deep Oil and Gas,Qingdao 266580,China

第一作者: 张敏(1983-),女,高级实验师,主要从事地震数据去噪、速度反演和地震波成像方面的研究工作。Email:zhangm@upc.edu.cn

责任编辑: 叶佩

收稿日期: 2023-09-20 修回日期: 2024-03-28

基金资助:

国家自然科学基金项目(42074133)
中石油重大科技合作项目(ZD2019-183-003)

Received: 2023-09-20 Revised: 2024-03-28

摘要

地震资料中的随机噪声会影响地震数据的质量,从而影响后续处理与解释的准确性。传统去噪方法受先验条件的约束,效率低下,神经网络具有强大的特征提取能力,能够弥补这些缺点。然而,由于传统神经网络卷积核的局限性,可能会导致全局信息丢失。为了克服这个缺点,本文在卷积神经网络(CNN)的基础上,添加了可伸缩型注意力机制。该机制在网络中同时呈现密集和稀疏两种类型的自注意力模块,这两种注意力模块交替使用可以显著增强神经网络的表现能力,扩大接受场。通过卷积层和注意力模块提取地震数据浅层特征和深层特征,结合CNN的局部建模能力和Transformer的全局建模能力,有利于提升网络的全局交互作用,增强其去除噪声和处理细节的能力。最后,合成和实际地震数据实验结果均表明,该方法相较于Unet和DnCNN,具有更好的噪声压制与保留地震数据有效信息的能力,可以大幅提高信噪比,为地震数据的处理和解释提供帮助。

关键词： 随机噪声; 卷积神经网络; 可伸缩型注意力机制; Transformer

Abstract

Random noise in seismic data impairs the quality of the data,thus affecting the accuracy of subsequent processing and interpretation.Conventional denoising methods,constrained by prior conditions,exhibit low efficiency.Neural networks possess a strong feature extraction ability,which can make up for these shortcomings.However,the limitations of convolution kernels in conventional neural networks may lead to the loss of global information.Hence,this study introduced a retractable attention mechanism to the convolutional neural network (CNN).This mechanism presents both dense and sparse self-attention modules in the CNN.The alternate use of the two self-attention modules can significantly enhance the performance of the CNN and expand the receptive field.The shallow and deep features of seismic data were extracted using the convolutional layer and self-attention modules.Combined with CNN's local modeling ability and Transformer's global modeling ability,they contributed to enhancing CNN's global interaction and ability to reduce noise and deal with details.As indicated by the experimental results of synthetic and field data,the method used in this study can more effectively suppress noise and retain effective information of seismic data compared to Unet and DnCNN,significantly improving the signal-to-noise ratio and thus assisting in the processing and interpretation of seismic data.

Keywords： random noise; convolutional neural network; retractable attention mechanism; Transformer

PDF (8334KB) 元数据多维度评价相关文章导出 EndNote| Ris| Bibtex 收藏本文

本文引用格式

张敏, 许一卓, 易继东. 基于可伸缩型注意力机制的神经网络地震数据去噪方法[J]. 物探与化探, 2024, 48(4): 1065-1075 doi:10.11720/wtyht.2024.1380

ZHANG Min, XU Yi-Zhuo, YI Ji-Dong. A method for seismic data denoising based on the neural network with a retractable attention mechanism[J]. Geophysical and Geochemical Exploration, 2024, 48(4): 1065-1075 doi:10.11720/wtyht.2024.1380

0 引言

由于环境干扰或人为因素的影响,实际采集到的地震数据不可避免的存在各种噪声,随机噪声作为其中的一种背景噪声广泛存在于地震资料中,较强的随机噪声会给后续地震数据处理与解释造成很大的困难,严重影响反演和偏移成像的精度^[1]。在实际生产工作中,地震数据处理通常需要满足“三高”要求,即高信噪比(SNR)、高分辨率和高保真度。因此,有效地去除随机噪声,提高信噪比是地震数据处理重要任务之一。传统地震数据去噪方法是根据地震数据的信号和噪声特性来去除噪声,主要包括基于稀疏变换的方法,如Wavelet变换^[2-3]、Curvelet变换^[4-5]、Radon变换^[6]等;基于预测滤波的方法,如中值滤波^[7-8]、f-x反褶积^[9]等;基于波动方程的方法^[10]和基于矩阵降秩的方法^[11-12]。但由于传统方法往往存在需要满足某些假设,受到先验条件的约束,并需要人工调节超参数,导致该方式效率低下,自动化程度低。因此,目前亟需一种科学且高效的去噪方法来满足地震勘探高精度要求。

为了解决这些问题,基于深度学习的去噪方法受到了越来越多的关注,并在地震去噪领域得到了广泛应用^[13⇓-15]。随机噪声,由于其随机性,不具有任何稳定的统计特性,不与地震数据中的任何真实信息相关联,因此网络可以学会识别并预测它。深度学习通过神经网络从训练集中学习含噪数据与干净数据之间的关系,能够有效地区分地震数据的有效信号和随机噪声,从而实现地震数据噪声衰减。与传统方法相比,这种方法无需花费大量时间进行参数调整,可以在较短的时间内完成去噪处理。其中卷积神经网络(CNN)是目前备受关注的神经网络之一,其能够学习到地震数据中的各个层次结构^[16-17]。在浅层,它们可以学习到地震数据简单的纹理结构。而在深层,网络可以学习到地震数据更复杂的结构特征。随机噪声往往没有这种层次结构,因此在训练中通常被视为不相关的扰动,因此这种层次结构使得网络可以区分地震数据中的有效信息和随机噪声。Si等^[18]使用去噪卷积神经网络(DnCNN)成功压制了地震数据中的随机噪声,去噪效果优于传统方法。王钰清等^[19]使用数据增广的方法,利用CNN网络对地震数据随机噪声进行衰减。罗仁泽等^[20]在Unet的基础上引入残差块,增强了网络的泛化能力,在去除随机噪声的同时保护了有效信号。尽管大多数基于CNN的方法在地震数据噪声压制方面已经取得了不错的效果,但研究发现CNN的卷积层存在几个问题^[21⇓-23]。如传统神经网络的卷积核与地震数据内容无关,卷积核仅能探测到与其卷积的局部邻域内的特征,只能捕捉局部依赖关系,而对于地震数据中的全局特征,需要堆叠多个卷积层或使用全连接层。当进行长期依赖型建模时,可能会造成全局信息丢失,严重影响后续地震数据的恢复。

为了克服这个缺点,有学者提出了一种以Transformer为新骨干的网络,称为Swin Transformer,目前已经在越来越多的计算机视觉任务中,如图像分割、目标检测、图像恢复等领域都取得了不错的效果,性能效率甚至超越了CNN^{[24⇓⇓-27]}。Transformer通过自注意力机制可以更好地捕捉数据中的关系和依赖,不仅能够对不同长度的输入数据进行处理,还能对数据中的所有位置进行建模,有助于提高网络的准确性、灵活性和全局建模能力。本文尝试将Swin Transformer作为主骨干网络,并进一步结合CNN的特性,构成Swin Transformer去噪卷积神经网络(STCNN)对地震数据噪声进行压制。本研究的创新性主要体现在引入了一种可伸缩型注意力机制,该机制结合了密集注意力模块(DAB)和稀疏注意力模块(SAB)。在地震数据处理中,DAB模块采用非重叠局部窗口来学习地震数据的局部特征,而SAB模块则使用稀疏网格捕获更全局的信息并强调网络表示的稀疏性。随机噪声由于其随机性通常不是重要特征,因此在稀疏表示中往往被忽略,所以稀疏性表示有助于网络学习到最重要的特征来重建地震数据。这两种注意力模块在STCNN中交替使用,构成了一种可伸缩型注意力机制。使得网络能够更精准地学习地震数据的复杂依赖关系,有助于增强网络获取地震数据局部信息与全局信息的能力,进一步提升网络的去噪性能和保护地震有效信号的能力。最后通过合成数据和实际地震数据实验,与Unet和DnCNN两种传统神经网络的结果进行对比,验证了本文所使用的STCNN方法的有效性。

1 方法原理

1.1 深度学习噪声压制模型

通常采集到的地震数据包含两个部分,有效信息和噪声,表达式为:

(1)

I = \overset{⌒}{I} + v

式中: $I$ 表示采集到的地震数据, $\overset{⌒}{I}$ 表示所需的无噪地震数据, $v$ 表示噪声数据。深度学习去噪的目的是从含噪地震数据中减去得到的噪声分布 $v$ ,以获得近似于无噪的地震数据 $\overset{⌒}{I}$ 。噪声分布 $v$ 由网络训练出来的预测模型得到。

在噪声未知的情况下,通过STCNN建立 $\overset{⌒}{I}$ 和 $I$ 的关系,公式为:

(2)

\overset{⌒}{I} = N e t_{S T C N N} (I; ψ)

式中: $N e t_{S T C N N}$ 表示神经网络STCNN, $ψ = (a, b)$ 表示矩阵的权重 $a$ 和偏差 $b$ 。

1.2 网络结构设计

STCNN结合了CNN与Transformer并引入残差网络,网络模型整体架构如图1所示。为了提高训练精度,防止过拟合,STCNN利用残差连接构建深度特征提取模块。对于输入的含噪地震数据 $I$ ,首先利用 $3 \times 3$ 卷积层获得浅层特征 $F_{0}$ ,并对得到的浅层特征进行归一化后进入由Swin Transformer组成的自注意力模块残差组中,提取地震数据的深度特征。再通过一个 $3 \times 3$ 卷积得到新的特征 $F_{1}$ ,对得到的这些特征逐个求和后得到最终特征映射 $F_{I} = F_{0} + F_{1}$ 。最后利用重建模块从特征映射 $F_{I}$ 中恢复生成高质量的去噪地震数据 $\overset{⌒}{I}$ 。

图1

新窗口打开| 下载原图ZIP| 生成PPT

图1 STCNN网络模型

Fig.1 STCNN network model

1.3 残差组

为了更好地提取地震数据的深层特征,网络采用 $N_{B}$ 个连续残差组,其中每个残差组由 $N_{A}$ 对自注意力模块,自注意力模块由DAB与SAB组成,两者成对存在并连续。默认设置 $N_{B}$ 为17, $N_{A}$ 为2。

DAB和SAB的内部结构如图2所示, $F_{0}$ 归一化后得到特征 $x_{l - 1}$ 进入自注意力模块,首先通过归一化层(LN)和多头自注意力(MSA)得到 ${\hat{x}}_{l}$ ,再进入多层感知机(MLP)得到 $x_{l}$ 。这一过程的公式如下所示:

(3)

{\hat{x}}_{l} = M S A [L N (x_{l - 1})] + x_{l - 1}

(4)

x_{l} = M L P [L N ({\hat{x}}_{l})] + {\hat{x}}_{l}

。

图2

新窗口打开| 下载原图ZIP| 生成PPT

图2 残差组

Fig.2 Residual group

由自注意力模块得到的 $x_{l}$ ,最后经过 $3 \times 3$ 卷积层与残差链接获得残差组的最终输出,此处残差链接的作用是提高训练精度,防止过拟合。

地震数据的深度特征提取主要集中在多头自注意力机制(MSA)中。此时MSA的计算公式为:

(5)

M S A (m) = S o f t m a x (\frac{Q K^{T}}{\sqrt{C}}) V

式中:Q、K、V分别为来自地震信号输入m∈I^N^×^C的query(查询向量)、key(键向量)和value(值向量), $N$ 为地震信号长度, $C$ 为维度。 $S o f t m a x$ 为归一化指数函数,作用是将结果转化为非负数,并使得结果概率之和为1。

为了对比MSA改进前后的计算复杂度,假设输入的地震数据尺寸大小为 $H \times D$ ,将地震数据切割成步长为 $P$ 的小块,建立新的特征投影 $\overset{⌒}{X} \in I^{h \times w \times C}$ ,其中 $h = \frac{H}{p}$ , $w = \frac{D}{P}$ 。MSA提取特征信息计算公式为:

(6)

Ω (M S A) = 4 h w C^{2} + 2 {(h w)}^{2} C

。

如图3a所示,DAB中的密集注意力(D-MSA)是将每个特征与非重叠邻近窗口的特征信息进行交互计算,每个窗口尺寸为 $W \times W$ ,共进行 $\frac{h}{W} \times \frac{w}{W}$ 次自注意力计算,D-MSA计算复杂度为:

(7)

Ω (D - M S A) = 4 h w C^{2} + 2 W^{2} h w C

。

图3

新窗口打开| 下载原图ZIP| 生成PPT

图3 密集注意力(D-MSA)与稀疏自注意力(S-MSA)

a—密集注意力;b—稀疏注意力

Fig.3 Dense attention and sparse attention

a—dense attention;b—sparse attention

如图3b所示,SAB中的稀疏注意力(S-MSA)就是使每个特征与特征间隔为 $K$ 的稀疏区域内的特征信息进行交互计算,每组有 $\frac{h}{K} \times \frac{w}{K}$ 个特征信息,共进行 $K \times K$ 次自注意力计算,S-MSA计算复杂度为:

(8)

Ω (S - M S A) = 4 h w C^{2} + 2 \frac{h}{K} \frac{w}{K} h w C

由于 $W^{2} ≪ h w$ 和 $\frac{h}{K} \times \frac{w}{K} ≪ h w$ ,所以本文选用的D-MSA和S-MSA具有更低的计算复杂度,节约计算成本。

假设图3为截取的地震数据,总共被分成4块,每块中的特征信息之间可以交互计算,DAB利用固定的非重叠局部窗口获取地震数据密集区域的特征信息,SAB则以稀疏网格的形式学习较远区域的特征信息,具有更强的补充全局信息的能力。为了更好提取地震数据的深度特征,通过交替使用DAB和SAB,构建成可伸缩型注意力机制,这样既可以学习到局部密集区域的特征从而获取地震数据的局部信息,也可以学习到全局稀疏区域的特征从而获取地震数据的全局信息,扩大了接受场,增强了网络处理细节和保护有效信息的能力。

1.4 重建模块

重建模块就是直接使用 $3 \times 3$ 卷积层,将输出的图像恢复成输入地震数据的尺寸大小。此外,还需要使用残差链接,将原始地震数据特征也添加到重建模块中,以获得更多的地震有效信息,减少误差,从而生成高质量去噪后的地震数据 $\hat{I}$ 。整个过程公式为:

(9)

\hat{I} = C o n v (F_{I}) + I

。

损失函数是衡量模型预测与真实值之间差异的量度,为了得到更好的去噪效果,本文选择使用Charbonnier损失函数 $L$ ,该损失函数最大的优点就是对异常值不敏感,防止误差过大,提高训练效率。 $L$ 值越小说明模型的预测越接近于真实数据,这通常意味着去噪效果更好。

(10)

L = \sqrt{‖ \hat{I} - I ‖^{2} + ε^{2}}

式中: $\hat{I}$ 为去噪后的地震数据, $I$ 为原始地震数据, $ε$ 为超参数(一般设置为 $10^{- 3}$ )。

2 数据实验与分析

2.1 实验设置

为了测试STCNN方法对随机噪声的压制效果,本文使用合成地震数据和实际地震数据进行训练、验证和测试并与传统神经网络DnCNN和Unet进行对比。所有实验均在Pytorch环境中进行,使用电脑配置CPU为Intel (R) Core (TM) i5-7500 CPU,主频为3.40 GHz,GPU为NVIDIA GeForce GTX 3060 Ti,内存为64 GB。

在合成地震数据实验中,通过正演得到共100炮,每炮有601道和3 001个采样点的合成地震数据。将合成地震数据切成64×64的小块,并对其中50%的数据进行180°旋转,新增旋转后的数据加入到数据集中,从而得到标签数据集。对数据集旋转可以扩充数据集和增加数据集的多样性,有助于提高网络训练效果,降低过拟合。对标签数据集添加不同等级信噪比的随机高斯噪声,目的是提升模型的泛化能力,针对不同等级的噪声都有很好的去噪能力,从而获取特征数据集。经过以上预处理总共得到了包含标签数据集与特征数据集在内的20 000个合成地震数据集,如图4所示。最后,对合成地震数据集进行归一化处理,并将其分配成比例为80%、10%、10%的训练集、验证集和测试集。损失函数选用Charbonnier损失函数,目的是检验模型预测的噪声与数据集添加的噪声之间的差别,评估预测值是否达到稳定,此损失函数最主要的特点就是对异常值不敏感,避免过于放大误差。优化器选用Adan,此优化器结合了自适应优化器、Nesterov冲量以及解耦的权重衰减策略的优点,可以承受更大的学习率和bach size,加快收敛,提高训练效率,此处batch size设置为16。初始学习率设置为0.000 1,共训练50个epochs。

图4

新窗口打开| 下载原图ZIP| 生成PPT

图4 合成地震数据的部分训练样本

Fig.4 Partial training samples of synthetic seismic data

在实际地震数据实验中,选取经过处理过的实际地震数据作为标签数据集,同样对标签数据集添加不同等级信噪比的随机噪声作为特征数据集,两者共同组成实际地震数据训练样本集。因实际地震数据训练样本非常少,所以需要对其进行数据增广,采用镜像、旋转的方式扩充训练样本集,最终生成5 000个大小为64×64的实际地震数据训练样本集,如图5所示。选取同一区域未经处理的另一部分实际数据作为测试数据,该数据大小为128道,每道512个采样点,采样间隔为4 ms。此阶段为实际地震数据的优化训练阶段,使用了基于合成地震数据训练得到的模型,在其基础上进一步优化,形成针对特定实际地震数据进行随机噪声压制的网络模型,主要起引导优化作用。

图5

新窗口打开| 下载原图ZIP| 生成PPT

图5 实际地震数据的部分训练样本

Fig.5 Partial training samples of real seismic data

本文综合以往专家学者评价指标,选用峰值信噪比(peak signal to noise ratio,PSNR)和结构相似性(structural similarity,SSIM)作为评价网络训练结果的好坏。分别如下式所示:

(11)

M S E = \frac{\sum_{i = 1}^{n} {(I - \overset{⌒}{I})}^{2}}{n}

(12)

P S N R = 10 \cdot l g (\frac{{I^{2}}_{m a x}}{M S E})

(13)

S S I M = \frac{(2 μ_{Ⅰ} μ_{\hat{Ⅰ}} + c_{1}) (2 σ_{\hat{Ⅱ}} + c_{2})}{(μ_{Ⅰ}^{2} + μ_{\hat{Ⅰ}}^{2} + c_{1}) (σ_{Ⅰ}^{2} + σ_{\hat{Ⅰ}}^{2} + c_{2})}

式中:MSE表示输入数据与去完噪后地震数据之间的均方误差, $I$ 表示输入数据, $\hat{I}$ 表示去噪后的数据,n表示数据总数, $I_{m a x}$ 表示输入数据中最大值,PSNR越大,说明去噪后得到的地震数据峰值信噪比越高,残留的噪声也就越多,效果就越差; $μ_{I}$ 表示输入数据的均值, $μ_{\hat{Ⅰ}}$ 表示去噪后数据的均值, $σ_{Ⅰ}^{2}$ 表示输入数据的方差, $σ_{\hat{Ⅰ}}^{2}$ 表示去噪后数据的方差, $σ_{\hat{Ⅱ}}$ 表示输入数据与去噪后数据之间的协方差,因为分母不能为0,所以 $c_{1}$ 和 $c_{2}$ 是选取大于0常数。 $S S I M \in [0,1]$ , $S S I M$ 越接近1,说明去噪后的地震数据与输入数据相似度越高,去噪效果就越好。

2.2 实验结果及分析

2.2.1 合成地震数据测试

图6a是干净的合成地震数据,对合成地震数据添加不同等级的随机高斯白噪后,选取噪声等级为20%的地震数据展示,其峰值信噪比为12.57 dB,如图6b所示,能够看出红色矩形区域内地震信号被噪声严重破坏。

图6

新窗口打开| 下载原图ZIP| 生成PPT

图6 合成的地震数据(a)及含噪地震数据(b)

Fig.6 Synthetic seismic data(a) and noisy seismic data(b)

DnCNN、Unet和STCNN对含噪地震数据的去噪效果如图7所示,可以看出3种方法都去除了大部分的随机噪声,但图7a中DnCNN的去噪结果在红色矩形处出现了明显的同相轴中断现象,地震信号受到了破坏,而图7d的Unet和图7g的STCNN在同相轴连续性方面优于DnCNN。从差值剖面图可以明显发现,图7e的Unet和图7b的DnCNN存在明显的有效信息损失情况,而图7h的STCNN的有效信息损失相对较少。利用局部相似图也可以获得同样的结论,局部相似图是指通过显示去噪结果与去除掉噪声之间局部相似性来评估各个方法在去噪过程中出现的有效信息损失情况。对比图7c、f、i,STCNN的相似图明显浅于DnCNN和Unet,说明相对而言STCNN对地震资料的有效信息破坏最小。经计算,图7c的DnCNN的SSIM为0.901 5,图7f的Unet的SSIM为0.928 6,图7i的STCNN的SSIM为0.9474低于DnCNN和Unet,从数值上可以证明STCNN在保留有效信息方面强于DnCNN和Unet。对比3种方法去噪后的PSNR,Unet与DnCNN去噪后的PSNR分别为29.62 dB和28.31 dB,而STCNN去噪后的PSNR为31.12 dB略高于Unet和DnCNN,说明STCNN相比较而言拥有更强的噪声压制能力。综合比较,无论是噪声压制,恢复地震信号还是对有效信息的保护,STCNN都有较为不错的表现,去噪性能优于Unet和DnCNN。

图7

新窗口打开| 下载原图ZIP| 生成PPT

图7 3种去噪方法在合成地震数据中的测试结果

a—DnCNN去噪结果;b—DnCNN去除的噪声;c—a和b的局部相似图;d—Unet去噪结果;e—Unet去除的噪声;f—d和e的局部相似图;g—STCNN去噪结果;h—STCNN去除的噪声;i—g和h的局部相似图

Fig.7 Results of three denoising methods in synthetic seismic data

a—DnCNN denoising result;b—noise data removed by DnCNN;c—similarity map between panels fig.a and fig.b;d—Unet denoising result;e—noise data removed by Unet;f—similarity map between panels fig.d and fig.e;g—STCNN denoising result;h—noise data removed by STCNN;i—similarity map between panels fig.g and fig.h

为了更直观、清晰地比较3种方法的去噪效果,本文将去噪结果转换成f-k域进行分析。如图8c、d所示,DnCNN和Unet的f-k谱在高频低波数处都有一定的有效信息损失。而图8e所示的STCNN方法则基本上恢复了地震信号,没有明显的噪声残留和有效信息损失,与干净地震信号f-k谱差别最小。

图8

新窗口打开| 下载原图ZIP| 生成PPT

图8 3种去噪方法在合成地震数据测试中的f-k谱对比

a—干净地震数据的f-k谱;b—含噪地震数据的f-k谱;c—DnCNN去噪结果的f-k谱;d—Unet去噪结果的f-k谱;e—STCNN去噪结果的f-k谱;f—DnCNN去除噪声的f-k谱;g—Unet去除噪声的f-k谱;h—STCNN去除噪声的f-k谱

Fig.8 Comparison of the f-k spectrum of three denoising results in synthetic seismic data testing

a—f-k spectra of clean seismic data;b—f-k spectra of noisy seismic data;c—f-k spectra of DnCNN denoising result;d—f-k spectra of Unet denoising result;e—f-k spectra of STCNN denoising result;f—f-k spectra of noise data removed by DnCNN;g—f-k spectra of noise data removed by Unet;h—f-k spectra of f-k spectra of noise data removed by STCNN

对比图8f、g、h,利用STCNN方法去除噪声的f-k谱中有效信息部分要少于DnCNN和Unet,再次证明了STCNN在去除随机噪声、保证有效信息和处理细节方面,达到了一种平衡,整体去噪性能略优于DnCNN和Unet。

对合成地震数据添加不同等级的噪声进行测试,对比其去噪后的性能指标,如表1所示。当原始地震数据PSNR为12.57 dB和18.45 dB时,3种方法都表现出了一定的去噪效果,STCNN的PSNR为31.12 dB和35.15 dB分别高于DnCNN的28.31 dB、32.91 dB和Unet的29.62 dB、34.73 dB,说明STCNN比DnCNN和Unet具有更强的噪声的压制能力。STCNN的SSIM数值为0.947 4和0.990 1也高于DnCNN的0.901 5、0.971 2和Unet的0.928 6、0.983 7,说明STCNN在保护有效信息方面也要优于DnCNN和Unet。在面对低信噪比PSNR为5.36 dB时,STCNN去噪后的19.54 dB也高于DnCNN的13.64 dB和Unet的14.12 dB,仍然具有高于DnCNN和Unet的去噪性能。

表1 不同噪声水平下的去噪效果性能指标对比

Table 1 Comparison of denoising effect indexes at different noise levels

加入噪声水平	去噪算法	去噪后PSNR/dB	去噪后SSIM
σ= 10% PSNR:18.45	DnCNN Unet STCNN	32.91 34.73 35.15	0.9712 0.9837 0.9901
σ= 20% PSNR:12.57	DnCNN Unet STCNN	28.31 29.62 31.12	0.9015 0.9286 0.9474
σ= 50% PSNR:5.36	DnCNN Unet STCNN	13.64 14.12 19.54	0.6845 0.6926 0.7687

新窗口打开| 下载CSV

综合上述所有对比情况得出结论,STCNN在对合成地震数据噪声压制方面和处理细节方面都优于其他方法,对于不同等级的随机噪声也都有较好的压制效果。综合来看,STCNN比DnCNN和Unet更有利于后续的地震数据处理。

下面对3种去噪方法的损失函数曲线进行对比分析,如图9所示。STCNN损失函数的收敛速度以及收敛结果都要优于DnCNN和Unet,可以更快地达到相对稳定的收敛状态。

图9

新窗口打开| 下载原图ZIP| 生成PPT

图9 3种网络的损失函数曲线

Fig.9 Loss function curves of the three networks

为了评估不同去噪方法的训练效率,在相同的软硬件环境下,3种去噪方法训练50个epoch所需要的时间对比如表2所示。STCNN的训练时间比DnCNN多了约1.42 h,但仍低于Unet的训练时间。这是因为相较于DnCNN,STCNN结合了残差网络与可伸缩型注意力机制,模型的设计相对复杂,计算复杂度明显高于只有17层DnCNN,所以花费了更多的计算时间,这是后续STCNN需要改进的地方。

表2 3种去噪方法的运行时间对比

Table 2 Comparison of the running time of the three methods

去噪方法	DnCNN	Unet	STCNN
训练时间/h	1.45	3.36	2.87

新窗口打开| 下载CSV

2.2.2 实际地震数据测试

为了进一步对比3种方法的去噪性能,对实际地震数据进行测试,该数据为128道,每道512个采样点,采样间隔为4 ms,各个算法去噪结果如图10所示。图10a为实际地震数据,同相轴被噪声严重干扰。图10b和图10c分别为DnCNN的去噪结果和去除的噪声,图10e和图10f分别为Unet的去噪结果和去除的噪声,图10h和图10i分别为STCNN的去噪结果和去除的噪声。图10d、g、j为相应的局部相似图。从图10中可以明显发现,STCNN有效地去除了噪声,且相比较而言局部相似图最浅,说明对有效信息的破坏最小。虽然Unet和DnCNN也去除了大部分噪声,但相对而言有效信息损失较为严重。从图10方框处对比分析,STCNN比DnCNN保留了更多的地震信号局部细节,STCNN的同相轴局部信息要比DnCNN更多、更精准,构造特征更明显。所以综合比较,STCNN在噪声压制和处理细节方面效果最优,拥有更好的去噪性能,更符合地震数据处理的要求。

图10

新窗口打开| 下载原图ZIP| 生成PPT

图10 实际地震数据去噪结果

a—真实地震数据;b—DnCNN去噪结果;c—DnCNN去除的噪声;d—b和c的局部相似图;e—Unet去噪结果;f—Unet去除的噪声;g—e和f的局部相似图;h—STCNN去噪结果;i—STCNN去除的噪声;j—h和i的局部相似图

Fig.10 Field seismic signal denoising results

a—field seismic data;b—DnCNN denoising result;c—noise data removed by DnCNN;d—similarity map between panels fig.b and fig.c;e—Unet denoising result;f—noise data removed by Unet;g—similarity map between panels fig.e and fig.f;h—STCNN denoising result;i—noise data removed by STCNN;j—similarity map between panels fig.h and fig.i

3 结论

本文结合了残差网络和可伸缩型注意力机制,构建了一种高效的地震数据去噪网络,即STCNN去噪网络。该网络引入的可伸缩型注意力机制通过交替使用密集注意力模块和稀疏注意力模块,使得网络可以有效地进行全局信息的建模和提取。其通过使用卷积层和残差组分别提取地震数据浅层与深层特征,可以进一步加强模型的全局交互能力,提高去噪的效率和准确性。最后通过大量的数据训练,得到输入与输出数据之间的隐式映射关系,使模型可以直接对相似的地震数据进行去噪。

经过合成地震数据与实际地震数据测试,证明了STCNN相较于DnCNN和Unet在地震数据去噪方面表现更优秀,去噪后的结果拥有更高的峰值信噪比和结构相似性,保留了更多地震数据的细节特征,在有效去除噪声的同时也减少了对地震资料有效信息的破坏,实现了两者之间的均衡。但STCNN也存在着一些不足之处,由于实际地震数据噪声分布复杂且种类多样,面对复杂的实际地震数据,STCNN的去噪效果会受到一定的影响,还有待进一步提高。因此在下一步工作中,需要针对不同噪声进行训练,增强训练集的多样性与复杂性,提高网络的泛化性与智能去噪的能力。

参考文献

原文顺序

文献年度倒序

文中引用次数倒序

被引期刊影响因子

[1]

, Wu

, Hu

Deep learning for simultaneous seismic image super-resolution and denoising

[J]. IEEE Transactions on Geoscience and Remote Sensing, 2022, 60(1):1-11.