0 引言
瞬变电磁法(TEM)是一种时间域的电磁探测方法,在水文、工程、环境等探测领域得到广泛应用[1,2,3,4],全区视电阻率能快速直观反映地下地层的电性变化,目前在实际资料解释中应用广泛。由于电阻率参数与瞬变响应之间存在复杂的隐函数关系[5],直接用解析式求解视电阻率存在一定困难。前人对视电阻率的计算做了一些研究:苏朱刘等[6]提出了一种虚拟全区视电阻率,能相对反映地下电性层电阻率的变化规律;白登海等[7]借助瞬变场参数,分别迭代求取早期、晚期视电阻率的精确值,进而通过转折点构成一条完整的全区视电阻率曲线;熊彬等[8]使用逆样条插值的方法,以归一化感应电动势的极值点为界,分段用逆样条插值求解非线性方程的根,进而求出全区视电阻率;陈清礼等[9]根据二分搜索算法,找到感应电动势与视电阻率单调下降的区间,利用二分法直接求解全区视电阻率;武军杰等[10]计算了分量视电阻率,为回线瞬变电磁法多个分量综合解释提供必要的基础;郝延松等[11]对回线源瞬变电磁视电阻率计算方法进行讨论,用磁场定义全区视电阻率不存在双解问题,但现在通用的野外仪器测量感应电动势较为方便。
2006年,Hinton等[15]在《科学》首次提出深度学习,现已成为人工智能的一个研究热点。深度神经网络(DNN,deep neural network)模型相较于浅层模型(ANN)对非线性函数有更好的表示能力[16],同时具有很高的容错性、 鲁棒性及自组织性[17]。目前,结合深度学习解决瞬变电磁相关问题的研究还较少,将其引入用于瞬变电磁视电阻率计算。本文以均匀半空间中心回线瞬变电磁的解析式为基础,将其与深度学习结合,构建归一化感应电动势F(u)为输入,瞬变场参数u为输出的DNN模型。训练算法选择Nadam算法[18],该算法自适应能力强,具有预更新能力,能够加速DNN训练过程。将训练好的DNN模型进行保存,不需要通过大量迭代,只需将归一化感应电动势值代入保存好的模型,就能快速计算视电阻率。通过仿真实验及实测资料的处理,验证了该方法的实际运用效果。
1 中心回线瞬变电磁视电阻率求解
1.1 瞬变电磁视电阻率基本求解理论
瞬变电磁中心回线装置下的瞬变电磁测深,在地下为均匀介质的情况下,采用的阶跃电流脉冲函数为
电磁场存在如下解析解[19]:
结合式(2)及式(4)进行化简,可得:
式中:ρ为均匀半空间电阻率;a为发射回线半径;u为瞬变场参数;erf(u)称为概率积分;t为供电流关断后的延迟时间;μ0为均匀半空间的磁导率(一般取真空中的磁导率,μ0=4π×10-7 H/m)。
1.2 视电阻率双值问题的讨论
实际工作中,感应电动势可以由仪器测出,则将式(5)进行化简,等式右侧均为已知量,左侧为只含有瞬变场参数u的形式,令F(u)等于等式的左侧,可得:
F(u)也被称为归一化感应电动势[8]。
图1给出了归一化感应电动势F(u)与瞬变场参数u之间的函数关系。通过计算可知:u=1.613 6时,F(u)存在极大值0.701 6。在实际应用中,式(4)可以方便地计算出归一化感应电动势的值,再根据式(6)即可计算出瞬变参数u。视电阻率与瞬变场参数u满足
通过式(7)可计算出全区视电阻率,由此求解视电阻率关键的部分转化为求解式(6)。式(6)中含有概率积分,直接求解瞬变电磁场反函数存在一定困难,且根据图1,给定一个归一化感应电动势的值F(u),计算出的瞬变场参数u有2个解。
图1
图1
F(u)与瞬变场参数u的变化特征
Fig.1
F(u) and the change characteristics of the transient field parameter u
对于视电阻率的双值问题,本文以瞬变场参数u=1.613 6为界,构建2个以归一化感应电动势F(u)为输入,瞬变场参数u为输出的DNN模型,并对瞬变场参数u另一区间最大值进行确定。据式(4),瞬变场参数u与发射回线边长呈正比,与延时、电阻率呈反比。发射回线边长取野外常用的大回线边长600 m[20],延时取接收机最小延时3×10-6 s[21],不同地质年代各种岩石电阻率的变化范围在[1,100 000]Ω·m[22],电阻率取其最小值1 Ω·m,计算出瞬变场参数 u为194,以此确定瞬变场参数u的范围为(0,194]。则第一个DNN模型瞬变场参数u的区间为(0,1.613 6],第二个DNN模型瞬变场参数u的取值为(1.613 6,194]。
对所构建的2个DNN模型,发射回线边长取100 m,作出DNN视电阻率选取判别图,如图2所示。图中横、纵坐标的取值覆盖了多数岩石电阻率及市面上大多数接收机的延时范围。由图可得,第一个DNN模型比第二个DNN模型能够计算视电阻率的区域面积大很多。实际工作时,可根据发射回线边长、仪器延时范围并结合工区岩石电阻率的大致范围,确定选用哪个DNN模型进行计算。
图2
图2
DNN计算视电阻率选取判别
Fig.2
DNN calculation of apparent resistivity selection discriminant diagram
在计算出视电阻率后,借助M.N.Nabighian[23]的烟圈扩散理论,根据
计算出视电阻率ρ所对应的视深度H,绘制视电阻率与视深度断面图进行快速成像解释。
2 深度学习的设计与实现
2.1 深度学习原理
图3
具体的学习过程为:正向传播时,样本从输入层传入,输入层的值在激活函数的传递下,经各隐含层处理后,最终到达输出层。Sigmoid激活函数表达式为[26]:
式中:p为前一层神经元的值,f(p)为传递到下一层神经元的值。本文选择Sigmoid激活函数,即在神经网络中互相传递的值,均以式(9)进行传递。正向传播的最后一步为计算传递到输出层的值与期望输出值之间的误差[27]:
式中:tk为期望值,pk为实际输出值,k为样本数;对于本文所构建的DNN,tk为训练样本中瞬变场参数u的值,pk为训练样本中F(u)经神经网络各层神经元传递到输出层的值。
若计算出的误差不满足精度要求,则进行误差的反向传播,使用式(10)计算给定的瞬变场参数u值与F(u)经隐含层处理后传递到输出层值之间的误差。计算所得的误差以某种形式通过隐含层向输入层逐层反传,将误差分摊给各层的所有神经元,得到各层神经元的误差,并据此修正各层神经元权值。本文使用的Nadam算法依据式(10)修正网络连接权值,该算法将Nesterov动量的思想与adam算法进行结合,在计算梯度前将动量向量应用到参数上,直接到达“向前”看到的位置θt-1-ημ·
式中:θt-1为第t-1次迭代时选取的小批量参数值向量;μ为指数衰减率,取值范围为[0,1];η是学习率;mt-1为梯度的一阶矩估计,nt-1为二阶矩估计,ε是一个较小的随机正值,避免分母为0时学习率无穷大;f
2.2 DNN模型参数的选择及优化
根据瞬变电磁场的求解公式,不同物理参数具有不同的量纲,根据ANN特点,若不同物理参数直接输入网络,可能由于加权累加后变得异常巨大,从而使得网络难以收敛,因此有必要对网络的输入向量进行归一化处理。本文DNN中的输入及输出值使用最值法[29]:
隐含层神经元个数对构建的DNN也有较大的影响,选择合适的隐含层神经元个数可以加速DNN的收敛。文中先使用一个隐含层,即ANN模型进行确定,利用n1=
表1 人工神经网络隐含层不同神经元个数的误差情况
Table 1
| 训练样本数 | 神经元个数 | |||||
|---|---|---|---|---|---|---|
| 3 | 5 | 7 | 9 | 11 | 13 | |
| 100 | 0.250000 | 0.250000 | 0.250000 | 0.250000 | 0.250000 | 0.240000 |
| 200 | 0.2400000 | 0.240000 | 0.088714 | 0.092951 | 0.091545 | 0.086794 |
从表1及训练过程中可得出:
1) 训练过程具有一定的随机性,不同神经元个数具有不同的训练误差,神经元个数为13时,训练结果相对较好;
2) 当训练样本数为100时,增加其隐含层神经元个数,训练误差下降到0.002 5后较长时间没有下降,可能为训练过程中出现局部极小值所致;
3) 当训练样本数为200时,训练误差能够较快速跳出局部极小值,训练结果更加精确。
图4
图4
深度神经网络Nadam训练算法误差下降
Fig.4
The convergence reduction graph of the DNN Nadam training algorithm
2.3 DNN模型训练误差对比
瞬变场参数u的精度对视电阻率的影响极大,需要构建极为精确的DNN模型。实际应用中还未有完善系统化的理论来指导样本的选取,在没有公认确定使用何种处理方法可以得到较好效果时,要提高所构建的DNN模型的精度,一个非常重要的方法就是增大训练样本数量[28]。本文依据文献[19]选取训练样本数量及结合小批次的梯度下降算法,选取200 000组训练样本,发射电流为1 A,发射线框半径a=300 m,在训练过程中,将误差为4.675 6×10-6、5.531 1×10-7的2个DNN模型进行保存,用以对比分析不同训练误差DNN的实际使用效果。选取电阻率为100 Ω·m的均匀半空间地电模型进行试算验证,结果如 图5所示:在探测深度较浅时视电阻率基本一致,探测深度较深时DNN需要更高的精确度;训练误差达5.531 1×10-7的DNN模型能够更精确计算较深部的视电阻率。
图5
图5
不同训练误差DNN视电阻率对比
Fig.5
Comparison of DNN apparent resistivity with different training convergence
3 仿真实验
仿真实验选取200 000组训练样本,发射电流为1 A,发射线框半径a为300 m,使用训练误差达5.531 1×10-7的DNN模型计算视电阻率。设计了几种地电模型:①均匀半空间地电模型,电阻率100 Ω·m;②H型地电模型,ρ1=500 Ω·m, h1=100 m,ρ2=10 Ω·m, h2=200 m,ρ3=500 Ω·m;③K型地电模型, ρ1=10 Ω·m, h1=100 m,ρ2=200 Ω·m, h2=100 m,ρ3=10 Ω·m;④四层KH型地电模型, ρ1=50 Ω·m, h1=50 m,ρ2=500 Ω·m, h2=100 m,ρ3=10 Ω·m, h3=200 m,ρ4=500 Ω·m。将仿真正演出不同地电模型的感应电动势转化为归一化感应电动势并代入训练好的DNN模型,由此得到所对应的瞬变场参数 u,将其转换为视电阻率并计算出视深度后进行成像,得到视电阻率与视深度断面(图6)。
图6
图6
4种地电模型视电阻率与视深度示意
Fig.6
Schematic diagram of apparent resistivity and apparent depth of 4 geoelectric models
4 应用实例
工作区位于新疆和静县北山凹陷谷地,该地层上部为第四系洪积砂卵石加漂石层
图7
图7
和静水资源勘察视电阻率拟断面
Fig.7
Schematic diagram of apparent aesistivity and depth of Hejing’s water resources survey
该测线分布在测区中部,呈近SN向展布,由北向南测量,剖面全长100 m,测点间隔5 m。从图7中可见,视电阻率总体呈现出中部高阻、上下低阻的特征,其中在50 m以浅可见深蓝色低阻条带,其视电阻率在50 Ω·m以下;向下在50~160 m范围处,出现高阻覆盖层,电阻率常见150 Ω·m,该高阻覆盖层延续性也很好;该地层下部存在延续性良好的低阻地层,推测该高阻地层可能为承压水的顶板;在250 m附近出现条带状低阻地层,平均视电阻率60 Ω·m,根据其低阻特征及其上覆盖高阻致密层,认为该处极大可能为承压水层。后期通过钻探进行验证,和推断结果相符。
5 结论及讨论
1)深度学习相较于传统人工神经网络,对抽象数据的拟合能力更强,本文将其应用于瞬变电磁视电阻率计算。使用Tensorflow2.0构建归一化感应电动势与瞬变场参数的5层DNN模型,并对各隐含层神经元个数进行确定。训练算法选择Nadam算法,该算法能够加速训练过程,能取得较好的训练效果。
2)本文以瞬变场参数u=1.613 6为界,建立了了2个DNN模型求解视电阻率,并讨论了延时范围与电阻率的关系,DNN计算视电阻率选取判别图可较好解决计算视电阻率存在双值的问题。在观测时间较长时,对DNN的精度要求更高,对训练的DNN精度需要达到何种程度,还需要进一步的研究。
3)本文训练好的DNN模型在实测资料处理中取得了良好的使用效果。DNN在瞬变电磁的实际应用还较少,可以针对不同装置训练出与之对应的DNN,将训练出的符合精度要求的DNN运用到实际工作中。虽然训练过程费时较多,但使用保存好的DNN模型不需要进行大量迭代计算,将数据代入DNN模型就可迅速计算视电阻率,能够极大提高视电阻率计算效率。
4)影响DNN训练的参数也较多,调整不同参数就可能对训练的DNN造成较大的影响。DNN对于不同参数的选择现在还没有统一的结论,对于不同情况,要训练出符合精度要求的DNN还需要大量实验。
致谢:
感谢审稿专家提出的修改意见和编辑部的大力支持!
参考文献
中心回线方式瞬变电磁测深虚拟全区视电阻率和一维反演方法
[J].
Pseudo full-region apparent resistivity and its one-dim ensional inversion for center loop line configuration TEM data
[J].
时间域瞬变电磁法中心方式全程视电阻率的数值计算
[J].
Numerical calculation of all-time apparent resistivity for the central loop transient electromagnetic method
[J].
大回线瞬变电磁法全区视电阻率的逆样条插值计算
[J].
Inverse spline interpolation for the calculation of all-time resistivity for the large loop transient electromagnetic method
[J].
瞬变电磁法全区视电阻率的二分搜索算法
[J].
Searching algorithm for full time apparent resistivity from TEM electromotive force data
[J].
定源回线瞬变电磁x分量视电阻率计算方法
[J].
The method for Calculating x-component apparent resistivity of TEM fixed loop
[J].
磁性源瞬变电磁法视电阻率计算方法
[J].
The calculation of apparent resistivity for magnetic source TEM
[J].
瞬变电磁法正反演问题研究进展
[J].
Research progress in TEM forward modeling and inversion calculation
[J].
基于神经网络的视电阻率快速算法
[J].
A fast a1gorithm of apparent resistivity based on neural networks
[J].
基于BP网络的视电阻率快速计算
[J].
Fast algorithm for apparent resistivity calculation based on BP neural networks
[J].
Reducing the dimensionality of data with neural networks
[J].
High-dimensional data can be converted to low-dimensional codes by training a multilayer neural network with a small central layer to reconstruct high-dimensional input vectors. Gradient descent can be used for fine-tuning the weights in such "autoencoder" networks, but this works well only if the initial weights are close to a good solution. We describe an effective way of initializing the weights that allows deep autoencoder networks to learn low-dimensional codes that work much better than principal components analysis as a tool to reduce the dimensionality of data.
深度学习的昨天、今天和明天
[J].
Yesterday, today and tomorrow of deep learning
[J].
人工神经网络的发展及应用
[J].
Development and application of artificial neural networks
[J].
Incorporating nesterov momentum into adam
[J].
遗传神经网络的瞬变电磁视电阻率求解算法
[J].
Genetic neural network for apparent resistivity solution of transient electromagnetic
[J].
论瞬变电磁测深法的探测深度
[J].
On the detection depth of the transient electromagnetic sounding method
[J].
瞬变电磁法的现状与发展趋势
[J].
The status quo and development trend of transient electromagnetic method
[J].
Quasi-static transient response of a conducting half-space-an approximate representation
[J].DOI:10.1190/1.1440931 URL [本文引用: 2]
深度学习应用技术研究
[J].
Research on deep learning application technology
[J].
深度神经网络中激活函数的研究
[J].
Research on activation function in deep neural networks
[J].
基于卷积神经网络的图像分类方法研究
[D].
Research on image classification method based on convolutional neural network
[D].
神经网络的研究及应用
[D].
Research and application of neural network
[D].
BP神经网络输入层数据归一化研究
[J].
Study on data normalization in BP neural network
[J].
