文档介绍:该【基于卷积神经网络和迁移学习的癫痫状态识别-论文 】是由【十二贾氏】上传分享,文档一共【7】页,该文档可以免费在线阅读,需要了解更多关于【基于卷积神经网络和迁移学习的癫痫状态识别-论文 】的内容,可以使用淘豆网的站内搜索功能,选择自己适合的文档,以下文字是截取该文章内的部分文字,如需要获得完整电子版,请下载此文档到您的设备,方便您编辑和打印。第54卷第10期天津大学学报(自然科学与工程技术版)
2021年10月JournalofTianjinUniversity(ScienceandTechnology)
DOI:
基于卷积神经网络和迁移学习的癫痫状态识别
曹玉珍1,高晨阳1,余辉1,王江2
(,天津300072;,天津300072)
摘要:随着对癫痫状态神经元电活动研究的不断深入,针对癫痫患者的电磁刺激疗法备受关注,自动准确地识别
,构建了一种由通用模型向个性化模型迁移的癫痫发作状态
,基于多个病患的脑电数据,采用一维卷积神经网络建立癫痫状态识别的通用模型,学习不同病患
癫痫发作时脑电状态的共性特征,以实现对不同病患癫痫发作状态的通用识别;其次,基于单个病患的脑电数据,
通过迁移学习将通用模型的参数迁移到个性化模型之中以简化模型训练、加速收敛,讨论了通用模型参数向个性化
-MIT数据库中17例病患的长程脑电记录数据对
算法进行验证,%.基于个性化模型对病患的长程脑电记录进行
癫痫发作起止时间判断,%%.结果表明,该模型发挥了
深度学习无需手动提取、选择特征的优势,为癫痫状态识别方法用于癫痫治疗方案的开发提供了参考与依据.
关键词:癫痫;卷积神经网络;迁移学习;个性化模型
中图分类号::A文章编号:0493-2137(2021)10-1094-07
EpilepticSeizureRecognitionUsingConvolutionalNeural
NetworksandTransferLearning
1112
CaoYuzhen,GaoChenyang,YuHui,WangJiang
(,TianjinUniversity,Tianjin300072,China;
,TianjinUniversity,Tianjin300072,China)
Abstract:Withthedeepeningofresearchontheelectricalactivityofepilepticneurons,electromagneticstimulation
,a
novelpatient-specificseizurestaterecognitiontechniquebasedonconvolutionalneuralnetwork(CNN)andtransfer
,onthebasisoftheelectroencephalogram(EEG)recordingsfrommultiplepatients,the
one-
usedtolearnthecommoncharacteristicsofEEGduringseizuresindifferentpatientstoachievegeneralrecognitionof
,onthebasisoftheEEGrecordingsfromindividualpatients,theparametersofthegeneral
modelaretransferredtothepersonalizedmodelusingtransferlearningtosimplifymodeltrainingandacceleratecon-
-
,thealgorithmisappliedtolong-term
scalpEEGrecordingsof17patientsintheCHB--
收稿日期:2020-11-11;修回日期:2020-12-21.
作者简介:曹玉珍(1963—),女,博士,教授,******@.
通信作者:余辉,******@.
基金项目:国家自然科学基金资助项目(61771330);天津市科技重大专项与工程资助项目(18ZXZNSY00240);天津市科技支撑重点
资助项目(16ZXCXSF00040).
SupportedbytheNationalNaturalScienceFoundationofChina(),TianjinScienceandTechnologyMajorProject
(),theScienceandTechnologyKeySupportProgramofTianjin,China().
2021年10月曹玉珍等:基于卷积神经网络和迁移学习的癫痫状态识别·1095·
%.Onthebasisofthepersonalizedmodel,thepatients’long-termEEGrecordingsareusedtojudge
%%,
respectively,,theEEG-basedseizurestaterecognitionmodelusingCNNandtransferlearn-
ingcouldbeusedinthedevelopmentoftreatmentprogramsforpatientswithepilepsy.
Keywords:epilepsy;convolutionalneuralnetwork;transferlearning;personalizedmodel
癫痫是一种由大脑神经元异常放电引起的慢性
大脑疾病,具有不确定性、反复发作的特点[1].癫痫1方法
状态自动识别不仅可以用于监测病患是否发病,也为
刺激控制系统,对癫痫发作状态应具有较好的识别准癫痫状态识别通用模型基于一维卷积神经网络
确率和实时性[2],而针对特定病患的癫痫发作状态自(1D-CNN)、3个最
-CNN接收长度为512
癫痫发作期间,脑电信号表现为棘波、尖波、棘的样本作为原始输入,卷积层和池化层的步长分别设
慢复合波、尖慢复合波,被认为是临床上检测癫痫样置为1和2,
、32、64,在卷积过程中
脑电片段进行特征提取后进行分类识别,目前主要基对样本边缘进行补零填充,使得经过卷积层的特征映
于时域分析、频域分析、.
完善,深度学习模型在图像识别与分割、语音识别等到大小为64×64的特征映射,然后将二维特征映射
领域都取得了很好的成果,在脑电信号分析处理中也展开成一个长度为4096的一维张量,再经过两个全
逐渐取代了部分传统模式识别方法,得到了较广泛的连接层降维之后进入Softmax层计算输入样本属于
[3]
,最后得到输入样本的模型判断类
痫脑电数据处理,-CNN模型使用ELU函数作为各中间层神经
[4]
%的识别准确率;Yao等基于双向元的激活函数,同时基于Softmax函数输出计算二值
长短时记忆网络(LSTM)对癫痫脑电发作检测的平交叉熵损失函数.
[5]
%.单绍杰等在提取小波能
量特征的基础上,将LSTM应用到单导联癫痫脑电
发作预测中.
然而,由于不同病患之间的个体差异较大,训练
一个识别准确的通用模型是很困难的,难以达到理想
,考虑到病患的个体差异性,为其
训练一个个性化的分类识别模型,以提高识别准确
率,实现癫痫状态识别的个性化.
基于深度学习构建癫痫状态识别模型[6-7],相比
于现有的基于特征提取和机器学习方法,无需手动提图1一维卷积神经网络的结构与参数
取、,不同病-
患之间异常脑电活动存在一定的共性,因此,
出一种癫痫状态识别的通用模型,采用一维卷积神经通用模型可以用于病患脑电状态的初步判断,在
于通用模型使用迁移学习的方法为每个病患训练特行预标注,同时通用模型的参数以及训练过程也可以
基于迁移学习构建,具有收敛快速、数据量需求小的支持.
[8]
优点,
·1096·天津大学学报(自然科学与工程技术版)第54卷第10期
:全面迁移和chb09、chb14、chb16和chb21的样本数目比较少(低
),因此选取除上述病患之外17名病患的EEG
全面迁移是将个性化模型的结构与参数完全按数据进行分析研究.
照通用模型实现,即在通用模型上更换不同的个性化对截取的原始EEG数据进行滤波,采用5层小
数据集,调整学习率进行二次训练从而得到特定病患波分解进行癫痫信号的降噪与重构,只保留delta、
、alpha、
卷积层迁移是把通用模型的卷积池化组合部分时的棘波相似且有紧支撑的db5小波作为母小波.
的结构与参数迁移到个性化模型之中,
几层的参数做重新训练,
以做出一定程度的调整以更好地适应个性化状态识为了建立通用模型,需要构建包含不同病患
癫痫状态识别个性化模型结构与通用模型的结量发作期样本和非发作期样本,然后按照一定比例
构(图1)相似,都是基于3个卷积层、3个池化层和2k(0<k≤1)随机选择不同病患相同数目的两类样本
,
个性化模型的激活函数与优化方法与通用模型k值不宜过大或过小,经过验证与测试,当k=
一致,分别使用ELU函数和Adagrad算法,
-score标准化处理,以便通用模型的训练.
2实验方法与结果通用模型数据集中的样本分为发作期样本和非
发作期样本共两类,
%作为模型的测试集,剩余的样
本文使用的脑电数据来源于美国国家综合医学本用于1D-CNN的训练.
研究所(NIGMS)和国家生物医学影像与生物工程研模型使用反向传播算法计算损失函数关于网络
究所(NIBIB)提供支持的生物医学信号研究资源网参数的梯度,使用自适应学习率算法Adagrad算法优
[9]
站PhysioNet中的CHB-
了23例来自波士顿儿童医院的病患的脑电数据,记()
~
续几天内监测采集到的头皮EEG信号,,为了节省计算
年龄区间为3~,基于批处理方法训练模型,批处理大小设为
%作为验证集,图2显示了模型
EEG数据采用在训练过程中损失函数值Loss在训练集和验证集上
录,,,随着迭代次数增长,
依据数据库提供的癫痫发作起止标注信息,首先有相当长的平坦期,当迭代次数达到100次时,验证
,有再次增大的趋势,说明
时间窗对发作期数据进行分段截取[10],得到若干病当前模型在数据集上训练100次左右后,继续训练可
%,,在过拟合之前,采取早停措
移动步长为1s,,故确定模型训练次数为100次.
发作期时段以相同的时间窗设置,随机截取和正样本使用准确率(accuracy,ACC)、真阳性率(true
,TPR)和假阳性率(falsepositiverate,
根据对23个病患的EEG数据经过截取后单通FPR)这3个指标评价模型的分类结果,其计算式分
道的正样本数目分析可知,病患chb02、chb06、别为
2021年10月曹玉珍等:基于卷积神经网络和迁移学习的癫痫状态识别·1097·
TP+TN据样本的时长为,
ACC=()2s512
N1
total的窗口移动步长为1s,现将窗口移动步长降低为
TP
TPR=(),也就是128个采样点,同时数据截取的起始点
TP+FN2
向后移动64个数据点(1/4s).这样可以保证重采样
FP
FPR=(3)的数据与原有样本之间不产生重复.
FP+TN
式中:TP为模型预测和真实标签都为阳性的样本个
个性化模型数据集中的样本标签设置与通用模
数;FN为模型预测为阴性但真实标签为阳性的样本
个数;FP为模型预测为阳性但真实标签为阴性的样
集中15%的样本作为模型的测试集,剩余的样本用
本个数;TN为模型预测和真实标签都为阴性的样本
于模型训练.
个数;Ntotal为样本总数.
模型的训练基于反向传播算法和Adagrad算法
接层引入随机失活()以外还使用早
值比通用模型的学习率初值稍小,~
模相对较小,为了增加批训练的次数,适当减小批处
理大小,%作为验证
集,图3显示了对于病患chb01,模型在训练过程中
图2通用模型损失函数值的变化曲线
model3可以看出,个性化模型的验证集ACC在20次左右
当模型参数k=、、
在验证集上的ACC与训练集ACC变化趋势一致,
迭代次数设为时,上述通用模型最终在测试集上
的ACC、%、%和
%.选择未入选通用模型数据集的病患(、
,训练完
、、、和)的数据
chb06chb09chb14chb16chb21EEG成之后用测试集对模型进行检验,然后得到各个病患
构建新的测试集检验模型,、及的均值
%、%%.以上结果表明,
癫痫状态识别通用模型对样本数据具有一定
EEG看出癫痫状态识别个性化模型的识别准确率都较
程度的区分能力,但针对特定病患的癫痫状态识别仍
%.识别准确
有一定的提升空间.
率最高的是病患chb10,%;识别准确率最低
的是病患chb13,%.
同时,各个病患对应的个性化模型TPR均保持
个性化模型数据集的样本混合是针对特定病患
据包含较多的冗余信息,会增加算法的计算复杂度且
可能带来模型的过拟合[11],采用卷积自编码器和费
舍尔准则[12],对病患的通道排序后,选择与分类任务
相关性最高的若干个通道子集的样本数据混合在一
.
为了提升模型精度、预防过拟合的发生,需要对
,即
针对上一步得到的通道子集中的原始EEG数据,调图3个性化模型ACC的变化曲线
·1098·天津大学学报(自然科学与工程技术版)第54卷第10期
发作和正常状态.
图4各病患个性化模型在测试集上的ACC
-
tientsusingatestset
图5病患chb04癫痫发作起止时间判断示意
在较高水平,其中最高的是病患chb10,%;
最低的是病患chb15,%;其平均值为
%,说明个性化模型在病患处于癫痫发作状态统计上述7名病患所有发作片段在测试过程中
时,将这个时期的脑电样本片段判断为癫痫发作状态的Tse和Tee,,通过连续
,FPR最低两次判别状态统一才确定状态的方法,个性化模型对
的是病患chb04,%;最高的是病患chb13,为癫痫发作起止时间判断的偏差绝大部分在3s以内,
其中T均值约为,
%;%.另外,
差不大,TNR最高的是病患chb04,%;最低本的窗长为2s,如果模型识别出的癫痫发作起止时
的是病患chb13,%;%.反映间偏差不大于3s,则认为模型正确识别出了癫痫状
[12]
癫痫发作起止时间判断
程脑电的发作起止时间判断,这使个性化模型的价值deviationsofdifferentpatients
21213
数据集构建的发作情况,将剩余发作情况对应的长程30223
EEGchb12
52332
将测试数据按照时序以2s为窗长截取EEG片
61232
段输入个性化模型,其中窗口移动步长设置为71380
,82340
当连续两次的识别结果为发作时,才判定病患进入癫91218
10chb132465
痫发作状态;当连续两次的识别结果为正常时,判定
112357
时,输出上个窗口起点对应的时间戳,作为状态改变134263
142255
se153571
偏差Tee,
171332
Tse和Tee的计算式分别为
TTT=−()182120
se0s1s4190162
chb22
TTT=−()201227
ee0e1e5
式中T、T、T、T分别代表癫痫发作开始的标定211284
0s1s0e1e222125
时间和模型判断时间、癫痫发作终止的标定时间和模232225
chb23
图5以病患chb04的某个发作片段为例癫痫发252219
2021年10月曹玉珍等:基于卷积神经网络和迁移学习的癫痫状态识别·1099·
%,
%,
,最佳的迁移模型有所不同,
3讨论可以认为这一现象产生的原因是不同病患之间个性
化数据集的样本数不同,因而最适合该病患的模型容
.
出最适合建立病患个性化癫痫状态识别模型的参数个性化模型训练使用的优化函数和通用模型训
,讨论的情况分为4种,
面迁移(A)、卷积层迁移(B)、卷积层迁移且全连接层取值范围是[,].个性化模型由通用模
网络规模增加(C)、卷积层迁移且全连接层网络规模型参数迁移而来,网络参数在源域上处于接近收敛的
减小(D),因此在进行二次训练的时候可以适当降低学习
,不断调整lr的值,统计多
迁移程度迁移方案全连接层结构次实验中个性化模型在测试集上的最佳分类准确率
A全面迁移不变
B不变的变化情况,实验结果如图6所示.
卷积层
C增大(512+256)
迁移
D减小(128+64)
个性化模型全连接层网络结构为两层,神经元数
、B、C、
D4个个性化模型,完成训练后记录各个模型的评价
,获得最佳ACC列示在表3
做多次实验,整体而言,约90%模型和最佳模型
图6最佳ACC随学习率初值变化的曲线
ACC相差在10%以内.
表3病患迁移程度不同的个性化模型在测试集上的最
theinitialvalueofthelearningrate
佳ACC
,~,
differenttransferschemesonatestset
不同迁移程度个性化模型的最佳ACC/%
病患编号>
,选择区间[,]作为个性化模型的学
习率初值取值范围.
;为了进一步提升模型对病患癫
,构建了基于迁移学习的个
,通过对个性化模型的关键参
,得到了一组较优的模型训练参数;最后
,
算法的实时性研究方面开展工作,同时搭配嵌入式便
由表3可以看出4种迁移程度对应的个性化模携脑电信号采集仪实现癫痫脑电状态识别;将癫痫状
·1100·天津大学学报(自然科学与工程技术版)