Cloud classification based on ensemble learning combining with deep neural network and FSVM

深度网络与FSVM集成学习的卫星云图云分类 Cloud classification based on ensemble learning combining with deep neural network and FSVM first-author 符冉迪（1971-），男，宁波大学信息科学与工程学院副教授、硕士生导师，主要研究方向为压缩感知、数字图像处理等。E-mail： furandi@nbu.edu.cn http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050345&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050337&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050348&type= 22.01332855 32.00401306 符冉迪 （1971-），男，宁波大学信息科学与工程学院副教授、硕士生导师，主要研究方向为压缩感知、数字图像处理等。E-mail： furandi@nbu.edu.cn furandi@nbu.edu.cn corresp E-mail： 2529190845@qq.com E-mail： 2529190845@qq.com 司　光（1996-），男，山东济宁人，硕士研究生，主要从事数字图像处理方面的研究。E-mail： 2529190845@qq.com http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050352&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050372&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050360&type= 22.01333618 32.00399780 司　光 （1996-），男，山东济宁人，硕士研究生，主要从事数字图像处理方面的研究。E-mail： 2529190845@qq.com 2529190845@qq.com 宁波大学 信息科学与工程学院， 浙江 宁波 315211 宁波大学 信息科学与工程学院， 浙江 宁波 315211 Faculty of Electrical Engineering and Computer Science， Ningbo University， Ningbo 315211， China Faculty of Electrical Engineering and Computer Science， Ningbo University， Ningbo 315211， China 准确的云分类模型对气象监测有重要的意义，传统机器学习云分类模型依赖手工特征提取，容易受噪声数据影响，模型泛化能力较差。深度网络分类模型能自动学习图像深度特征，但是对于图像边缘与细节分类效果不佳。本文针对上述问题进行研究。首先提取Himawari-8卫星云图光谱特征、纹理特征用以训练模糊支持向量机（Fuzzy Support Vector Machine，FSVM）模型；同时利用不同通道云图训练深度网络，学习云图深度特征；最后，根据不同模型特性，训练元分类器对各模型输出进行融合，设计了一种基于深度网络与FSVM集成学习的云分类方法，该方法综合不同模型优势，利用不同模型间的互补性提高云分类结果的鲁棒性和可信度。相比单独使用FSVM或深度网络的分类模型，本文集成学习方法在众多评价指标中有更好的表现，平均命中率、平均误报率和平均临界成功指数分别达到0.924 5、0.079 6、0.858 1；与其它云分类模型相比，本文方法也有更好的分类效果；在具体案例测试中也发现，该方法对于不同云类混合区有更高的识别精度，而且能更加准确的识别云团边缘及细节。本文模型能够满足云分类模型稳定可靠、高精度、泛化性能强的要求。 Accurate cloud classification is of great significance for meteorological monitoring. Traditional machine learning models rely on hand-craft featurs， which is sensitive to noise data and the generalization ability is also poor. Deep neural network can automatically learn the depth features of image， but it is not good at image edge and detail classification， this paper studies on the basis of the above problems. First， the spectral features and texture features are extracted from himawari-8 satellite images to train fuzzy support vector machine （FSVM） model. At the same time， different channels of cloud images are selected to train deep neural network to learn the depth features for cloud classification. Finally， according to the characteristics of different models， the output of the two models is fused by ensemble learning to improve the classification accuracy. This article designs a cloud classification model based on ensemble learning which fuses deep neural network and FSVM. It combines the advantages of different models and makes use of the complementarity between different models to improve the robustness and reliability of the model.The experimental results show that： compared with model which uses a single model alone， the ensemble learning method proposed in this article has better performance in different evaluation indicators， The average POD， FAR and CSI were 0.9245， 0.0796 and 0.8581 respectively； this method also has better recognition effect when compared with other cloud classification models； in specific cases， it is found that this method has higher recognition accuracy in clouds mixed regions， and it can identify cloud edge and cloud details more accurately.This model can satisfy the requirements of stability， reliability， high precision and strong generalization performance of cloud classification model. Himawari - 8 云分类 深度网络 FSVM 集成学习 Himawari-8 cloud classification deep neural network FSVM ensemble learning 1 引　言 1 云在天气预报、气候监测中扮演着重要的角色，不同类型的云反映了不同天气形势和大气变化的情况，因而对于人类的生产生活来说，云的实时观测及识别有着重要意义。静止气象卫星具有覆盖范围广、时间分辨率高等特点，因此成为云分类研究中的重要手段。 传统云分类方法主要有阈值法和聚类法。其中阈值法采用不同通道阈值实现云类识别，聚类法采用直方图聚类、动态阈值聚类等进行云分类。由于卫星遥感图像在不同时刻、地点受太阳辐射不同，传统方法存在阈值难以确定的困难 ［ 1 1 - 2 2 1-2 ］ 。利用云图多光谱特性构造数据集，通过机器学习方法进行云分类已经被广泛使用，韩丁 ［ 3 3 ］ 等利用CloudSat资料，构造支持向量机模型进行云分类，取得较好结果；来旭 ［ 4 4 ］ 等首先通过无监督学习对模型进行预训练，再通过监督学习对模型微调，利用半监督学习思想，实现了云分类；但传统机器学习模型对噪声数据敏感，容易受到噪声数据、异常数据的影响；Kim ［ 5 5 ］ 引入模糊理论，构造模糊支持向量机，对不同样本赋予不同模糊隶属度，减小了噪声数据对模型的影响，使云分类模型更具鲁棒性。机器学习方法简单易行，但此类方法高度依赖人工特征提取，不同特征与特征组合会有不同识别结果，往往出现特征选择困难，模型泛化能力差，识别精度低等问题 ［ 6 6 ］ 。近年来，随着深度学习技术的发展，ALexNet、YOLO、U-Net等一系列深度网络模型被提出，各种深度网络在图像识别、目标检测、图像分割等二维图像领域得到了广泛的应用。深度网络模型不依赖人工特征提取，网络本身对图像有较强的特征学习能力，在遥感图像识别领域的应用也日益深入，Cai ［ 7 7 ］ 等结合FY-2C卫星图像，利用卷积神经网络学习云图特征并进行云分类；毋立芳 ［ 8 8 ］ 等构造FCN-CNN模型用于云检测，结合不同网络模型提高了识别准确率；Rusyn ［ 9 9 ］ 等使用U型网络进行云图分类，引入跳跃连接解决梯度消失问题，加快模型训练速度并得到较好的分类结果。深度网络结构通过深层特征提取实现卫星云图分类，但是深度网络更多地学习了图像的整体特征，对图像细节学习能力较差，而且在模型上采样层，将小尺寸特征图恢复为原始尺寸图像过程中，存在图像细节数据丢失，难以重构原始图像细节的问题 ［ 10 10 ］ 。因此深度网络在图像细节及图像边缘处容易发生误判，影响模型识别精度。 针对上述问题，本文设计了一种基于深度模型与模糊支持向量机的集成学习分类方法，分别训练基于深度网络和FSVM的云分类模型作为基分类器，并采用集成学习方法，将基分类模型分类结果进行融合，利用不同模型间的互补性增加模型的鲁棒性和可信度 ［ 11 11 ］ ，提高云分类模型识别精度。 2 遥感卫星数据与云分类原理 1 2.1　卫星数据 2 本文使用的数据来自Himawari-8静止气象卫星，Himawari-8于2015年7月正式投入使用，搭载可见光和红外扫描辐射计，作为新一代静止气象卫星，Himawari-8无论是从云图质量、获取波段数量、清晰度等都比上代卫星有大幅改善 ［ 12 12 ］ 。Himawari-8空间分辨率为0.5~2 km，时间分辨率为10 min，卫星波段数由原来的5通道扩充到16通道，包括3个可见光波段，3个近红外波段，10个红外波段。 表1 表1 为Himawari-8波段信息，卫星各波段数据可以通过Himawari-8官网进行下载。 Channel Spectral/ <math id="M1"><mi mathvariant="normal">μ</mi><mi mathvariant="normal">m</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050377&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050364&type= 4.23333359 3.13266683 Resolution/km Channel Spectral / <math id="M2"><mi mathvariant="normal">μ</mi><mi mathvariant="normal">m</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050380&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050383&type= 4.23333359 3.13266683 Resolution/km 1 0.46 1 9 7.0 2 2 0.51 1 10 7.3 2 3 0.64 0.5 11 8.6 2 4 0.86 1 12 9.6 2 5 1.6 2 13 10.4 2 6 2.3 2 14 11.2 2 7 3.9 2 15 12.3 2 8 6.2 2 16 13.3 2 本文云分类任务是后续海雾识别项目的基础，海雾识别中主要难点是在低层云雾中识别出海雾区域，因此海雾识别通常先剔除中高云与晴空区域，再从低层云雾中识别出海雾。本文云分类模型样本集构建时参考了Himawari-8卫星的二级云分类产品，该云分类产品将云图分为卷云（Cirrus）、卷层云（Cirro-stratus）、深对流云（Deep convection）、高积云（Alto-cumulus）、高层云（Alto-stratus）、雨层云（Nimbo-stratus）、积云（Cumulus）、层积云（Strato-cumulus）、层云（Stratus）。相关研究表明，积云、层积云、层云三类云底高度较低，且云粒子较小，容易与海雾混淆。而云产品其它云类云底高度往往距地面2 000~5 000 m，随高度的变化，云顶温度降低，云粒子半径变大，在辐射特性、亮温特性上与低云族有明显差异，且彼此间容易相互转化。本文云分类模型旨在识别出低层云雾，以便进一步在后期项目中实现低云与海雾的区分。因此本文对Himawari-8卫星云分类产品进行合并。为了获取准确的标注信息进行样本构建，本文利用CALIPSO星载激光雷达分析不同云类分布特点。星载激光雷达能够穿透云层及气溶胶，获取大气垂直剖面结构信息。本文利用CALIPSO星载激光雷达分析各类云分布情况，并结合气象专家意见，分别将卷云、卷层云、深对流云、高积云、高层云、雨层云合并为中高云，将积云、层积云、层云合并为低云，最终获得中高云、低云、晴空三类样本。 2.2　相关特征提取 2 Himawari-8具有较高的空间分辨率和时间分辨率，可以获取丰富的波段信息。遥感辐射特性分析是云分类的基础，不同波段具有不同的辐射特性 ［ 13 13 ］ 。在可见光-近红外波段，卫星接收到的信号来自物体反射的太阳辐射，由入射到目标的太阳辐射与目标物的反射率决定。与晴空相比，云雾具有更高的反射率，且光学厚度越大，其可见光-近红外波段的反射率越高，因此中高云反射率最高，低层云雾次之，晴空最低。中红外波段位于太阳辐射光谱和地球大气辐射光谱的重叠区，因此白天卫星在这一通道的测量辐射既有下垫面发射的长波辐射，也有下垫面反射的太阳辐射。云雾在中红外通道反射的太阳辐射主要依赖于云雾粒子的大小，粒子越小其反射强度越大。低层云雾具有较小的粒子半径，因此低层云雾在中红外通道反射的太阳辐射要比中高云反射的太阳辐射大。远红外波段卫星接收到辐射信号主要来自目标物自身发射的红外辐射，由发射辐射物体本身的温度决定。温度越低，卫星接收到的辐射值也越低。中高云高度高，温度低，辐射亮温明显低于其他下垫面；而低层云雾高度较低，顶部温度与晴空相近。综上对各通道辐射特性，本文选取可见光通道（0.64 μm），中红外通道（3.9 μm），远红外通道（11.2 μm）对应云图用于深度网络训练；提取云图辐射特征、亮温特征用于FSVM样本构建。 除了卫星通道数据外，云雾区以及其它下垫面在纹理特征上也存在较大的差异，中高云由于其云顶高度起伏较大，云粒子构成复杂，亮度变化幅度较大，纹理较粗糙；低层云雾区的云粒子较小，顶部相对光滑，纹理更均匀，边缘也较清晰 ［ 14 14 ］ 。本文利用可见光通道（0.64 μm）数据提取了卫星图像灰度共生矩阵（Gray level Co-occurrence Matrix，GLCM）、局部二值模式（Local Binary Pattern，LBP）等纹理特征。灰度共生矩阵常用于描述图像纹理特征，是一种与像素间距离和角度相关的矩阵函数，能反映图片在一定距离、一定角度等条件下纹理的变化幅度及变化速率。针对获取的灰度共生矩阵，本文提取角二阶距、对比度、熵以及逆差距作为灰度共生矩阵特征量。其中，角二阶距反映了图片灰度分布状况、纹理粗细程度以及结构特征；对比度度量矩阵中灰度值的分布情况以及图片局部变化状况，能够反映图片纹理的沟纹深浅以及图片的清晰度；熵作为对系统混乱程度的度量，可以反映图像纹理的复杂程度；逆差距是图像局部平稳性的度量，反映了图像纹理的同质性。本文选取7*7大小矩阵计算云图灰度共生矩阵并提取相关特征，以此作为中心点像素的纹理特征。LBP通常用来描述图片局部纹理特征，反映的是3*3图片中心像素点与周围像素点的关系，LBP特征具有灰度不变性和旋转不变性等优点，且该特征简单易算，因此得到了广泛的使用。 3 云分类模型 1 基于深度网络与FSVM集成学习的云分类模型框架如 图1 图1 所示，主要由以下几个部分组成：首先是基于遥感卫星数据的光谱分析与特征提取；接着，训练第一级分类器，分别利用云图光谱特征、纹理特征用于FSVM模型训练，再通过不同通道云图训练深度模型进行云图分类；最后采用集成学习方法，利用第二级分类将FSVM模型与深度模型输出结果融合，得到最终云分类结果。 3.1　基于U-Net网络的云分类模型 2 U-Net网络是一种端到端的的深度模型，网络采用了Encode-Decode结构，整体可分为编码层和解码层两个阶段。编码层通过卷积、池化进行图像特征提取，其中网络浅层特征用来解决像素定位，较深的特征则用来像素分类；解码层通过反卷积将特征图还原到图像原始尺寸。U-Net网络编码层和解码层层数相同，采用跳跃连接（skip connection）加以连通。通过跳跃连接，编码层获取的浅层特征能在解码过程中加以利用，提高图像解码时像素定位精度；此外跳跃连接能够解决模型训练时出现的梯度消失问题，改善模型训练速度 ［ 15 15 ］ 。 利用U-Net进行云分类的网络结构如 图2 图2 所示。网络的左半部分为编码层，编码层包含四次下采样，其中每次下采样包含两次卷积操作，一次池化操作。通过下采样逐层提取输入云图特征，特征图尺寸不断减小，通道数不断增加。随着层数的深入，模型也由云图浅层特征逐步学习到深层特征。网络右半部分为解码层，目的是将云图特征恢复为原始尺寸，特征图通过上采样，将云图特征通道数减半，特征图分辨率增加2倍。U-Net网络利用跳跃连接将编码部分和解码部分结合，使模型上采样能够结合云图高层次语义特征和低层次位置特征，从而达到更为精准的识别结果。经解码层后，模型得到与输入云图相同尺寸的分类概率图，并得到最终卫星云图分类结果。 3.2　基于FSVM的云分类模型 2 传统机器学习云分类模型利用卫星多通道数据构造样本，通过模型训练实现云图分类。但是卫星云图的接收过程会受到地面微波以及设备自身的影响，这些干扰会使卫星云图受到噪声影响 ［ 16 16 ］ 。上述问题会导致建立的训练数据集难以达到理想的目标，主要表现为数据集中夹杂了一些错误标注和噪声数据，如果不对这些数据进行区分，采用传统方式进行训练，模型受到异常数据的影响，会使学习过程难以朝着正确的方向进行，影响云分类准确率，降低云分类模型泛化性能。模糊支持向量机引入模糊理论，根据不同样本对分类所起作用大小为其赋予不同的隶属度，使模型能够很好的解决样本噪声影响。 模糊支持向量机引入模糊隶属度用于衡量不同样本在模型训练中的贡献，对于样本集 <math id="M3"><msubsup><mrow><mfenced open="{" close="}" separators="|"><mrow><msub><mrow><mi>x</mi></mrow><mrow><mi>i</mi></mrow></msub><mo>,</mo><msub><mrow><mi>y</mi></mrow><mrow><mi>i</mi></mrow></msub><mo>,</mo><msub><mrow><mi>s</mi></mrow><mrow><mi>i</mi></mrow></msub></mrow></mfenced></mrow><mrow><mi>i</mi><mo>=</mo><mn mathvariant="normal">1</mn></mrow><mrow><mi>n</mi></mrow></msubsup></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050445&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050426&type= 19.30400085 6.18066692 ，（ <math id="M4"><mi>n</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050463&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050459&type= 1.86266661 2.79399991 为样本数目）， <math id="M5"><msub><mrow><mi>x</mi></mrow><mrow><mi>i</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050467&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050466&type= 2.79399991 3.72533321 为数据集样本点， <math id="M6"><msub><mrow><mi>y</mi></mrow><mrow><mi>i</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050455&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050454&type= 2.62466669 4.57200003 为分类标签，隶属度 <math id="M7"><msub><mrow><mi>s</mi></mrow><mrow><mi>i</mi></mrow></msub><mo>∈</mo><mo stretchy="false">(</mo><mn mathvariant="normal">0,1</mn><mo stretchy="false">]</mo></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050481&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050478&type= 14.47799969 4.48733330 ，FSVM优化问题和约束条件如 式（1） 式（1） 所示： <math display="block" id="M8"><mtable><mtr><mtd><mi mathvariant="normal">m</mi><mi mathvariant="normal">i</mi><mi mathvariant="normal">n</mi><mfrac><mrow><mn mathvariant="normal">1</mn></mrow><mrow><mn mathvariant="normal">2</mn></mrow></mfrac><msup><mrow><mfenced open="‖" close="‖" separators="|"><mrow><mi mathvariant="bold-italic">w</mi></mrow></mfenced></mrow><mrow><mn mathvariant="normal">2</mn></mrow></msup><mo>+</mo><mi>C</mi><mstyle displaystyle="true"><munderover><mo largeop="true">∑</mo><mrow><mi>i</mi><mo>=</mo><mn mathvariant="normal">1</mn></mrow><mrow><mi>n</mi></mrow></munderover></mstyle><mrow><msub><mrow><mi>s</mi></mrow><mrow><mi>i</mi></mrow></msub><msub><mrow><mi>ζ</mi></mrow><mrow><mi>i</mi></mrow></msub></mrow></mtd></mtr><mtr><mtd><mi>s</mi><mo>.</mo><mi>t</mi><mo>.</mo><mtext> </mtext><mi>ζ</mi><mo>≥</mo><mn mathvariant="normal">0</mn><mo>,</mo><mo>∀</mo><mi>i</mi><mo>=</mo><mn mathvariant="normal">1</mn><mo>,</mo><mn mathvariant="normal">2</mn><mo>,</mo><mo>.</mo><mo>.</mo><mo>.</mo><mo>,</mo><mi>n</mi><mo>,</mo></mtd></mtr></mtable></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050487&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050483&type= 39.36999893 14.30866718 <math display="block" id="M9"><msub><mrow><mi>y</mi></mrow><mrow><mi>i</mi></mrow></msub><mo stretchy="false">(</mo><msup><mrow><mi mathvariant="bold-italic">w</mi></mrow><mrow><mi mathvariant="normal">Τ</mi></mrow></msup><msub><mrow><mi>x</mi></mrow><mrow><mi>i</mi></mrow></msub><mo>+</mo><mi>b</mi><mo stretchy="false">)</mo><mo>≥</mo><mn mathvariant="normal">1</mn><mo>-</mo><msub><mrow><mi>ζ</mi></mrow><mrow><mi>i</mi></mrow></msub><mo>,</mo><mo>∀</mo><mi>i</mi><mo>=</mo><mn mathvariant="normal">1</mn><mo>,</mo><mn mathvariant="normal">2</mn><mo>,</mo><mo>.</mo><mo>.</mo><mo>.</mo><mo>,</mo><mi>n</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050492&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050506&type= 59.18199921 5.16466665 式中， <math id="M10"><mi mathvariant="bold-italic">w</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050496&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050495&type= 3.13266683 2.79399991 为权重向量， <math id="M11"><mi>b</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050523&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050497&type= 1.86266661 2.79399991 为偏置， <math id="M12"><msub><mrow><mi>ξ</mi></mrow><mrow><mi>i</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050528&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050502&type= 2.37066650 4.57200003 为松弛变量， <math id="M13"><mi>C</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050539&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050531&type= 2.62466669 2.79399991 为惩罚因子，为了解决上式中的优化问题，通过拉格朗日函数，将上式转化为其对偶形式进行求解最终得到最优分类超平面决策函数，实现分类任务。 模糊支持向量机对不同的样本采用不同隶属度，可以减少甚至忽略非重要样本和噪声数据对云分类的影响，实现对模糊信息的处理，使云分类模型训练更加合理。本文利用提取的光谱特征及纹理特征共28维特征构造样本并进行FSVM分类模型训练。 3.3　基于深度网络与FSVM的集成学习模型 2 由于不同模型提取的特征以及不同分类方法具有明显的差异，单独使用一种特征或者分类方法难以实现高精度分类。集成学习通过构建多个分类器，并以集成方式完成学习任务，不仅能够实现分类器之间的优势互补，获得比单一分类器更好的效果，还能减少对训练所需数据的依赖程度。本文采用Stacking策略进行模型集成，该方法是一种基于多级分类思想的集成学习方法，首先利用初始训练数据学习出若干子分类器组成第一级基分类器，然后将第一级分类器的预测结果作为输入，训练第二级元分类器，将第二级元分类器输出作为模型最终结果。本文利用集成学习的思想，将深度网络与FSVM分类器作为基分类模型，在此基础上，构造元分类模型对基分类模型结果进行融合，集成学习通过在第一级分类结果的基础上进一步学习，使模型准确性和稳定性得到了提升。 基于深度网络与FSVM的集成学习模型流程如 图3 图3 所示，首先通过深度网络和FSVM模型获得不同类别分类结果，将不同分类模型结果拼接作为第二级分类器输入，经元分类器进行第二级分类后，得到集成分类结果，再结合误差反向传播，经不断迭代学习得到最终分类模型。 集成学习模型具体流程如下： （1）初始化权值，神经网络的权重初始化方法对模型的收敛速度和模型性能有着至关重要的影响，本文利用随机方式进行权值初始化。其中， <math id="M14"><mi mathvariant="bold-italic">w</mi><mo>=</mo><mo stretchy="false">(</mo><msub><mrow><mi>w</mi></mrow><mrow><mn mathvariant="normal">11</mn></mrow></msub><mo>,</mo><msub><mrow><mi>w</mi></mrow><mrow><mn mathvariant="normal">21</mn></mrow></msub><mo>,</mo><mo>.</mo><mo>.</mo><mo>.</mo><mo>,</mo><msub><mrow><mi>w</mi></mrow><mrow><mi>k</mi><mi>n</mi></mrow></msub><mo stretchy="false">)</mo><mo>,</mo><msub><mrow><mi>w</mi></mrow><mrow><mi>k</mi><mi>n</mi></mrow></msub><mo>=</mo><mfrac><mrow><mn mathvariant="normal">1</mn></mrow><mrow><mi>k</mi><mi>n</mi></mrow></mfrac></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050557&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050569&type= 49.78400040 7.87400007 ， <math id="M15"><mi>n</mi><mo>=</mo><mn mathvariant="normal">1,2</mn></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050581&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050577&type= 11.68400002 3.21733332 ， <math id="M16"><mo>…</mo><mo>,</mo><mi>N</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050593&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050582&type= 8.63599968 3.21733332 为分类类别数，由于共有三类不同的云，故 <math id="M17"><mi>N</mi><mo>=</mo><mn mathvariant="normal">3</mn></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050588&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050585&type= 9.56733322 2.87866688 。 <math id="M18"><mi>k</mi><mo>=</mo><mn mathvariant="normal">1,2</mn><mo>,</mo><mo>…</mo><mo>,</mo><mi>K</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050609&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050591&type= 22.35199928 3.21733332 为第二级分类模型输入数据维度，由于要将深度网络和FSVM模型云分类结果进行拼接，故 <math id="M19"><mi>K</mi><mo>=</mo><mn mathvariant="normal">6</mn></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050605&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050611&type= 9.48266602 2.79399991 。 （2）对模型输入加权求和。输入数据中每个元素对模型的贡献是有所差异的，因此在输入到下一层网络之前，要对每个元素进行加权求和，加权求和公式为： <math id="M20"><msub><mrow><mi>u</mi></mrow><mrow><mi>n</mi></mrow></msub><mo>=</mo><msubsup><mo>∑</mo><mrow><mi>k</mi><mo>=</mo><mn mathvariant="normal">1</mn></mrow><mrow><mi>K</mi></mrow></msubsup><mrow><msub><mrow><mi>y</mi></mrow><mrow><mi>k</mi></mrow></msub><msub><mrow><mi>w</mi></mrow><mrow><mi>k</mi><mi>n</mi></mrow></msub><mo>,</mo><mi>U</mi><mo>=</mo><mo stretchy="false">(</mo><msub><mrow><mi>u</mi></mrow><mrow><mn mathvariant="normal">1</mn></mrow></msub><mo>,</mo><msub><mrow><mi>u</mi></mrow><mrow><mn mathvariant="normal">2</mn></mrow></msub><mo>,</mo><mo>.</mo><mo>.</mo><mo>.</mo><mo>,</mo><msub><mrow><mi>n</mi></mrow><mrow><mi>n</mi></mrow></msub><mo stretchy="false">)</mo></mrow></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050619&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050623&type= 56.04933929 4.74133301 ， <math id="M21"><mi>U</mi></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050630&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050627&type= 3.04800010 2.79399991 为加权求和向量。 （3）将上一步加权求和结果输入 softmax 函数， <math id="M22"><mover accent="true"><mi>y</mi><mo>̂</mo></mover><mo>=</mo><mi>s</mi><mi>o</mi><mi>f</mi><mi>t</mi><mi>m</mi><mi>a</mi><mi>x</mi><mo stretchy="false">(</mo><mi>U</mi><mo stretchy="false">)</mo></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050644&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050633&type= 25.23066711 3.97933316 ，在多分类任务中， softmax 函数将多个神经元的输出，映射到（0，1）区间内，即每一类别的分类概率，从而得到模型分类结果 <math id="M23"><mover accent="true"><mi>y</mi><mo>̂</mo></mover></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050657&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050654&type= 1.86266661 3.72533321 。 （4）计算输出结果与标注误差。神经网络每次迭代的前向计算结果与真实值的差距，即真实值与预测值差别越，差别越大，Loss越大，模型优化的目标就是减小Loss，本文损失函数为交叉熵损失函数，表达式为： <math id="M24"><mi>e</mi><mo>=</mo><mo>-</mo><msubsup><mo>∑</mo><mrow><mi>n</mi><mo>=</mo><mn mathvariant="normal">1</mn></mrow><mrow><mi>N</mi></mrow></msubsup><mrow><msub><mrow><mi>y</mi></mrow><mrow><mi>n</mi></mrow></msub><mi>l</mi><mi>o</mi><mi>g</mi><mo stretchy="false">(</mo><msub><mrow><mover accent="true"><mi>y</mi><mo>̂</mo></mover></mrow><mrow><mi>n</mi></mrow></msub><mo stretchy="false">)</mo></mrow></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050652&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050659&type= 35.13666534 4.74133301 。 （5）利用误差反向传播算法，迭代更新模型权值，直到模型误差达到最小或迭代循环次数结束。 （6）模型训练结束后，将输出云分类模型最优识别结果， <math id="M25"><mover accent="true"><mi>y</mi><mo>̂</mo></mover><mo>=</mo><mfenced open="{" close="}" separators="|"><mrow><msub><mrow><mi>y</mi></mrow><mrow><mn mathvariant="normal">1</mn></mrow></msub><mo>,</mo><msub><mrow><mi>y</mi></mrow><mrow><mn mathvariant="normal">2</mn></mrow></msub><mo>,</mo><mo>.</mo><mo>.</mo><mo>.</mo><mo>,</mo><msub><mrow><mi>y</mi></mrow><mrow><mi>n</mi></mrow></msub></mrow></mfenced></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050675&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050671&type= 28.02466965 4.91066647 。 4 相关实验及分析 1 本文实验环境为64位版本的 Ubuntu16.4 操作系统，CPU为Intel Core i7-7700，显存为11G，显卡为NVIDIA GeForce GTX1080Ti，使用的编程语言为Python，采用了tensorflow，Keras，Pandas，Numpy等模块，实验在PyCharm平台上进行。 4.1　实验数据及评价指标 2 实验数据来自Himawari-8卫星，本文选取从2017年4月5日到2020年6月13日，116.5°E-142.25°E，16.75°N-42.5°N，共960张云图用于实验，通过参考Himawari-8云分类产品与气象专家的意见，选取中高云、低云、晴空样本，并提取样本的多通道光谱特征、GLCM与LBP纹理特征。 深度网络U-Net模型利用标注的云图构造样本，将960张标注云图按照8∶2的比例划分为训练集和测试集进行训练；训练FSVM模型时，利用光谱特征、纹理特征共28维特征用于样本构建，共获取约50 000组样本，将样本按8∶2的比例用于训练。 为了确定本文分类模型的识别效果，需要对识别结果进行精度评价，本文使用命中率（POD），误报率（FAR），临界成功指数（CSI）来评价识别效果，各评价指标如式（2）~ 式（4） 式（4） 所示： <math display="block" id="M26"><mi>P</mi><mi>O</mi><mi>D</mi><mo>=</mo><mfrac><mrow><msub><mrow><mi>N</mi></mrow><mrow><mi mathvariant="normal">H</mi></mrow></msub></mrow><mrow><msub><mrow><mi>N</mi></mrow><mrow><mi mathvariant="normal">H</mi></mrow></msub><mo>+</mo><msub><mrow><mi>N</mi></mrow><mrow><mi mathvariant="normal">M</mi></mrow></msub></mrow></mfrac></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050682&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050677&type= 27.94000053 8.89000034 ， <math display="block" id="M27"><mi>F</mi><mi>A</mi><mi>R</mi><mo>=</mo><mfrac><mrow><msub><mrow><mi>N</mi></mrow><mrow><mi>F</mi></mrow></msub></mrow><mrow><msub><mrow><mi>N</mi></mrow><mrow><mi mathvariant="normal">H</mi></mrow></msub><mo>+</mo><msub><mrow><mi>N</mi></mrow><mrow><mi mathvariant="normal">F</mi></mrow></msub></mrow></mfrac></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050692&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050689&type= 27.26266861 8.89000034 ， <math display="block" id="M28"><mi>C</mi><mi>S</mi><mi>I</mi><mo>=</mo><mfrac><mrow><msub><mrow><mi>N</mi></mrow><mrow><mi mathvariant="normal">H</mi></mrow></msub></mrow><mrow><msub><mrow><mi>N</mi></mrow><mrow><mi mathvariant="normal">H</mi></mrow></msub><mo>+</mo><msub><mrow><mi>N</mi></mrow><mrow><mi mathvariant="normal">M</mi></mrow></msub><mo>+</mo><msub><mrow><mi>N</mi></mrow><mrow><mi mathvariant="normal">F</mi></mrow></msub></mrow></mfrac></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050697&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050704&type= 34.88266373 8.89000034 ， 其中， <math id="M29"><msub><mrow><mi>N</mi></mrow><mrow><mi mathvariant="normal">H</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050715&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050713&type= 4.57200003 3.80999994 表示分类正确的像素点频数， <math id="M30"><msub><mrow><mi>N</mi></mrow><mrow><mi mathvariant="normal">M</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050729&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050719&type= 4.82600021 3.80999994 表示本应识别为A类，但错误识别为其它类别的像素点频数， <math id="M31"><msub><mrow><mi>N</mi></mrow><mrow><mi mathvariant="normal">F</mi></mrow></msub></math> http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050733&type= http://html.publish.founderss.cn/rc-pub/api/common/picture?pictureId=27050724&type= 4.31799984 3.80999994 表示本应识别为其它类别，但错误识别为A类的像素点频数。 4.2　模型在训练集与测试集中的表现 2 为了测试本文基于深度网络与FSVM集成学习模型在云分类任务中的有效性以及模型的泛化性能。本文分析了模型在训练集和测试集中的表现，结果如 表2 表2 所示。可以看到，在不同类别中，模型训练和测试过程中均有较好的表现，其中模型训练集和测试集平均命中率POD分别为0.920 4和0.924 5，平均误报率FAR分别为0.064 3和0.079 6，平均临界成功指数CSI分别为0.866 8和0.858 1，说明模型具有较高的识别精度。传统模型训练中，模型在训练集中的表现通常大大优于测试集，即模型存在过拟合现象，泛化能力较差。而本文云分类模型在训练集和测试集中均有较高精度，且对应指标差异较小，说明模型泛化能力较好，能够有效进行云类识别。 2 Model 3 Model Training 3 Model Testing POD FAR CSI POD FAR CSI Mid-high cloud 0.967 1 0.064 1 0.906 9 0.942 9 0.044 7 0.903 1 Low cloud 0.851 5 0.090 2 0.785 2 0.871 7 0.131 4 0.770 1 Clear sky 0.942 6 0.038 6 0.908 5 0.958 9 0.062 7 0.901 1 Average 0.920 4 0.064 3 0.866 8 0.924 5 0.079 6 0.858 1 4.3　模型集成学习前后实验结果分析 2 为了验证本文集成分类方法的有效性，将单独使用FSVM模型和U-Net模型与本文融合模型进行对比，实验结果如 表3 表3 所示。由 表3 表3 可以看到，对于单独的FSVM和U-Net模型，FSVM模型在低云和晴空的识别命中率更高，分别为0.865 6和0.945 1，而U-Net模型对中高云的识别命中率更高，命中率为0.961 7。集成学习对不同模型结果融合，将低云和晴空的命中率提高到0.871 7和0.958 9，中高云的命中率虽然没有达到最高，但经集成学习后，命中率也比单独使用FSVM模型有所提升。此外，FSVM模型对中高云，晴空的误判率较低，误判率分别为0.054 5和0.041 1，而U-Net网络对于低云的误判率更低，为0.132 7，经集成学习融合后，中高云，低云的误判率分别达到最低的0.044 7和0.131 3，晴空的误判率也在U-Net网络的基础上降低到0.062 8。对于临界成功指数，经集成学习后，中高云，低云的临界成功指数达到了最高的0.903 1和0.770 1，晴空临界成功指数为0.901 1，虽未达到最高，但相比U-Net网络也有较大的提升，且基本与FSVM模型临界成功指数持平。 2 Item FSVM U-net Our-approach 3 POD Mid-high cloud 0.929 7 0.967 1 0.942 9 Low cloud 0.865 6 0.782 7 0.871 7 Clear sky 0.945 1 0.917 2 0.958 9 3 FAR Mid-high cloud 0.054 5 0.065 9 0.044 7 Low cloud 0.187 6 0.132 7 0.131 3 Clear sky 0.041 1 0.089 9 0.062 8 3 CSI Mid-high cloud 0.882 4 0.902 3 0.903 1 Low cloud 0.721 4 0.699 1 0.770 1 Clear sky 0.908 3 0.841 1 0.901 1 为了更加直观地展示本文方法的有效性，选取2017-05-03、2018-04-20、2019-04-17，UTC 02：00时刻云图，使用不同方法进行分类，分类结果如 图4 图4 所示。图中（a）为可见光通道云图，（b），（c），（d）分别为FSVM，U-Net以及本文方法分类结果，（e）为标签，图中白色，灰色和黑色区域分别为中高云，低云，晴空。可以看到，在单独使用分类模型进行云分类时，FSVM模型容易将晴空区域错分为低云，且在低云中高混合区，倾向于将低云识别为高云；U-Net网络能够识别出云图基本轮廓，但是在云类混合区边缘、细节处识别不够精确。而经集成学习后，相比单独使用FSVM或U-Net模型，本文方法改善了云图边界处和不同云类混合区的分类效果，利用不同模型间的互补性提高了模型的识别精度。 4.4　不同云分类模型实验结果对比 2 本文对不同云分类模型识别效果进行比较，引入SVM模型与全卷积神经网络（Fully Convolutional Networks， FCN）。云分类识别结果如 表4 表4 示，可以看到，SVM模型对晴空的识别命中率较低，并且对低云有较高的误判率；而FCN模型对低云命中率较低，对晴空误判率较高，两者均不能较好地实现云分类。相比SVM模型和FCN模型，本文方法在不同云类、不同指标中均有更好的表现。其中，中高云、低云、晴空的命中率分别为0.942 9，0.871 7，0.958 9；误判率分别降到了0.044 7，0.131 3，0.062 8；临界成功指数也达到了0.903 1，0.770 1，0.901 1。 2 Item SVM FCN Our-approach 3 POD Mid-high cloud 0.930 4 0.931 4 0.942 9 Low cloud 0.833 1 0.702 9 0.871 7 Clear sky 0.874 1 0.932 7 0.958 9 3 FAR Mid-high cloud 0.069 5 0.052 5 0.044 7 Low cloud 0.229 9 0.180 6 0.131 3 Clear sky 0.070 7 0.179 8 0.062 8 3 CSI Mid-high cloud 0.869 9 0.885 7 0.903 1 Low cloud 0.667 4 0.608 7 0.770 1 Clear sky 0.819 6 0.774 3 0.901 1 图5 图5 为不同模型云分类结果，选取2020-02-12、2020-05-05、2020-05-06，UTC 02：00时刻云图进行识别。由 图5 图5 可知，SVM模型识别精度较低，不同类别错分较为严重，原因可能为SVM模型对云图噪声敏感，训练过程中容易受到异常数据影响；FCN模型能够学习云图深层特征，但是FCN仅利用深层特征进行上采样，忽略了浅层特征，导致模型在云团混合区识别效果不佳，且难以识别云图细节。本文将不同分类模型融合，引入模糊隶属度处理样本噪声、利用U-Net网络将深层特征与浅层特征相结合，对比其它方法，本文融合模型在分类精度上有更好的表现，对于云图边缘、细节处的识别也有更好的效果，进一步证明了本文方法的有效性。 4.5　模型运算效率对比 2 为了分析模型的计算效率，对比各方法在模型训练与模型测试中所需的时间。对不同模型耗时进行统计，结果如 表5 表5 所示，可以看到，在模型训练中，SVM模型耗时最短，为54.17 s，其次是FSVM模型，运行时间为88.31 s；随着深度学习方法模型的引入，模型训练时间大幅上升，其中FCN模型的训练时长为4 774.83 s，U-Net模型为5 400.37 s，本文集成学习方法为6 211.02 s，原因主要为深度学习模型需要学习更多参数，因此训练时间也更长。但是观察模型测试时间可以发现，相比训练时间，模型测试时间大幅下降，对于单张云图分类任务中，SVM和FSVM模型所需时间分别为7.24 s和8.79 s，FCN和U-Net模型为0.32 s和0.36 s，即使本文融合方法，模型测试时间也仅为9.33 s，说明模型耗时主要为模型参数的训练与学习。虽然本文融合模型相比其它单独分类模型的测试时间更长，但单张云图测试时长也仅为9.33 s，也有较好的实时性能。 Model Training time Testing time SVM 54.17 7.24 FSVM 88.31 8.79 FCN 4 774.83 0.32 U-Net 5 400.37 0.36 Our approach 6 211.02 9.33 s 5 总　结 1 本文针对不同分类模型的特点，结合集成学习的方法，提出了基于深度网络与FSVM集成学习分类模型。首先构造基分类器，利用Himawari-8多光谱特性，提取云图光谱特征和图像纹理特征，并进行FSVM训练与学习；然后利用多通道云图，对深度网络进行训练。针对不同模型识别结果，采用集成学习的方法进行分类结果融合。实验结果表明，相比单独使用分类模型，本文提出的集成学习方法在众多评价指标中有更好的表现。其中，平均命中率、平均误报率和、平均临界成功指数分别达到0.924 5、0.079 6、0.858 1；而且与其它分类模型相比，本文方法也有更好的识别效果。在具体案例测试中，经集成学习后，识别结果不仅在不同云类混合区有较高的识别精度，而且在云团边缘及细节处的识别也有较好的表现。这表明不同分类模型有着不同的分类特点，充分利用不同模型识别优势有助于提升模型识别效果。如何选取合适的分类模型进行融合，定量分析不同模型对识别结果的贡献，并进一步提升云分类识别精度将是接下来的研究重点。 参考文献 杨澄 ， 袁招洪 ， 顾松山 . 用多谱阈值法进行GMS-5卫星云图云型分类的研究 ［J］. 南京气象学院学报 ， 2002 ， 25 （ 6 ）： 747 - 754 . doi: 10.3969/j.issn.1674-7097.2002.06.004 http://dx.doi.org/10.3969/j.issn.1674-7097.2002.06.004 用多谱阈值法进行GMS-5卫星云图云型分类的研究 YANG C ， YUAN Z H ， GU S S . Cloud classification of GMS-5 satellite imagery by the use of multispectral threshold technique ［J］. Journal of Nanjing Institute of Meteorology ， 2002 ， 25 （ 6 ）： 747 - 754 . （in Chinese） . doi: 10.3969/j.issn.1674-7097.2002.06.004 http://dx.doi.org/10.3969/j.issn.1674-7097.2002.06.004 Cloud classification of GMS-5 satellite imagery by the use of multispectral threshold technique 张振华 ， 苗春生 ， 曾智华 ， 等 . 一种人工神经网络云分类方法的改进与应用 ［J］. 应用气象学报 ， 2012 ， 23 （ 3 ）： 355 - 363 . doi: 10.3969/j.issn.1001-7313.2012.03.012 http://dx.doi.org/10.3969/j.issn.1001-7313.2012.03.012 一种人工神经网络云分类方法的改进与应用 ZHANG Z H ， MIAO C S ， ZENG Z H ， et al . Improvement and application of artificial neural networks to cloud classification ［J］. Journal of Applied Meteorological Science ， 2012 ， 23 （ 3 ）： 355 - 363 . （in Chinese） . doi: 10.3969/j.issn.1001-7313.2012.03.012 http://dx.doi.org/10.3969/j.issn.1001-7313.2012.03.012 Improvement and application of artificial neural networks to cloud classification 韩丁 ， 严卫 ， 任建奇 ， 等 . 基于支持向量机的CloudSat卫星云分类算法 ［J］. 大气科学学报 ， 2011 ， 34 （ 5 ）： 583 - 591 . doi: 10.3969/j.issn.1674-7097.2011.05.008 http://dx.doi.org/10.3969/j.issn.1674-7097.2011.05.008 基于支持向量机的CloudSat卫星云分类算法 HAN D ， YAN W ， REN J Q ， et al . Cloud type classification algorithm for CloudSat satellite based on support vector machine ［J］. Transactions of Atmospheric Sciences ， 2011 ， 34 （ 5 ）： 583 - 591 . （in Chinese） . doi: 10.3969/j.issn.1674-7097.2011.05.008 http://dx.doi.org/10.3969/j.issn.1674-7097.2011.05.008 Cloud type classification algorithm for CloudSat satellite based on support vector machine 来旭 ， 李国辉 ， 张军 . 基于半监督FCM聚类算法的卫星云图分类 ［J］. 国防科技大学学报 ， 2008 ， 30 （ 6 ）： 73 - 77 . doi: 10.3969/j.issn.1001-2486.2008.06.016 http://dx.doi.org/10.3969/j.issn.1001-2486.2008.06.016 基于半监督FCM聚类算法的卫星云图分类 LAI X ， LI G H ， ZHANG J . Satellite cloud images classification based on semi-supervised FCM method ［J］. Journal of National University of Defense Technology ， 2008 ， 30 （ 6 ）： 73 - 77 . （in Chinese） . doi: 10.3969/j.issn.1001-2486.2008.06.016 http://dx.doi.org/10.3969/j.issn.1001-2486.2008.06.016 Satellite cloud images classification based on semi-supervised FCM method KIM K B ， SONG D H ， BAE Y . A fuzzy logic approach for cloud classification based on near-infrared image features ［C］. 2013 International Conference on Fuzzy Theory and Its Applications （iFUZZY）. 68，2013 ， Taipei， China. IEEE ， 2013 ： 130 - 133 . doi: 10.1109/ifuzzy.2013.6825423 http://dx.doi.org/10.1109/ifuzzy.2013.6825423 A fuzzy logic approach for cloud classification based on near-infrared image features 陈珂锐 ， 孟小峰 . 机器学习的可解释性 ［J］. 计算机研究与发展 ， 2020 ， 57 （ 9 ）： 1971 - 1986 . doi: 10.7544/issn1000-1239.2020.20190456 http://dx.doi.org/10.7544/issn1000-1239.2020.20190456 机器学习的可解释性 CHEN K R ， MENG X F . Interpretation and understanding in machine learning ［J］. Journal of Computer Research and Development ， 2020 ， 57 （ 9 ）： 1971 - 1986 . （in Chinese） . doi: 10.7544/issn1000-1239.2020.20190456 http://dx.doi.org/10.7544/issn1000-1239.2020.20190456 Interpretation and understanding in machine learning LAI C ， LIU T ， MEI R W ， et al . The cloud images classification based on convolutional neural network ［C］. 2019 International Conference on Meteorology Observations （ICMO） . December 28-31， 2019 ， Chengdu， China . IEEE ， 2019 ： 1 - 4 . doi: 10.1109/icmo49322.2019.9026121 http://dx.doi.org/10.1109/icmo49322.2019.9026121 The cloud images classification based on convolutional neural network 毋立芳 ， 贺娇瑜 ， 简萌 ， 等 . 局部聚类分析的FCN-CNN云图分割方法 ［J］. 软件学报 ， 2018 ， 29 （ 4 ）： 1049 - 1059 . doi: 10.13328/j.cnki.jos.005409 http://dx.doi.org/10.13328/j.cnki.jos.005409 局部聚类分析的FCN-CNN云图分割方法 WU L F ， HE J Y ， JIAN M ， et al . Local clustering analysis based FCN-CNN for cloud image segmentation ［J］. Journal of Software ， 2018 ， 29 （ 4 ）： 1049 - 1059 . （in Chinese） . doi: 10.13328/j.cnki.jos.005409 http://dx.doi.org/10.13328/j.cnki.jos.005409 Local clustering analysis based FCN-CNN for cloud image segmentation RUSYN B ， KORNIY V ， LUTSYK O ， et al . Deep learning for atmospheric cloud image segmentation ［C］. 2019 XIth International Scientific and Practical Conference on Electronics and Information Technologies （ELIT）. 1618，2019 ， Lviv， Ukraine. IEEE ， 2019 ： 188 - 191 . doi: 10.1109/elit.2019.8892285 http://dx.doi.org/10.1109/elit.2019.8892285 Deep learning for atmospheric cloud image segmentation 徐丽娟 . 基于纹理分析云的分类技术的研究 ［D］. 南京 ： 南京信息工程大学 ， 2012 . 基于纹理分析云的分类技术的研究 XU L J . Research on the Cloud Classification Technology Based on the Texture Analysis ［D］. Nanjing ： Nanjing University of Information Science & Technology ， 2012 . （in Chinese） Research on the Cloud Classification Technology Based on the Texture Analysis ZHU X F ， MA B ， GUO G J . An adaptive-weight regularization method for multi-classifier fusion decision ［C］. 2014 International Conference on Mechatronics and Control （ICMC）. 35，2014 ， Jinzhou， China. IEEE ， 2014 ： 343 - 346 . doi: 10.1109/icmc.2014.7231575 http://dx.doi.org/10.1109/icmc.2014.7231575 An adaptive-weight regularization method for multi-classifier fusion decision 郑益勤 ， 杨晓峰 ， 李紫薇 . 深度学习模型识别静止卫星图像海上强对流云团 ［J］. 遥感学报 ， 2020 ， 24 （ 1 ）： 97 - 106 . doi: 10.11834/jrs.20208209 http://dx.doi.org/10.11834/jrs.20208209 深度学习模型识别静止卫星图像海上强对流云团 ZHENG Y Q ， YANG X F ， LI Z W . Detection of severe convective cloud over sea surface from geostationary meteorological satellite images based on deep learning ［J］. Journal of Remote Sensing ， 2020 ， 24 （ 1 ）： 97 - 106 . （in Chinese） . doi: 10.11834/jrs.20208209 http://dx.doi.org/10.11834/jrs.20208209 Detection of severe convective cloud over sea surface from geostationary meteorological satellite images based on deep learning 李冰洁 . 气象卫星系统的云图自动分类识别研究 ［D］. 西安 ： 西安科技大学 ， 2019 . doi: 10.23919/picmet.2019.8893960 http://dx.doi.org/10.23919/picmet.2019.8893960 气象卫星系统的云图自动分类识别研究 LI B J . Automatic Classification and Recognition Research about Cloud on Meteorological Satellite System ［D］. Xi'an ： Xi'an University of Science and Technology ， 2019 . （in Chinese） . doi: 10.23919/picmet.2019.8893960 http://dx.doi.org/10.23919/picmet.2019.8893960 Automatic Classification and Recognition Research about Cloud on Meteorological Satellite System CHETHAN H K ， KUMAR G H ， R R . Texture based approach for cloud classification using SVM ［C］. 2009 International Conference on Advances in Recent Technologies in Communication and Computing . 2728，2009 ， Kottayam ， India . IEEE ， 2009 ： 688 - 690 . doi: 10.1109/artcom.2009.43 http://dx.doi.org/10.1109/artcom.2009.43 Texture based approach for cloud classification using SVM JIAO L ， HUO L ， HU C . Refined UNet： UNet-Based Refinement Network for Cloud and Shadow Precise Segmentation ［J］. Remote Sensing ， 2020 ， 12 （ 12 ）： 2001 . doi: 10.3390/rs12122001 http://dx.doi.org/10.3390/rs12122001 Refined UNet： UNet-Based Refinement Network for Cloud and Shadow Precise Segmentation 邱云志 ， 汪廷华 ， 余武清 . 模糊支持向量机研究综述 ［J］. 赣南师范大学学报 ， 2020 ， 41 （ 3 ）： 26 - 32 . doi: 10.13698/j.cnki.cn36-1346/c.2020.03.007 http://dx.doi.org/10.13698/j.cnki.cn36-1346/c.2020.03.007 模糊支持向量机研究综述 QIU Y Z ， WANG T H ， YU W Q . A review of fuzzy support vector machines ［J］. Journal of Gannan Normal University ， 2020 ， 41 （ 3 ）： 26 - 32 . （in Chinese） . doi: 10.13698/j.cnki.cn36-1346/c.2020.03.007 http://dx.doi.org/10.13698/j.cnki.cn36-1346/c.2020.03.007 A review of fuzzy support vector machines 10.37188/OPE.20223008.0917 TP751.1 A 1004-924X（2022）08-0917-11 符冉迪,司光,金炜.深度网络与FSVM集成学习的卫星云图云分类[J].光学精密工程,2022,30(08):917-927. 符冉迪,司光,金炜.深度网络与FSVM集成学习的卫星云图云分类[J].光学精密工程,2022,30(08):917-927. FU Randi,SI Guang,JIN Wei.Cloud classification based on ensemble learning combining with deep neural network and FSVM[J].Optics and Precision Engineering,2022,30(08):917-927. FU Randi,SI Guang,JIN Wei.Cloud classification based on ensemble learning combining with deep neural network and FSVM[J].Optics and Precision Engineering,2022,30(08):917-927. 国家自然科学基金项目（No.42071323）；浙江省自然科学基金项目（No.LY20H180003）；宁波市自然科学基金项目（No.2019A610104）；宁波市公益类研究项目（No.202002N3104） 2021-03-15 2021-05-14 2022-04-25 2022-04-26 光学精密工程 8 30